试了几次,每次回答问题不会基于前面的内容
是的,目前不支持
连续对话只需要把上文再次发给chatGPT的API就行,可以参考下我写的这个 https://getquicker.net/Sharedaction?code=4268f4d5-079e-4797-5302-08db2327d866
这个上下文简单粗暴但的确管用
谢谢,所以连续对话会非常耗费token
实际上,官方文档提到https://platform.openai.com/docs/guides/chat/introduction#:~:text=Including%20the%20conversation,in%20some%20way. chatGPT没有记忆上下文的能力,所以要么把上下文放在Meassge字段里,但直接传递上下文也是一样的,现在的UI也基本都是按这个方法实现的,耗费token也没什么很好的办法
老哥,我又来打扰你了,这次是上下文和压缩token的建议。仔细看了看openai的文档,它提到role为“system”的时候,其内部消息是用来确定全文的基调。(补充:这个对gpt-3.5有效,gpt-3.5-turbo0301似乎不怎么关注system消息,更关注第一条role为user的message)。因此这个跟直接将上下文暴力发送还是有差别的(system的消息权重衰退没那么快)。此外,也可以发消息要求chatGPT压缩上文token(“请总结这段话的涵义,然后以你最大能力不丢失重要信息的情况下压缩这句话的长度”,一般不会丢失关键消息,也可以限制字数但不推荐)
我现在地做法就是发送所有文本作为prompt,这样比较简单一点,不用自己维护历史记录,上下文gpt也理解的还行。另外,压缩token我不太明白怎么做,也不知道压缩后会有什么影响,我的想法就是连续多次追问的话还是上官网吧,我一般最多追问3次就结束对话了。我也没细看过api文档,回头优化动作有新想法了再看看。
哈哈,我是最近在看这个文档,想起了这个回复,再补充一点信息。可以理解,每个人精力都有限,我也只是提供一点思路。
嗯,谢谢你的建议
是的,目前不支持