关于「能不能记录更多历史记录」(以及什么是 tokens)

经验创意 · 282 次浏览
Moy 创建于 2023-03-12 14:25

开宗明义

因为收到几次反馈了,所以专门在这里说一下~

 

这个动作的初心就是方便你随时快速地调用 ChatGPT,来回问几个小问题。

如果是需要很多轮对话的,建议还是用官方的网页版,那边才能完整记录历史记录。

 

以后能支持吗?

这个动作目前不支持在同一个界面一直进行很多轮对话」,也不支持「下一次调用的时候保留之前的历史数据」;

以后估计也不会支持……

 

为什么呢?

因为 ChatGPT 目前开放的 API 存在限制

如果要保留对话历史记录,每次都需要把「所有对话数据」一起发送出去。

 

也就是说,如果我和 ChatGPT 聊了五个问题,第六次需要把「前5次的问答+这次的新问题」一起发送过去,它才能基于所有这些历史问答给出回复。

这个数量级是不断累计起来的,第七次就得是「前6次的问答+第七次的问题」……以此类推。

你花的钱也会咔咔增加。

 

而它还存在一个 Token数 的概念(你在设置里也可以看到这个限制的设置),你可以理解为“字数限制”。

粗略来说,大概可以按照「1个汉字=2、3个 token」这样来理解(很不精确,有个感性的认知就可以)

 

比如我提问「你好」,它回答「您好!有什么我可以帮您的吗?」

在返回的数据中可以看到:prompt_tokens":9,"completion_tokens":18,"total_tokens":27

 

也就是:提问占9个 tokens,回答占 18 个 tokens,总共27个 tokens。

这样最简单的一次对话都有几十个 tokens,复杂一点的回答随随便便就是几百个 tokens。

 

而目前的 ChatGPT API 本身有一个 4096 tokens 的上限,实际上你多进行几次比较长的复杂对话,就会把4000多个 tokens 的限制用完,然后 ChatGPT 的回答就会被截断了。

 

这就是为啥目前支持不了,以后也不太会去支持。

 

 

ChatGPT 本身网页挺好用的(就是要登录而且有时候连不上,导致我不太喜欢用x),纯纯是出于「想要更方便的随时调用」而开发的这个动作,所以还是建议各取所长,根据自己的需求来选用这个 Qk 动作或是原版网页端~

Moy 最后更新于 2023/3/12

回复内容
暂无回复
回复主贴