AI调用模块的疑问

astroStar 创建于 2024-12-29 16:58

这个历史消息指的是什么，会把整体的历史消息不断结合起来发一次给AI吗，这样不就会增加每次会话大量的TOKEN?

astroStar 最后更新于 2024/12/29

请绑定手机号后发表评论

CL 2024-12-29 21:23

对，上下文的保持是通过把历史消息发送给AI实现的。

astroStar 回复 CL 2024-12-29 21:59 :

ai模型不能自动记录之前的历史消息吗？每次发送请求得把之前的提问和答复都重复发一遍上去，岂不是很浪费token

CL 回复 astroStar 2024-12-29 22:01 :

这个你最好直接去看OpenAI的文档，了解一手信息。

请绑定手机号后发表评论

zryan 2024-12-30 18:56

第三方应用通过 API 实现对话的原理就是每次都会把历史对话数据全都带着发出去，所以这个没有浪费一说，而是原理就是这样，大家都是这样。

astroStar 回复 zryan 2024-12-30 19:20 :

停止输出的原理是什么，是怎么实现的

zryan 回复 astroStar 2024-12-30 21:24 :

客户端关闭连接

请绑定手机号后发表评论