在对话过程中,达到token上限会无回复,请问该如何调整,使得动作不中断
估计只能减少使用的token数才行了。减少历史消息的传送。
具体是什么样的情况会达到token上限呢?
是这个问题,就是连续对话出现的,不是单次输入超过限制,应该如何解决呢😂谢谢
减小自动记忆的历史消息数量试试
就是在同一个对话框中提问,累计超过一定的字数,会没有回复,然后中断