跳到主要内容
火花工坊
同一个对话框聊太久 AI真的会失忆

同一个对话框聊太久 AI真的会失忆

不是错觉。你在同一个对话框里聊太久,AI真的会越来越差。

问题出在它的记忆方式上。大模型没有真正的记忆,它每次回答,都是把你们从头到尾的整段对话重新读一遍。这个能读进去的总长度有上限,叫上下文窗口。一旦超了,最早的内容就被挤出去,它看不见了。

就算没超,麻烦也在。对话越长,它要同时顾及的信息越多,注意力就被摊薄。开头你定的规则、给的背景,到后面权重越来越低。于是它开始重复说过的话,忘了你第二句就提过的要求,语气也慢慢变回默认的那套客套。

有个笨办法很管用:一个任务开一个新对话。做到一半发现它跑偏了,别在原对话里反复纠正,把目前确认好的结论复制出来,开新窗口重新交代一遍。要它遵守的规则,写在每条新对话的开头,不要指望它从上一段里继承。

跟AI干活,像带一个记性很好、但只能记一页纸的助理。纸写满了就换一张,别往上接着挤。

来自小组:AI入门科普组

登录后可点赞、收藏、评论和举报。

0/2000

评论 0

更多

还没有评论,先发起一个具体问题。