AI为什么会一本正经地胡说八道

AI会胡说八道，不是因为它坏了，是因为它本来就在猜。

大模型做的事说穿了只有一件：根据前面出现的字，猜下一个最可能出现的字。你问它《红楼梦》的作者是谁，它不是去书架上翻资料，而是在算「无数篇文章里，这个问题后面最常跟着的答案是什么」。

所以它会编。当训练数据里没有确切答案时，它不会说我不知道，它会按最像答案的样子，生成一段通顺的话。书名、人名、年份，格式都对，读起来也顺，但可能全是编的。

这叫幻觉。它不是bug，是这套生成机制的副作用。你越是要求它给个准话，它编得越完整、越自信。

有个笨办法很好用：把问题问小。别问「某某论文讲了什么」，改问「这篇论文里有没有提到某某方法」。给它一个能核对的范围，它编的空间就小了。重要信息让它给出处，然后你自己点进去看一眼。

AI不是百科全书，是一台概率机器。用它提速可以，最后那道关留在自己手里。