大家好，你可能在很多地方，都听说了大模型幻觉这个概念，今天就分享一点关乎大模型幻觉的思考。

1、大模型幻觉的概念

大语言模型会根据我们的输入进行输出，而有的时候模型输出的结果会包含一些事实性的错误，这种情况就好像是一个人触发了自己的幻觉一样，因此也被称为大模型的幻觉问题。

比如，我们在询问大模型，小米15的手机售价是多少，大模型仍然会给出自己的回答，但是实际上是不正确的。这种问题就可以看成是大模型的幻觉问题。

幻觉问题本身由于大模型的训练机制、训练数据里本身包含错误以及模型容量等问题的制约，是不可避免会发生的。但是我们仍然可以做一些措施来减少幻觉的出现。

2、如何避免和减少幻觉的产生

最重要的一点，我们要保证自己书写的提示词要清晰，没有歧义，满足一个高质量提示词所具备的条件，这样才会得到高质量的回答。不然，很大概率是会有问题的。

在此基础上，由于大模型一般不会实时更新自己的知识库，而且大模型也无法准确预知未来可能发生的事情。因此最新和未来的信息，你询问大模型就很大几率获取到不正确的回答。

有的大模型会提供网络检索的功能来回复最新的一些信息，但由于功能本身并不完善，很难得到高质量的回答。

其次，我们在对大模型提问的时候，可以增加有效的上下文信息，或者对模型的输出增加一些限制，让大模型在不知道的时候就不要进行回答。同时，可以让大模型输出自己观点的参考依据，这些方式都能在一定程度上减少幻觉的产生。

当然，从技术上来讲，还可以使用检索增强相关的手段来帮助我们减少幻觉问题。比较常见的角色扮演机器人，知识问答系统都用到了检索增强相关的技术，在后面的文章中，我们也会为大家讲述这方面的知识，请尽情期待。

新增福利，欢迎查收！

永久免费星球『算法·成长·一人企业』，在这里我会高频输出和算法，个人成长，副业相关的知识以及资源分享，欢迎围观~，微信扫码就可以加入。

通往 AGI 之路专栏简介

AGI 也就是通用人工智能，是我们的愿景，虽然实现它有很长的一段路要走。我们只希望让你在行走的时候不要走弯路，能真正体验的 AI 的强大。

目前已经更新的文章，可以点击链接进行查看：

END

好了，今天的分享就到这里，希望对你有所帮助。

你的每一个『点赞』，都是鼓励我进步的勇气，点个『在看』，加油吧，一起成长！