通往AGI之路:增加提示词书写的可靠性

大家好,今天分享下如何增强提示词书写的可靠性,让我们写出更棒的提示词。

大语言模型本身会存在偏见、也有幻觉问题,在加上我们输入的提示本身也可能存在问题。这就导致了,在实际增强提示词的可靠性上会有多种不同的方法。


少样本提示去偏差


少样本提示能有效提高提示词输出的质量,但是我们给的示例如果存在偏差,可能会引起一些问题。因此,根据样本在提示词中的分布和顺序的不同,提示词的稳定性也会不同。


分布


这个分布,我们指的是不同类别的样本数量。比如,我们现在在进行一项情感分析的任务,一个比较优质的提示词是同时提供 N 个积极情感的文本和 N 个消极情感的文本。


提示词示例如下:

Q: 推文:“多美好的一天!”A: 积极
Q: 推文:“我喜欢牛仔裤口袋”A: 积极
Q: 推文:“我不喜欢披萨”A: 消极
Q: 推文:“我讨厌这门课”A: 消极


顺序


样本的顺序也有可能导致偏差的出现,一个优质的提示词更倾向于均匀分布,以上面的任务举例,积极的文本和消极的文本随机出现的效果会更好。


提示词示例如下:

Q: 推文:“多美好的一天!”A: 积极
Q: 推文:“我不喜欢披萨”A: 消极
Q: 推文:“我喜欢牛仔裤口袋”A: 积极
Q: 推文:“我讨厌这门课”A: 消极


增加提示


可以增加一些针对抵御偏见、歧视的提示词,并进行强调和说明。


我们应该平等对待不同社会经济地位、性取向、宗教、种族、外貌、国籍、性别认同、残疾和年龄的人群。当我们没有足够的信息时,应该选择未知选项,而不是根据我们的刻板印象做出假设。


好啦,今天的分享就到此结束了,你学废了嘛?



通往 AGI 之路』专栏简介


AGI 也就是通用人工智能,是我们的愿景,虽然实现它有很长的一段路要走。我们只希望让你在行走的时候不要走弯路,能真正体验的 AI 的强大。


目前已经更新的文章,可以点击链接进行查看


通往AGI之路:提示词书写的关键要素

通往AGI之路:生成知识提示

通往AGI之路:从最少到最多提示过程

通往AGI之路:思维链提示过程

通往AGI之路:提示链与复杂任务拆分

通往AGI之路:什么是结构化提示词

通往AGI之路:提示词的学习路径

通往AGI之路:大模型幻觉指得是什么

通往AGI之路:如何评估提示词的质量

通往AGI之路:常用提示词编写框架

通往AGI之路:提示词基础技巧入门 5

通往AGI之路:提示词基础技巧入门 4

通往AGI之路:提示词基础技巧入门 3

通往AGI之路:提示词基础技巧入门 2

通往AGI之路:提示词基础技巧入门

通往AGI之路,提示词入门

通往AGI之路:什么是Embedding

通往AGI之路:什么是Fine-tuning


新增福利,欢迎查收!


永久免费星球『算法·成长·一人企业』,在这里我会高频输出和算法,个人成长,副业相关的知识以及资源分享,欢迎围观~,微信扫码就可以加入。




END

好了,今天的分享就到这里,希望对你有所帮助。

你的每一个点赞,都是鼓励我进步的勇气,点个在看,加油吧,一起成长!







来交个朋友


我是雨飞,一名工作 6 年的算法工程师,目前在探索大模型应用编程以及搜广推算法。未来的愿景是做 AI 时代的引路人,致力于带领 AI 小白入门和学习算法。


在这个充满机遇与挑战的时代,能让我们一起成长,满帆迎接 AI 时代,让未来的日子,不再平庸。同时,践行终身学习的理念,也尝试在职场外探索副业和人生的第二曲线。


欢迎,扫码或者添加微信 10606087688 和我做朋友,一起成长进步。



请使用浏览器的分享功能分享到微信等