OpenAI科学家Andrej Karpathy:LLM不想要成功,但你可以要求成功


注:本篇内容首发于花生的付费专栏「ChatGPT精进指南」,如果你想更系统性学习ChatGPT的原理和使用技巧,欢迎通过这个链接或底部「阅读原文」进行订阅:https://xiaobot.net/p/AIclass

在去年的Microsoft Build 微软开发者大会上,OpenAI的科学家Andrej Karpathy做了个关于LLM(大型语言模型)是怎么训练的,有什么特点,以及如何从中获得更好结果的演讲"State of GPT",非常建议收看。前20多分钟关于LLM如何被训练出来的比较难理解,如果看不懂跳过就可以,但是后面的讲到LLM的特定以及我们平时使用时如何获得更好结果的部分非常具有启发,建议不要错过。视频点这里

这篇文章简单介绍下它关于LLM并不想成功的概念,Andrej提到因为LLM的训练语料非常丰富,质量有高有低,所以他在通常情况下只会提供平庸的结果,但是你可以要求更好的表现,主要方式有两个:

  1. 告诉模型一步步思考,这里的原理实际是让模型有更多的token可以去回顾和参与后续文本的预测,表现最好的prompt"Let's work this out in a step by step way to be sure we have the right answer."

  2. 让模型扮演专家,提供专家级的结果,这部分实际上有点像让模型去搜寻专家语料库的文本数据,Andrej建议的prompt"You are a leading expert on this topic"。

上述两个技巧实际上我在之前的视频课程和专栏prompt文章内都有介绍过,但是现在属于更清楚的知道这些prompt能生效的原理了。下面我在一个非常简单的问题上“番茄炒鸡蛋怎么做最好吃”上增加了上述的两个prompt,你可以看看和不增加对应prompt时模型表现的差异。

1、基础Prompt“番茄炒鸡蛋怎么做最好吃”

在这个prompt下,GPT4提供的答案也不错,但是没有原理的解释,缺乏做菜时需要关注的细节。

以下是一个简单的番茄炒鸡蛋的做法:

材料:

  1. 新鲜番茄 2个

  2. 鸡蛋 3个

  3. 盐 适量

  4. 料酒 适量

  5. 白糖 适量

  6. 青葱 适量

步骤:

  1. 将鸡蛋打入碗中,加入适量的盐和料酒搅打均匀备用。

  2. 将番茄洗净后切块,大小可以按个人喜好来切。

  3. 锅热油后,将打好的鸡蛋液倒入锅中,翻煎至鸡蛋两面金黄取出备用。

  4. 用剩余的油将番茄块煎至微软,加入适量的盐和白糖。

  5. 将煎好的鸡蛋块重新倒入锅中,和番茄块一起翻炒均匀。

  6. 炒至出汁后,撒上切好的青葱即可出锅。

注意事项:

  1. 料酒可以帮助去蛋的腥味,同时使鸡蛋更加嫩滑。

  2. 加入糖可以中和番茄的酸味,如果你喜欢酸甜口感的话,可以适当加多一些糖。

  3. 番茄炒鸡蛋的炒制时间不要过长,这样可以保持番茄和鸡蛋的新鲜口感。

祝你烹饪愉快!

2、一步步思考的prompt“Let's work this out in a step by step way to be sure we have the right answer,番茄炒鸡蛋怎么做最好吃”

在这个prompt下,GPT4提供了更详细的制作步骤和在步骤中需要关注的细节,比如提到了需要“中火”,炒鸡蛋时不要搅拌要等待边缘凝固等。

当然,我可以为你提供如何制作最美味的“番茄炒鸡蛋”的详细步骤。这是中国菜中经典的家常菜。以下是详细的步骤:

材料:

  • 3个大鸡蛋

  • 2个中等大小的番茄

  • 食盐适量

  • 1茶匙糖(这可以提升番茄的口感,但是可选的)

  • 1-2根葱

  • 2汤匙的植物油

步骤:

  1. 首先,准备食材:

  • 将鸡蛋打入碗中,加入一点盐,然后搅拌均匀。

  • 洗净番茄并切成小块。

  • 将葱切成小块。

  • 在中火上热锅,然后加入1汤匙的植物油。

  • 将打好的鸡蛋倒入锅中。不要搅拌,等到鸡蛋边缘开始凝固。

  • 用铲子轻轻搅动鸡蛋,将其打成大块。不要将其搅拌太过碎,这道菜需要较大的鸡蛋块。煎至鸡蛋刚刚凝固但不要太干,然后取出并放在一旁。

  • 在锅中加入另一汤匙的油,然后加入切好的番茄。翻煎一两分钟,然后加入糖和一点盐。

  • 继续翻煎,直到番茄开始变软并释放出汁液。你可以用铲子轻轻压一下番茄,帮助它们更好地烹煎。

  • 将煎好的鸡蛋倒回锅中,与番茄混合。

  • 加入切好的葱,快速搅拌,然后关火。

  • 将热乎乎的番茄炒鸡蛋与一碗蒸米饭一起享用。享受吧!

    请记住,这是一个相当简单的食谱,不同的人可能有不同的口味。你可以根据自己的口味调整食谱,比如增加或减少盐、糖或葱的量。

    3、扮演专家的prompt“You are a leading expert on this topic,番茄炒鸡蛋怎么做最好吃”

    在这个prompt下,GPT4尝试了更多的原理,比如为什么鸡蛋要先炒,番茄和鸡蛋一起炒的时候要注意让鸡蛋吸收番茄的汤汁等。

    番茄炒鸡蛋是一道非常受欢迎的中式家常菜,其色彩鲜艳,味道鲜美,营养丰富。下面是我为你准备的做法:

    材料:

    1. 番茄2个

    2. 鸡蛋3个

    3. 盐适量

    4. 糖适量

    5. 食用油适量

    6. 葱花适量

    7. 料酒适量

    步骤:

    1. 准备食材:番茄洗净,切成小块;鸡蛋打入碗中,搅拌均匀。

    2. 在锅中加入适量的油,油热后,加入打好的鸡蛋液,用中小火慢慢炒至凝固成型,炒成金黄色就可以出锅备用。

    3. 锅中再加入一些油,加入切好的番茄块,加入适量的糖(糖可以帮助番茄更快出汁,同时可以中和番茄的酸味),翻炒至番茄出汁。

    4. 番茄炒至软烂,加入炒好的鸡蛋,翻炒均匀,让鸡蛋吸收番茄的汁水。

    5. 加入适量的盐和料酒调味,再炒一会儿即可。

    6. 最后撒上葱花,出锅前可以稍微翻炒一下,这样番茄炒鸡蛋就做好了。

    注意事项:

    1. 番茄炒鸡蛋的制作过程中,糖的加入很关键,它可以帮助中和番茄的酸味,让菜品的味道更加鲜美。

    2. 鸡蛋要先炒,这样可以保持鸡蛋的完整性和口感。如果先炒番茄,番茄出的水会让鸡蛋变得碎,口感不好。

    3. 葱花的加入可以增加菜品的香味,如果你不喜欢葱花的味道,也可以不加。

    以上就是番茄炒鸡蛋的做法,希望你在制作的过程中能够乐在其中,也希望你会喜欢这道菜。


    请使用浏览器的分享功能分享到微信等