无限耐心：一种过于廉价的 LLM 特性
sean goedecke
对许多人来说，耐心是 LLM 最强大的特性
OpenAI 的 CEO Sam Altman 曾说过，他的目标是让智能“过于廉价”。现在，在风险资本的支持下，我们正生活在这样的世界里。地球上每个人（只要能上网）都可以免费使用足够聪明的语言模型来协助解决各种问题。而且人们正在使用它！ ChatGPT 的流量甚至超过了 Wikipedia1。
然而，似乎并没有巨大的消费者压力要求模型变得_更智能_。 Claude Sonnet 在一年多的时间里相比 ChatGPT 拥有显著优势，但只有最先锋的软件工程师才转而使用它。大多数用户很乐意直接使用 ChatGPT，并与其提供的任何服务进行交互。这是为什么呢？
可能只是因为人们只知道 ChatGPT，而且要让人们使用他们不熟悉的工具需要大量的营销。也可能是因为 4o 已经“足够好”了：取决于你有多愤世嫉俗，它可能足够智能来完成大多数普通任务，或者足够智能来比许多与它聊天的人更聪明。或者也可能是，对于大多数用户来说，智能并不是他们从 LLM 中获得的主要价值。
耐心
那么，主要价值是什么呢？我一直在思考，我认为答案是耐心。考虑一下 Julia Baird 的这篇文章，她描述了她自己和其他人如何使用 ChatGPT 进行治疗：
Dimity 说她一直在与一个版本的治疗工具，ChatGPT，进行“定期的（极其混乱和宣泄的）聊天”，以便“卸载我没有时间、金钱，有时甚至没有理智在其他地方处理的一切”。她说便利性至关重要：“专业的治疗对我来说不是很方便，我优先考虑我孩子的心理健康需求，这意味着我自己的支持必须……嗯，免费并且可以在晚上 11:47 当我感到情绪激动并在水槽上吃烤面包时使用。”
因此我向 ChatGPT 询问了此事。而这个该死的机器人是友善的、有同理心的、理解的和温柔的。它简而言之告诉我，承认我对她的巨大爱，对自己抱有一些同情心，给她写一封信。我知道这听起来很简单，但我惊呆了。
我个人没有使用 ChatGPT 来寻求个人建议或治疗。但我能理解它的吸引力。大多数好的个人建议并不需要大量的智能。你只需在一张纸上写下“呼吸，善待自己，不要在愤怒中做出反应”以及类似的陈词滥调，并定期阅读它们，就能取得很大的进步。它们之所以是陈词滥调，是因为它们是真实的！
LLM 在提供这类建议方面并不是超人。然而，它们从根本上非常适合这样做，因为它们：
- 始终可用，无论你在哪里或何时
- 从不带有评判或恶意
- 愿意无限期地倾听，而不会感到沮丧
简而言之，它们拥有超乎常人的耐心，并且多年来一直如此。即使是 GPT-3.5 也符合这些标准，尽管它可能只是略低于能够可靠地理解用户对其说任何话的智能水平2。
担忧
我确实担心超人的耐心会放大语言模型已经存在的任何建议提供问题。例如，4o 最近的奉承问题肯定因模型足够有耐心来无限期地验证用户而变得更糟。
语言模型也不是治疗师。这并不是说专业的治疗师都比 LLM 更好——就像医生一样，治疗师的能力和努力程度也千差万别——但治疗师确实拥有语言模型没有的升级途径。
也可能有些用户可能会习惯于 AI 的耐心，并对人类无法达到这一水平感到沮丧，这似乎也不太健康。
总结
作为软件工程师，我们专注于语言模型如何帮助（或取代）知识工作。我们痴迷于越来越智能的模型。但也许语言模型最具变革性的能力之一已经存在。直到 2020 年代初，所有会说话的东西也会失去耐心——或者至少需要睡觉、吃饭或做说话以外的事情。在人类历史上，从未有过每个人都可以与无限耐心的事物交谈的时代。耐心已经变得“过于廉价”。
如果您喜欢这篇文章，请考虑订阅电子邮件更新，了解我的新文章。
2025 年 5 月 17 日 │ 标签：ai posts │ subscribe │ linkedin │ rss │ read my book about software engineering