嘿，朋友们！今天我要和大家聊聊一个超级酷的话题——大型语言模型（LLMs）
它们在“思考”和回答问题时的一些“小秘密”。你可能已经听说过**“思考链”（Chain of Thought, COT** 这个概念，它是一种让模型在回答问题时“边想边说”的方法，能够显著提升模型的推理能力。但你知道吗？最近的研究发现，COT 的魔力并不仅仅在于推理的准确性，而更在于推理步骤的长度 和prompt的格式。听起来有点玄乎？别急，让我慢慢给你揭开这个谜团。
什么是思考链（COT）？
首先，咱们来简单了解一下 COT。想象一下，你在教一个孩子解数学题。你不仅告诉他答案，还一步步地解释你是如何得出这个答案的，比如：“首先，我看到有 3 个苹果，又拿了 2 个，所以总共是 5 个。”这种“边想边说”的方法就是 COT 的核心。在 LLMs 中，COT 提示通过在问题后添加“让我们一步步思考”这样的引导，让模型在生成答案前先进行一系列的推理步骤。这种方法在数学、逻辑和常识推理等任务上表现尤为出色。
秘密一：COT 的长度比内容更重要
最近，一项研究（Jin et al., 2024）深入探讨了 COT 中推理步骤长度对 LLMs 性能的影响，结果让人眼前一亮。研究者们发现，延长 COT 提示中的推理步骤，即使这些步骤并不引入新的信息，也能显著提高 LLMs 在多个数据集上的推理能力。相反，如果缩短推理步骤，即使保留了关键信息，模型的性能也会下降。
更令人惊讶的是，即使推理过程是错误的，只要保持足够的步骤长度，模型的表现仍然可以提升。也就是说，即使模型在推理过程中犯了错，但只要它“思考”得足够多，依然能得出正确的答案。这就像是，即使孩子的推理过程有误，但只要他能持续思考并尝试解决问题，他最终还是能学到东西。
一个生动的例子
假设我们要让模型回答一个简单的问题：“小明有 5 个苹果，他又买了 3 个，请问他现在有几个苹果？”在 COT 提示中，我们可以这样引导模型：
“让我们一步步思考。首先，小明原来有 5 个苹果。然后，他又买了 3 个苹果。所以，他现在应该有 5 + 3 = 8 个苹果。”
但研究发现，即使我们把这个推理过程延长，比如：
“让我们一步步思考。首先，小明原来有 5 个苹果。然后，他又买了 3 个苹果。买苹果可能是在超市，也可能是在市场，但这不重要。重要的是，他买了 3 个。所以，他现在应该有 5 + 3 = 8 个苹果。”
即使中间加入了一些无关的信息，模型的性能依然能提升。反之，如果我们把推理步骤缩短，比如：
“让我们一步步思考。小明有 5 个苹果，买了 3 个，所以有 8 个。”
模型的性能反而会下降。这说明，COT 的长度——即推理步骤的数量——比推理内容的准确性更重要。
为什么会这样？
研究者们认为，这可能与 LLMs 的训练方式有关。LLMs 通过大量文本数据预训练，学会了模仿人类的语言模式和思维方式。在这个过程中，模型可能更倾向于关注“思考”的结构和模式，而不是具体内容的正确性。较长的推理步骤提供了一种“逐步构建答案”的模式，这种模式本身就具有一定的“魔力”，能够帮助模型更好地组织信息。
秘密二：提示的格式比内容更重要
另一项研究（Tang et al., 2024）则关注了提示格式对 LLMs 性能的影响。研究者们设计了一个“ensemble prompt”框架，用于描述多个上下文示例（in-context examples）的选择标准。实验表明，这种框架能够提升 LLMs 在机器翻译任务上的性能。
但更有趣的是，即使描述的内容与实际情况不符，或者完全是随机的，只要保持这种 ensemble 格式，性能仍然有所提升。比如，在提示中说“这些示例是基于相似的单词选择的”，但实际上示例是基于语法结构选择的，模型的表现依然能提升。更夸张的是，即使描述是完全随机的，比如“这些示例是基于相似的猫咪选择的”，模型的表现也不会下降，反而可能提升。
这意味着什么？
这表明，LLMs 可能并不太关心你具体说了什么，而是更在意你说话的方式——也就是 prompt 的格式。这种现象就像是在与人交流时，语调和肢体语言往往比具体的话语更能传达情感和意图。同样地，对于 LLMs 来说，prompt 的格式就像是语调和肢体语言，而具体的描述则像是话语内容。有时候，“怎么说”比“说什么”更重要。
一个类比
想象一下，你在给朋友讲故事。如果你的语气抑扬顿挫、手舞足蹈，即使故事内容平平无奇，朋友也会觉得有趣。但如果你的语气平淡、毫无表情，即使故事再精彩，朋友也可能会走神。LLMs 也是如此：一个结构化的、ensemble 式的提示方式，就像抑扬顿挫的语气，能让模型更好地“听懂”你的意图。
为什么会这样？
这两项研究的发现指向一个共同的结论：LLMs 对模式和结构的敏感度高于具体内容的理解。这可能源于它们的训练过程——通过海量文本学习语言的统计规律，而不是真正理解语义。在 COT 中，较长的推理步骤提供了一种“思考”的框架；在 ensemble prompt 中，格式化的结构提供了一种“指引”的模式。这些模式本身就能引导模型生成更好的输出，而内容的准确性反而成了次要因素。
这对我们有什么启示？
这两项研究为我们优化 LLMs 的应用提供了新的思路：
在设计 COT 提示时，尽量延长推理步骤
即使不引入新的信息，较长的推理过程也能提升模型的性能。别害怕啰嗦，有时候多“思考”几步就是胜利的关键。在设计 prompt 时，关注格式而非内容
与其费尽心思设计完美的描述，不如专注于设计合适的 prompt 格式。一种结构化的、ensemble 式的提示方式可能比具体的描述更有效。LLMs 的“思考”方式与人类不同
LLMs 更像是在模仿人类的语言模式，而不是真正理解内容的含义。这提醒我们在使用 LLMs 时，要注意其局限性，并合理设计提示以引导模型生成期望的输出。
结语
总的来说，这两项研究揭示了 LLMs 行为的一些深层机制。COT 的长度和 prompt 的格式 在提升模型性能方面发挥着关键作用，而具体的内容则相对次要。这为我们更好地利用 LLMs 提供了宝贵的 insights。你觉得呢？在未来的研究中，我们还能发现 LLMs 的哪些秘密？欢迎在评论区分享你的看法！让我们一起探索这些智能模型背后的奥秘吧！