13

当AI遇上小学数学：大模型的“幻觉”与数学推理的困境

Meta Description: 大模型在数学推理上频频翻车，ChatGPT等AI模型在小学四年级的简单数学题上出现“幻觉”，暴露了它们在逻辑推理方面的缺陷。文章探讨了大模型的幻觉来源、数学推理能力的局限性，以及未来发展方向，并分享了业内人士的观点。

引言：

最近，一档热门综艺节目《歌手》的排名引发了网友的热议，因为排名结果似乎违背了简单的数学常识。这场由“13.8%”和“13.11%”引发的“数学风暴”，却让一众海内外AI大模型纷纷“翻车”，暴露了它们在数学推理方面的短板。这场“AI vs. 小学数学”的较量，不仅引发了人们对大模型能力的质疑，更揭示了人工智能发展道路上的“绊脚石”。

大模型的“幻觉”：为何AI会犯小学数学题的错误？

这场“数学风暴”的核心问题在于：13.11%大于13.8%，这个简单的道理，却让很多AI模型“犯了错误”。这并非偶然，而是体现了大模型在数学推理方面存在的“幻觉”问题。

那么，是什么导致了AI模型的“幻觉”呢？

根据哈尔滨工业大学和华为的研究团队发表的论文，模型产生幻觉的三大来源分别是：数据源、训练过程和推理。

• 数据源: 大模型的训练数据来自互联网，其中包含大量文本信息。然而，这些数据并非完全准确，甚至可能存在错误或偏差，导致模型过度依赖这些模式，从而出现“幻觉”。
• 训练过程: 大模型的训练过程旨在让模型学习数据之间的相关性，但这种相关性并不等同于因果关系。因此，在处理需要逻辑推理的问题时，模型可能会出现错误。
• 推理: 大模型在进行推理时，可能会受到训练数据的影响，出现“长尾知识回忆不足”或“难以应对复杂推理”等问题，导致推理结果出现偏差。

数学推理的困境：AI与人类思维的差距

除了数据和训练问题，大模型在数学推理上的困境还与人类思维方式的差异有关。

• 思维方式: 人类在进行数学推理时，会运用逻辑推理、抽象思维等能力，并结合自身的经验和知识进行分析判断。而大模型则主要通过学习数据中的相关性来进行推理，缺乏人类的逻辑思维能力。
• 因果关系: 数学推理注重因果关系，强调逻辑性和严谨性。而大模型在训练过程中主要学习数据之间的相关性，缺乏对因果关系的理解，因此在处理需要逻辑推理的数学问题时，往往会“卡壳”。

AI在数学推理方面的局限性

• 公式记忆: 大模型拥有强大的公式记忆能力，但无法在解题过程中灵活运用。
• 抽象思维: 大模型在抽象思维方面存在缺陷，难以将抽象的数学概念与实际问题联系起来。
• 逻辑推理: 大模型在逻辑推理方面的能力有限，难以进行复杂的逻辑推理和演绎。

大模型的未来：突破“幻觉”与提升推理能力

虽然目前大模型在数学推理方面存在局限性，但这并不意味着AI无法克服这些挑战。

• 数据质量: 提升训练数据的质量，减少错误和偏差，是提高大模型数学推理能力的关键。
• 思维训练: 模仿人类的思维方式，进行逻辑推理和抽象思维的训练，可以帮助大模型更好地理解数学概念和推理过程。
• 因果关系: 加强对因果关系的学习，帮助模型理解数据之间的逻辑联系，提升推理能力。

业内人士观点：

上海人工智能实验室领军科学家林达华表示，当前很多大模型的应用场景是客服、聊天等，在聊天场景中“一本正经胡说八道”影响不大。但如果要将大模型应用于金融、工业等严肃的商业场景，就需要更高的可靠性和准确性，而这离不开强大的数学推理能力。

常见问题解答：

1. 什么是“大模型”？

“大模型”是指拥有大量参数的深度学习模型，可以处理大量的文本数据，并进行各种任务，例如文本生成、机器翻译、问答等。

2. “幻觉”现象普遍吗？

目前，大模型的“幻觉”现象仍然普遍存在，这也导致了大模型在一些严肃场景中的应用受限。

3. AI未来可以克服“幻觉”问题吗？

随着数据质量的提升、训练方法的改进以及对因果关系的深入研究，AI模型的“幻觉”现象有望得到改善。

4. 如何判断大模型是否“幻觉”？

可以通过测试模型对逻辑推理、因果关系的理解能力，以及对数学问题的解决能力，来判断模型是否出现“幻觉”。

5. 大模型在数学推理方面还存在哪些问题？

除了“幻觉”问题，大模型在抽象思维、逻辑推理、数学概念理解等方面也存在挑战。

6. 大模型未来会发展成“超级大脑”吗？

大模型的未来发展方向是朝着更智能、更可靠的方向发展，但目前距离“超级大脑”还有很长的路要走。

结论：

这场“AI vs. 小学数学”的较量，让我们看到了大模型在数学推理方面的局限性，也看到了人工智能发展道路上需要克服的挑战。相信随着技术的不断进步，AI模型在数学推理方面会取得突破，最终成为人类智慧的“得力助手”。