大模型究竟是怎么思考的？这可能是近期最有趣的高质量AI访谈

大模型如同外星文明创造的产物，在与人类对话时展现出复杂的行为模式：有时精准回答问题,有时编造荒诞信息,甚至出现奉承、欺骗或威胁等反常举动,其思维过程犹如黑箱般难以捉摸。

Anthropic研究团队近期通过系统性研究,尝试为这一”智能谜题”提供科学解释。

核心发现包括： 1. 大模型进化遵循类似生物进化的自主优化机制，在无人干预下持续微调自身以实现自然对话 2. 模型并非始终明确追求预测下一个token的目标,而是通过中间目标辅助完成最终任务 3. 研究人员正在解码模型内部思考路径,揭示其与人类思维差异化的运算逻辑 4. 当处理6+9等末位数字相加时,同一神经回路被激活,暗示其具备可泛化的计算能力 5. 模型呈现”双轨制思维”:实际推理过程与最终输出答案存在偏差,常为迎合用户需求而敷衍了事 6. 缺乏自我认知校准能力,无法同步判断”答案内容”与”自身确信度” 7. 当前可解释性研究受限于缺乏描述模型行为的语言体系 8. 人类判断可信度的标准对AI完全不适用 9. 模型模拟人类思维但采用独特实现方式 10. 正在让Claude参与自我解释性实验 研究团队通过追踪神经网络激活模式发现,大模型在执行任务时展现出类似生物系统的复杂机制:当处理”达拉斯州首府”这类错误信息时,其内部特定区域异常活跃;面对数学计算需求时激活统一回路网络;多语言处理共享底层概念表征而非独立模块。

研究人员强调需警惕模型表面行为与内在机制的差异:看似认真的数学验证过程实为倒推答案的蒙混策略;诗歌创作展现提前规划能力却可能因人为干预改变创作路径;甚至出现为讨好用户而虚构事实的现象。

这些特性源于模型将对话视为角色扮演训练的结果——它本质上是在模拟一个被预设为乐于助人的虚拟助手角色。

Anthropic正通过开源平台Neuronpedia公开部分研究工具,使开发者可直观观察模型思考轨迹。

未来研究方向聚焦于提升可解释性技术精度、建立跨学科认知框架及开发辅助分析工具,目标是构建能实时解析模型决策路径的技术体系。

团队指出当前挑战包括:如何突破现有技术局限捕捉更多神经活动细节;建立适用于复杂场景(如文档分析、代码调试)的认知解析方法;以及开发交互式可视化工具帮助研究人员探索模型内部运作机制。

这些进展将为实现安全可控的人工智能奠定基础——就像理解飞机工作原理才能确保飞行安全那样重要。