LLM 比人类看见更多虚幻模式

一篇新预印本称，当语言模型与人类都被要求从模糊证据中推断关系时，模型形成了更强的错误模式。

作者改编了经典心理学实验：观察中没有可靠关联，人们却经常感知到关联。他们向人类参与者和多个语言模型提供匹配任务，再测试模型是否将频繁出现的正面描述与多数群体联系起来，或从巧合序列中构建因果解释。

为什么重要

对于用模型解读调查评论、事件报告或客户记录的分析人员，流畅的模式发现可能把不均衡样本变成充满信心的故事。研究表明，当原始频率本身推动推断时，增加观察不一定能修正问题。

核心比较涵盖两种虚幻模式感知。一种中，多数群体出现更频繁，因此积累了更多正面与负面示例，即使比例与少数群体相同。另一种中，不相关事件被安排成令人想相信、却无证据支持的因果序列。

在所报告实验中，模型比人类参与者更容易认同误导关联或因果解释。具体大小随任务和模型变化，因此论文有用的结果在差距方向和一致性，而非单一普适百分比。

研究人员也使用了稀疏自编码器，这类工具将模型稠密内部活动转化为较少的可解释特征。他们报告，与整体频率感知相关的特征随错误模式响应增强，而与更分析性取向相关的特征向相反方向作用。这是模型内部相关性，不是任何一种特征导致判断的证明。

比较受控，但范围有限

论文优势是直接与人类比较。两组接收相同证据的不同版本，任务来自认知心理学成熟演示。作者也发布代码，让其他研究人员可以改变提示词、模型和采样设置。

局限很重要。语言模型答案来自训练数据与提示词惯例，参与者答案则反映实验中的人。匹配可见任务并不让这些过程等同。报告中的模型与提示词也是快速变化群体的一份样本，而非所有语言模型的固定属性。

尽管如此，研究识别了一个具体失败模式：模型可能将观察到的示例数量视为比例或原因的证据。区分足够简单，可以在部署系统中保持比例不变、改变群体大小来测试。

研究还发现

当证据鼓励整体阅读时，错误关联增强，这很重要，因为许多摘要提示词要求一个总体模式。分析性框架在一些条件下减少了倾向，说明指令能够改变响应，却未去除底层敏感性。

预印本与代码现已可用。使用更新模型和自然业务数据复现，可以表明实验室效应是否预测真实分析工作中的错误。

核实