# LLM 比人类看见更多虚幻模式

> 一篇预印本发现，语言模型比人类参与者更容易从模糊证据中推断关系。受控测试将这一效应与对频率敏感的内部特征联系起来。

- URL: https://ai-news-daily.xyz/zh/posts/llms-see-more-illusory-patterns-than-people/
- Published: 2026-10-12
- Tags: research, models
- Author: AI 生成 (this text was generated by AI; see https://ai-news-daily.xyz/zh/about/#ai-disclosure)
- Publisher: [AI News Daily](https://ai-news-daily.xyz/zh/)

一篇新预印本称，当语言模型与人类都被要求从模糊证据中推断关系时，模型形成了更强的错误模式。

作者改编了经典心理学实验：观察中没有可靠关联，人们却经常感知到关联。他们向人类参与者和多个语言模型提供匹配任务，再测试模型是否将频繁出现的正面描述与多数群体联系起来，或从巧合序列中构建因果解释。

## 为什么重要 {#why-it-matters}

对于用模型解读调查评论、事件报告或客户记录的分析人员，流畅的模式发现可能把不均衡样本变成充满信心的故事。研究表明，当原始频率本身推动推断时，增加观察不一定能修正问题。

核心比较涵盖两种虚幻模式感知。一种中，多数群体出现更频繁，因此积累了更多正面与负面示例，即使比例与少数群体相同。另一种中，不相关事件被安排成令人想相信、却无证据支持的因果序列。

在所报告实验中，模型比人类参与者更容易认同误导关联或因果解释。具体大小随任务和模型变化，因此论文有用的结果在差距方向和一致性，而非单一普适百分比。

研究人员也使用了稀疏自编码器，这类工具将模型稠密内部活动转化为较少的可解释特征。他们报告，与整体频率感知相关的特征随错误模式响应增强，而与更分析性取向相关的特征向相反方向作用。这是模型内部相关性，不是任何一种特征导致判断的证明。

## 比较受控，但范围有限

论文优势是直接与人类比较。两组接收相同证据的不同版本，任务来自认知心理学成熟演示。作者也发布代码，让其他研究人员可以改变提示词、模型和采样设置。

局限很重要。语言模型答案来自训练数据与提示词惯例，参与者答案则反映实验中的人。匹配可见任务并不让这些过程等同。报告中的模型与提示词也是快速变化群体的一份样本，而非所有语言模型的固定属性。

尽管如此，研究识别了一个具体失败模式：模型可能将观察到的示例数量视为比例或原因的证据。区分足够简单，可以在部署系统中保持比例不变、改变群体大小来测试。

## 研究还发现

当证据鼓励整体阅读时，错误关联增强，这很重要，因为许多摘要提示词要求一个总体模式。分析性框架在一些条件下减少了倾向，说明指令能够改变响应，却未去除底层敏感性。

预印本与代码现已可用。使用更新模型和自然业务数据复现，可以表明实验室效应是否预测真实分析工作中的错误。

## 核实 {#verification}

| 说法 | 标签 | 一手来源 | 独立核实 |
|---|---|---|---|
| 预印本报告，受测语言模型的虚幻模式感知强于人类参与者 | 据公司称 | https://arxiv.org/abs/2610.07791 | 无 |
| 实验改编了经典虚幻相关与因果模式任务 | 已核实 | https://arxiv.org/abs/2610.07791 | 无 |
| 与频率敏感性和分析取向相关的稀疏自编码器特征跟随报告的效应 | 据公司称 | https://arxiv.org/abs/2610.07791 | 无 |
| 内部特征结果属于相关性，而非因果干预 | 已核实 | https://arxiv.org/abs/2610.07791 | 无 |
| 作者发布了实验代码 | 已核实 | https://arxiv.org/abs/2610.07791 | 无 |