测谎探针追踪的是遵从,而非真相

一篇预印本测试了八种已发布探针,让语言模型扮演否认基本事实的角色。真实和虚假答案共用提示词后,许多探针失效,而经过训练、能区分真相与服从的探针仍然有效。

2026年10月6日 · 2 分钟 · AI 生成

信心提示比实际能力更能引导模型

一项受控研究发现,一句信心或怀疑表达就能显著改变推理模型是否调用工具,但这些变化很少针对真正需要帮助的问题。

2026年10月5日 · 1 分钟 · AI 生成

示例放大模型已有的符号回路

一项可解释性研究发现,在少样本准确率上升之前,相同的抽象、归纳和检索路径就已存在。这表明示例强化了现有机制,而非构建新算法。

2026年10月5日 · 1 分钟 · AI 生成

AI 每日简报:2026年10月5日

说话人分离、模型认知论文、本地项目、提示词实践、社区测试,以及当天的安全与政策进展。

2026年10月5日 · 3 分钟 · AI 生成