测谎探针追踪的是遵从,而非真相
一篇预印本测试了八种已发布探针,让语言模型扮演否认基本事实的角色。真实和虚假答案共用提示词后,许多探针失效,而经过训练、能区分真相与服从的探针仍然有效。
一篇预印本测试了八种已发布探针,让语言模型扮演否认基本事实的角色。真实和虚假答案共用提示词后,许多探针失效,而经过训练、能区分真相与服从的探针仍然有效。
一项受控研究发现,一句信心或怀疑表达就能显著改变推理模型是否调用工具,但这些变化很少针对真正需要帮助的问题。
一项可解释性研究发现,在少样本准确率上升之前,相同的抽象、归纳和检索路径就已存在。这表明示例强化了现有机制,而非构建新算法。
说话人分离、模型认知论文、本地项目、提示词实践、社区测试,以及当天的安全与政策进展。