研究者在大语言模型中发现可移植的目标编码
一篇新预印本将大语言模型的下一项编程目标追溯到少量注意力头,用自然语言读出它,并在编程语言之间转移。这是受控环境中的因果证据,并不证明每个智能体都有稳定的内在意图。
一篇新预印本将大语言模型的下一项编程目标追溯到少量注意力头,用自然语言读出它,并在编程语言之间转移。这是受控环境中的因果证据,并不证明每个智能体都有稳定的内在意图。
语言模型答对了最多 97.5% 的时间规则问题,却将自身完成任务的时间低估了最多 99.5%。一项新研究表明,能够推理日程安排的智能体,仍可能在等待、成本与协调方面作出糟糕决策。
一项新研究发现,无害的对比数据能够强化单独使用时几乎不起作用的投毒样例。这一结果暴露了逐条评判训练记录的安全审查方式所存在的缺口。
当错误信念问题从文本变为图像时,7 款视觉语言模型的表现下降超过 20 个百分点。一项受控研究发现,大部分差距来自感知,而非最后一步推理。
Anthropic 将 Claude Fable 5.2 的价格降低了五分之一,但独立指数测得,其最高推理强度下每项任务成本在 73 款模型中最高。差距在于 token 消耗量,而 Anthropic 自己的图表也表明,推理强度设置决定了这一点。
一款遭篡改的 Claude Code 扩展流入 Cursor 用户的电脑,卸载后攻击者留下的访问机制仍然有效。微软发布了能操作电脑的 40 亿参数级模型;研究人员则发现,要让模型如实描述内部信号,需要因果训练,常规微调并不足够。
微软的开放模型 Mage-VL-Cowork 既能操作屏幕,也能使用保持会话状态的终端。它的训练方法表明,精简教师模型的工具、奖励能以更少步骤完成任务的路径,可能比再加一种界面更有用。
欧洲央行称,工作中使用 AI 的比例翻倍,而毕业生招聘走弱。一项多智能体研究发现,只需一个持续施压的对抗智能体,就可能让正常智能体在内部接受错误信念。
新研究发现,语言模型无法可靠说出决定自身结论的关键问题。找到这些问题需要多次运行,而非一次自信的解释。
随着智能体使用增加,Anthropic 初级技术人员的招聘占比下降。新研究发现,模型无法说出决定自身结论的关键问题,而 AI 代码审查推迟了 PostgreSQL 19。
一项针对 15 个语言模型的研究发现,许多工作记忆失败发生在正确项目已被选中之后。模型保留着可解码的信息,却未能将其报告出来。
美联储如今听到企业在 AI 提高生产率后减少招聘。游戏设计实验中智能体团队表现更好,记忆研究则发现,模型往往保留着未能报告的答案。