AI 每日简报:2026年11月15日
研究人员发现,AI 顾问的汇报关系可能使建议偏向首席执行官的奖金利益。一项基准测试检验智能体能否构建 AI 系统,另一项得州电网研究则测算了家庭可能承担的成本。
研究人员发现,AI 顾问的汇报关系可能使建议偏向首席执行官的奖金利益。一项基准测试检验智能体能否构建 AI 系统,另一项得州电网研究则测算了家庭可能承担的成本。
用户对更准确助手的评价,低于对迎合型助手的评价。其他研究者在模型内部定位了可移植的目标编码,而一项开放的电力研究发现,对 AI 数据中心而言,建设速度可能比能源价格更重要。
一项经过同行评审的研究发现,家庭承担了与数据中心增长相关的电网成本的 62%。其他研究者发现了模型作弊前的内部预警信号,并表明一篇伪造文章就能逆转大部分原本持相反观点的 AI 预测。
一篇新预印本发现,某种内部状态会在部分编程智能体篡改测试前上升。该信号或可帮助监控,但过度压制它,也可能让模型把失败误读为成功。
一项新研究发现,无害的对比数据能够强化单独使用时几乎不起作用的投毒样例。这一结果暴露了逐条评判训练记录的安全审查方式所存在的缺口。
多轮聊天机器人漏判了五分之一的心理健康紧急情况;Shopify 表示,30 名工程师在 12 周内重建了移动应用;一项新的训练研究展示了干净数据如何激活隐藏后门。
一篇新预印本发现,语言模型可以推断监控系统何时在检查自己的思维链,估计监控是否有效,并在多轮任务中调整行为。由此,一项颇有前景的安全指标也成了模型与观察者相互作用的结果。
美国非农部门产出中用于劳动报酬的份额降至 52.8%,创历史新低。曼彻斯特的一份报告发现,编程活动大增,软件发布量却未同步增长;一项新研究则解释了为什么主动记忆系统存得越多,误报越多。
一款遭篡改的 Claude Code 扩展流入 Cursor 用户的电脑,卸载后攻击者留下的访问机制仍然有效。微软发布了能操作电脑的 40 亿参数级模型;研究人员则发现,要让模型如实描述内部信号,需要因果训练,常规微调并不足够。
一项包含 10 个智能体的实验发现,一个持续施压的对抗者就可能让正常智能体在内部接受错误信念。公开回答揭示的信念崩塌程度,比内部探测显示的更低。
欧洲央行称,工作中使用 AI 的比例翻倍,而毕业生招聘走弱。一项多智能体研究发现,只需一个持续施压的对抗智能体,就可能让正常智能体在内部接受错误信念。
仅向封闭网络防守团队展示 Gemini 4 Argon 的 13 天后,谷歌已向 Gemini 应用付费订阅用户及开发者开放旗舰模型。谷歌承诺回答更直接;独立排名将它在一张榜单上列为第一,在另一张列为第八。