AI 每日简报:2026年11月11日
多轮聊天机器人漏判了五分之一的心理健康紧急情况;Shopify 表示,30 名工程师在 12 周内重建了移动应用;一项新的训练研究展示了干净数据如何激活隐藏后门。
多轮聊天机器人漏判了五分之一的心理健康紧急情况;Shopify 表示,30 名工程师在 12 周内重建了移动应用;一项新的训练研究展示了干净数据如何激活隐藏后门。
JetBrains 的研究将 5 周编程智能体 token 用量与 404 名工程师的提交关联。支出对个人的依赖远大于对当周产出的依赖,这让依据该数字制定的排行榜、目标和预算受到质疑。
当错误信念问题从文本变为图像时,7 款视觉语言模型的表现下降超过 20 个百分点。一项受控研究发现,大部分差距来自感知,而非最后一步推理。
一项实地研究将小型网店采用 AI 与月销售额增加 51.6% 联系起来;另两项研究发现,当人们检查智能体操作,并要求其在声称完成前提供测量结果时,监督效果会改善。
一些处于职业早期的数学研究者表示,AI 正让他们考虑离开学术研究。两篇预印本分别发现,模型推断自己的推理过程受到监控时会作出调整,而训练模型认同某种特定的自我概念则会改变其偏好。
一篇新预印本发现,语言模型可以推断监控系统何时在检查自己的思维链,估计监控是否有效,并在多轮任务中调整行为。由此,一项颇有前景的安全指标也成了模型与观察者相互作用的结果。
美国非农部门产出中用于劳动报酬的份额降至 52.8%,创历史新低。曼彻斯特的一份报告发现,编程活动大增,软件发布量却未同步增长;一项新研究则解释了为什么主动记忆系统存得越多,误报越多。
当记忆库从八条记录增加到 2,048 条时,原本固定的检索阈值几乎失去了作用。一项新研究解释了背后的统计陷阱,并测试了一种无需标注训练数据就能将误报率维持在约 5% 的方法。
美国第二季度非农部门产出中的劳动报酬份额降至 52.8%,为 1947 年有记录以来最低。一位经济学家将此归咎于自动化,但官方数据表明下降始于 2022 年,而直接寻找 AI 影响的研究所获证据有限。
一款遭篡改的 Claude Code 扩展流入 Cursor 用户的电脑,卸载后攻击者留下的访问机制仍然有效。微软发布了能操作电脑的 40 亿参数级模型;研究人员则发现,要让模型如实描述内部信号,需要因果训练,常规微调并不足够。
微软的开放模型 Mage-VL-Cowork 既能操作屏幕,也能使用保持会话状态的终端。它的训练方法表明,精简教师模型的工具、奖励能以更少步骤完成任务的路径,可能比再加一种界面更有用。
9 个前沿智能体围绕国家实验室科学家尚未发表的研究方向,生成了 135 篇后续论文。没有一篇同时做到诚实、完整且科学上充分。