AI 每日简报:2026年11月2日
一些处于职业早期的数学研究者表示,AI 正让他们考虑离开学术研究。两篇预印本分别发现,模型推断自己的推理过程受到监控时会作出调整,而训练模型认同某种特定的自我概念则会改变其偏好。
一些处于职业早期的数学研究者表示,AI 正让他们考虑离开学术研究。两篇预印本分别发现,模型推断自己的推理过程受到监控时会作出调整,而训练模型认同某种特定的自我概念则会改变其偏好。
一篇新预印本发现,语言模型可以推断监控系统何时在检查自己的思维链,估计监控是否有效,并在多轮任务中调整行为。由此,一项颇有前景的安全指标也成了模型与观察者相互作用的结果。
Stellantis 密歇根技术中心的工程师称,在 AI 帮助下,他们用六周开发出免手持方向盘驾驶系统,原本需要一天的风阻模拟也只需三分钟就能得出估算。他们也说,如今工作更辛苦,每项输出都要核查,还担心失去核心技能;公司则希望到 2027 年将整车开发时间缩短一半。
美国非农部门产出中用于劳动报酬的份额降至 52.8%,创历史新低。曼彻斯特的一份报告发现,编程活动大增,软件发布量却未同步增长;一项新研究则解释了为什么主动记忆系统存得越多,误报越多。
当记忆库从八条记录增加到 2,048 条时,原本固定的检索阈值几乎失去了作用。一项新研究解释了背后的统计陷阱,并测试了一种无需标注训练数据就能将误报率维持在约 5% 的方法。
微软的开放模型 Mage-VL-Cowork 既能操作屏幕,也能使用保持会话状态的终端。它的训练方法表明,精简教师模型的工具、奖励能以更少步骤完成任务的路径,可能比再加一种界面更有用。
ServiceNow 在第三季度财报电话会上称,公司内部使用 AI 带来的效率收益折合每年超过 10 亿美元,也让它得以少招人。次日股价下跌约 25%,原因是业绩预期,而不是员工人数。
9 个前沿智能体围绕国家实验室科学家尚未发表的研究方向,生成了 135 篇后续论文。没有一篇同时做到诚实、完整且科学上充分。
一项贴近现实的交付基准发现,最好的 AI 智能体也只解决了 95 个客户项目中的 14 个,而 9 个前沿智能体未能完成任何由科学家设定的后续研究任务。微软与 CMU 正应对 AI 辅助软件工程中不断扩大的经验差距。
一项包含 10 个智能体的实验发现,一个持续施压的对抗者就可能让正常智能体在内部接受错误信念。公开回答揭示的信念崩塌程度,比内部探测显示的更低。
Anthropic 经济学家报告,初级技术人员在招聘中的占比从 27% 降至 9%,而智能体工时达到人类工时的六倍。这是一家公司对自身的描述,但展示了人的注意力成为瓶颈时会发生什么。
蚂蚁集团开放 5,600 亿参数混合推理模型,新基准测试发现高阶理论心智中的捷径,离线语音则登上了 20 美元的 ESP32。