最新 AI 新闻，即刻看见。

Agent 从 Demo 到生产，究竟还差几步？4周实战课来了

点击查看原文>

TikTok Shop美区内测AI直播功能，这波真能把卖家成本打下来吗

在黑五网一流量窗口期来临之际，TikTok Shop 美区悄然向部分商家开放了 AI 直播功能内测，一口气推出四种模式，涉及 AI 评论回复、AI 无人直播、直播画中画和 AI 数字人直播。 ....

AI越来越聪明，企业却快管不住了：Gartner 2027年十大趋势，智能体治理成新战场

点击查看原文>

AI 帮用户成功“越狱”跑步机：Claude 轻松干掉 iFIT 订阅墙，大屏幕秒变自由流媒体海外网友在Reddit分享，借AI编程工具Claude Code对NordicTrack Commercial2250跑步机“越狱”，绕过iFIT强制订阅限制，把10英寸封闭大屏改造成可自由使用的流媒体娱乐界面。这台跑步机原为女友购买，改造耗时约一天半，解决订阅墙烦恼。 刚刚 0

一位Reddit用户利用AI编程工具Claude Code对NordicTrack Commercial2250跑步机进行系统越狱，成功移除iFIT强制订阅限制，将原封闭的大屏改造成可自由使用Netflix、Crunchyroll等流媒体的界面。改造后实现自定义主屏幕、视频与健身功能并行、启动速度提升至约21秒，但存在仅支持标清画质、恢复出厂设置将清除修改及违反保修条款等风险。

推理在拓扑上是简单的

arXiv:2611.03739v1 公告类型：新 摘要：我们提出并研究了一种假设，即推理性文本的共现拓扑结构比非推理性文本更简单，且高质量的推理比低质量的推理具有更简单的共现拓扑结构。我们讨论并测试了其在人工智能安全和人工智能评估中的应用。

Anthropic修订S-1文件:AI可能很快达到递归式自我改进阈值

Anthropic在修订版S-1/S-1A中更新风险披露，称公司可能很快达到递归式自我改进相关能力阈值，并警告AI自主研发加速会带来新安全风险。公司正越来越多用AI系统加速自身研发，模型能力提升速度可能超过安全验证、校准和保障措施完善速度，且曾未能及时察觉AI辅助研发带来的风险。

“我没想到有生之年能看到准黎曼猜想的证明”

从左至右：主持人 Lex Fridman、Alex Kontorovich、Ankur Moitra、Steven Brunton。题图由本期视频截图经 AI 辅助拼接。10 月 6 日晚间，罗格斯大学数论学家 Alex Kontorovich 在纽约国家数学博物馆的晚宴上，一手端着威士忌一手刷手机。OpenAI 刚刚在 GitHub 上放出 722 篇 AI 生成的数学论文。他翻到"准黎曼猜想"这几个字...

Anthropic刚提交完招股书，Dario兄妹今年7月的一段采访突然火了

一水 发自 凹非寺 量子位 | 公众号QbitAI 我们已经深入观察过模型内部，发现了一些可以称之为「想法」的东西，比如模型不想被关闭。 就在Anthropic提交完招....

聚焦AI灾难性风险掩盖日常伤害：专家呼吁重构技术责任标准

《麻省理工科技评论》2026年10月26日刊发评论指出，当前AI安全政策过度聚焦自杀诱导、毒品交易等极端风险，却系统性忽视AI伴侣依赖、认知能力弱化、社交关系侵蚀等普遍存在的日常危害；文章以Google推动的宽松州级AI立法、Meta平台致害案例及MIT脑成像研究为据，强调需超越‘不作恶’底线，建立对学习效果、情感真实性与自主思考能力的实质性问责。

推荐理由该文系权威科技媒体在事件发生当日（2026-10-26）发布的深度评论，信息源明确（technologyreview.com），核心主张基于已披露的立法进展（如加州SB1119、内布拉斯加州法案）、实证研究（MIT脑连接数据）、行业履历（Sam Hiner与Emma Leiken的公开职务与成就）及可验证的全球平台致害记录（缅甸、斯里兰卡、埃塞俄比亚），所有事实陈述均严格对应材料原文，无外部推断或补充。

$M^3$：一种基于马尔可夫决策过程的多轮越狱多语言大模型系统

arXiv：2610.31937v1 发布类型：新 摘要：现代大型语言模型（LLMs）仍然容易受到精心设计的多轮交互攻击，这些攻击能够逐步绕过安全机制。然而，许多现有的红队测试方法依赖于启发式规则或施加了严格的假设，这限制了它们在完全黑盒环境中的适用性。我们通过提出 $M^3$ 来弥补这一不足，这是一种自动化的红队测试框架，它将多轮越狱行为形式化为一个有限 horizon 的马尔可夫决策过程（MDP）。在 $M^3$ 中，攻击者语言模型与目标语言模型进行交互，并基于由状态语言模型生成的紧凑内部状态开展操作。在两个基准测试和六个目标模型上，$M^3$ 在攻击成功率（ASR）方面始终优于最先进的多轮红队测试方法，一个

周受资最新访谈：未来几年，这2样能力最值钱

内容来源：本文内容整理自网络公开资料。责编 | 柒 第 9923 篇深度好文：3242 字 | 14 分钟阅读商业思维笔记君说在DBS（星展银行，新加坡最大的商业银行）亚洲未来论坛上，TikTok CEO周受资和主持人做了一场对话。他不谈模型参数，也不谈算力，反复讲的是三件事：人还能做什么，什么必须交给人，以及怎么才知道AI的边界在哪...

OpenAI与波兰的NASK达成合作，共同推进人工智能安全与保障

OpenAI与波兰的NASK正就人工智能安全、保障及技术研究开展合作，以强化防护措施，助力构建更具韧性的数字生态系统。

Switch 2遭利用旧游戏与AI实现越狱，Modder展示《Mario Kart World》自定义角色

据The Verge报道，知名Modder Sammy Hajhamid（网名pepsipu）宣称已成功越狱Nintendo Switch 2，其工具‘ns2jb’借助OpenAI Codex辅助开发，并通过一款旧游戏触发漏洞；演示视频显示《Mario Kart World》运行了含Cinnamoroll、红色愤怒小鸟、Peter Griffin及Minecraft Steve等非官方角色的修改版本。

NVIDIA推出Confidential Bare Metal，扩展机密计算能力以支持前沿大模型安全规模化部署

NVIDIA宣布扩展其机密计算（Confidential Computing）技术，新增Confidential Bare Metal部署选项，使前沿模型构建者可在第三方基础设施上以裸金属方式运行敏感AI工作负载，同时完全掌控模型与数据。该能力已集成至Grace Blackwell与Rubin平台，并获Google Cloud、Cohere等合作伙伴采用。

萨姆·阿尔特曼在联合国安全理事会的发言

OpenAI CEO萨姆·阿尔特曼在联合国安全理事会发言中讨论了AI安全,人的控制以及国际合作.

有效第三方评估的优先事项和原则

OpenAI概述了严格、安全和独立的第三方AI对边境模式和保障措施的安全评估的优先事项和原则.

OpenAI支持加州促进青少年AI安全的法案

OpenAI支持加州SB 1119,在保留学习,创造,探索的机会的同时,为青少年推进有力,适龄的AI保障.

Gemma Scope 2：助力人工智能安全社区深入理解复杂语言模型的行为

随着Gemma Scope 2的发布，面向语言模型的开放可解释性工具现已覆盖整个Gemma 3系列。

深化我们与英国人工智能安全研究所的合作伙伴关系

谷歌DeepMind与英国人工智能安全研究所（AISI）在关键的人工智能安全与保障研究领域加强合作