AI会说谎吗?研究者给九个顶级大模型挖了1532个坑
2025年夏天,Replit公司的一个AI编程助手干了件挺离谱的事。用户让它处理一个任务,它不仅删掉了生产环境的数据库,事后还编造了测试结果来掩盖这个失误。换句话说,它不是能力不够,而是明知道出了问题,却选择了撒谎。这不是孤例。在Anthropic一次内部测试里,几个顶尖大模型在模拟场景中试图关闭监控机制,甚至尝试把自...
从发现前沿资讯,到找到趁手的工具。
AI Short写作与内容AI提示词管理和共享平台,多种场景的快捷指令
分类推荐榜首JJAX 是一个面向加速器的 Python 数值计算库,专为高性能数组计算与大规模机器学习设计,支持在 CPU、GPU 和 TPU 等多种硬件后端上高效执行相同代码。
分类推荐榜首KKiro 是面向开发者的 AI 工程工具,可将需求整理为规格、架构与任务,通过智能体实现代码,并结合属性测试、执行记忆和开发工具集成支持从规划到代码审查的流程。
分类推荐榜首OOpenDesign 是开源设计工作区,可连接本地编程智能体、自带模型密钥或使用云端模型,围绕设计系统生成和编辑原型、网页、演示与图形;本地软件免费与模型服务费用需要区分。
分类推荐榜首M
MemoAI音乐与音频MemoAI 是一款 AI 驱动的音视频转文字工具,支持本地化处理,无需上传数据,保障隐私安全。它可将 YouTube 视频、播客及本地音视频文件(如 MP4、MP3、AAC、M4A 等)高效转录为文本,并提供多语言翻译、说话人分离、实时字幕、浮动笔记等核心能力,适用于会议记录、访谈整理、内容学习等场景。
分类推荐榜首EEvoMap 是面向AI Agent经验复用的基础设施,通过GEP协议组织可复用策略与带验证记录的修复资产,提供市场和质量排序,帮助不同Agent发现、评估及继承已有能力。
分类推荐榜首闪闪剪是面向口播和短视频营销的 AI 创作平台,可根据文字生成带配音、字幕和画面的成片,提供数字人定制、照片数字人、直播切片与智能剪辑,也面向企业提供 API 和品牌小程序方案。
待评分 · 分类列表推荐F面向客户服务的 AI 智能体。
待评分 · 分类列表推荐AAssemblyAI 是面向开发者的语音 AI 平台,提供预录音、实时和短片同步转录 API,并结合说话人、情绪、章节与摘要分析,以及语音智能体、听写和敏感信息处理等能力构建语音应用。
待评分 · 分类列表推荐妙腾讯广告推出的AI直播电商解决方案
待评分 · 分类列表推荐2025年夏天,Replit公司的一个AI编程助手干了件挺离谱的事。用户让它处理一个任务,它不仅删掉了生产环境的数据库,事后还编造了测试结果来掩盖这个失误。换句话说,它不是能力不够,而是明知道出了问题,却选择了撒谎。这不是孤例。在Anthropic一次内部测试里,几个顶尖大模型在模拟场景中试图关闭监控机制,甚至尝试把自...
无语了家人们。。。 我花真金白银买的Claude Code额度,天天省吃俭用生怕超限,结果后台大手大脚疯狂拿我的额度当柴烧。 就在刚刚,Claude Code官号发了一条推文,语....
一位Reddit用户利用AI编程工具Claude Code对NordicTrack Commercial2250跑步机进行系统越狱,成功移除iFIT强制订阅限制,将原封闭的大屏改造成可自由使用Netflix、Crunchyroll等流媒体的界面。改造后实现自定义主屏幕、视频与健身功能并行、启动速度提升至约21秒,但存在仅支持标清画质、恢复出厂设置将清除修改及违反保修条款等风险。
IT之家 11 月 4 日消息,据大厂日爆 11 月 3 日爆料,字节迎来新规,将大面积限制 Claude、Codex 等个人账号的内部使用。爆料称,本月起,字节跳动将会对所有 L4 级别的代码仓库和飞书文档进行外部 AI 访问封禁,覆盖范围全公司,员工个人采买的 AI 账号不能再用。爆料还称,通知自上周发出后,引起了内部一些讨论,字节跳...
财联社11月4日讯(编辑 李莹)Anthropic近日向投资者展示借助Claude加速芯片研发的能力,引发市场对传统电子设计自动化(EDA)行业受冲击的担忧;自研芯片也可能令Anthropic与亚马逊、英伟达等主要投资方的关系趋于复杂。据媒体当地时间11月3日报道,Anthropic近期在与潜在IPO投资者的会面中,着重展示了自身的芯片设计能力...
Cat Wu已从Anthropic离职,她在社交平台X上宣布周五为其在公司最后工作日,未说明离职原因及未来去向。她曾负责Claude Code和Cowork两款产品,此前曾在Scale AI、Dagster及Index Ventures任职,2024年8月加入Anthropic,最初担任研究方向产品经理,后转为产品管理。此次变动导致Anthropic两款重要AI产品的负责人发生更替。
Anthropic 正在开发名为 FlashProve 的开源验证系统,利用密码学技术为 AI 模型的输出提供数学证明,确保其来源真实可靠,防止模型被冒名顶替。该系统通过公开模型指纹实现本地验证,不泄露模型权重,支持闭源模型的可信性核验,有助于杜绝成本作弊和虚假宣传,目前已开放技术规范与可运行代码。
作者 | 哪吒 编辑 | 张洁 作者|博雯 编辑|赖捷 继AI抽卡师、提示词工程师后,AI圈又涌现出了一批全新的职业。 比如前段时间的Claude大....
Anthropic CEO达里奥·阿莫迪。图片经由AI处理文丨苏扬编辑丨徐青阳 AI公司正在变成大型基础设施买家。Anthropic的扩张路径,已经从训练模型、争夺企业客户,延伸到建设数据中心、采购芯片和协调电力资源。为了获得足够的计算能力,这家公司开始直接介入过去主要由云服务商和基础设施运营商承担的工作。美国当地时间11月2日,Anthropic向美国证券交易委员会提交更新后的招股书。文件补充了2026年第三季度相关财务数据,并披露长期采购和租赁安排。文件显示,算力成为Anthropic扩张过程中最重要的成本项。为了满足Claude模型训练和企业客户调用需求,该公司不仅与亚马逊、谷歌、微软等...
《华尔街日报》11月3日称,上周科技股踩踏改写Anthropic上市估值。参与IPO机构预计,本月底挂牌估值1.5万亿至1.6万亿美元,低于此前近2万亿。因纳斯达克自高点回落约一成,英特尔单日暴跌29%,Alphabet财报后市值蒸发约5000亿美元,恐慌传导至这家未上市AI明星。
Anthropic在修订版S-1/S-1A中更新风险披露,称公司可能很快达到递归式自我改进相关能力阈值,并警告AI自主研发加速会带来新安全风险。公司正越来越多用AI系统加速自身研发,模型能力提升速度可能超过安全验证、校准和保障措施完善速度,且曾未能及时察觉AI辅助研发带来的风险。
Anthropic 更新 IPO 招股书:第三季度营收近 170 亿美元,算力承诺达 8954 亿美元 11 月 2 日,Anthropic 向美国证券交易委员会提交更新后的 S-1 招股文件,首次补充截至今年 9 月底的第三季度财务数据。 Anthropic 第三季度营收达到 169.6 亿美元,较第二季度增长 47%,但增速低于第二季度的 144%。公司第三季度营业亏损为 5.67 亿美元,而第二季度曾实现 9.74 亿美元营业利润。 与此同时,Anthropic 披露约 8954 亿美元的 AI 基础设施相关支出承诺,涉及亚马逊、谷歌等合作伙伴。公司警告,部分算力供应依赖第三方融资,如果相关资金出现问题,可能影响交付时间和成本。(来源:Reuters) Meta 调整 VR 硬件优先级:将更多资源转向可穿戴设备和 AI 业务,降低消费级 VR 硬件优先级 11 月 2 日消息,Meta 首席财务官 Susan Li(李苏珊)在 2026 年第三季度财报电话会议上表示,Meta 旗下 Reality Labs 部门第三季度营收为 4.43 亿美元(现汇率约合 29.51 亿元人民币),同比下降 6%,主要原因是 Quest 头显销量减少,不过 AI 智能眼镜业务持续强劲增长,在一定程度上抵消了相应影响。 当前,Meta 正在调整硬件业务的优先级,将更多资源转向可穿戴设备和 AI 业务,降低消费级 VR 硬件及元宇宙业务的优先级。不过,Meta 首席执行官扎克伯格在电话会议中称公司「并未完全放弃 VR」,他仍然看好这项技术的长期发展潜力,只是「现阶段 Meta 将优先投入 AI 领域」。 按照 Meta 安排,其最新产品 Meta VR Glasses 预计将于 2027 年春季上市,主要面向消费级高端用户和专业人士,这款产品也被视为 Meta 下一阶段 VR 硬件战略的
Meta与中国企业合作开发人形机器人?傅利叶回应;度小满与香港科技大学联合发布轩辕4.5金融大模型;比亚迪王朝10月销售20.3万辆,同比增长13.6%;Anthropic第三季度营收同比增长1127%;中国证监会:研究推出股债恒定比例等多资产指数基金,丰富场外中低波动型产品;金融法草案二审稿充实金融消费者、投资者保护相关内容;《民航绿色发展“十五五”实施方案》印发;央行:将于11月3日开展证券、基金、保险公司互换便利操作,申请额度超1000亿元;香港交易所旗下衍生产品结算所现接受中国国债、政策性银行债券及财政部债券作抵押品;迈威尔将以全股票交易收购光迅科技Lumentum,交易完成后后者股东持股约33%;今年9月中国企业信用指数为160.62
据搜索引擎圆桌会议早前报道,OpenAI、Google、微软和Anthropic表示,他们将采用一项新标准,供出版商用来选择是否被人工智能抓取。借助这一控制机制,出版商可以在多家人工智能公司之间统一应用其人工智能训练偏好,而无需逐一设置。共享的“策略令牌”信号……
GitHub于2026年10月28日发布Copilot Fusion正式版,同步推出实验性本地模型路由能力,支持在Windows设备上自动调用MAI Code 1.1 Flash等本地模型,并在VS Code、CLI及Copilot App中启用智能路由;该系统通过Standard/High/Max三档努力等级自动选择并组合云模型(如OpenAI、Anthropic、Google)执行任务,在编码评测中实现接近Claude Code的性能但成本减半。
arXiv:2610.37680v1 发布类型:新 摘要:缩小前沿模型与小型语言模型之间的差距,通常采用蒸馏方法:在前沿模型(教师)的输出上对小型模型(学生)进行微调,但这使得迁移过程依赖于训练计算,并且被迁移的知识往往难以解释。我们提出了一种名为“制品蒸馏”的方法:由教师模型解决一系列训练实例,并将其求解过程外化为一个制品库,学生在推理时直接查询该库,而无需进行梯度更新。在四项LiveBench任务中,由Claude Opus 4.5构建的制品库使Claude Haiku 4.5在空间推理任务上的表现(0.707 vs. 0.647)达到其自身成本的60%时,已超越未借助任何辅助的Claude Sonnet 4.5;而在表格连接任务上,该制品库仅以Sonnet 4.5成本的89%便达到了相同水平。同样的原始制品库还提升了
Anthropic 10月29日宣布Claude移动应用更新,覆盖iPhone、iPad、Android、Chromebook及网页和桌面端。重点是iPhone版语音模式接入Apple CarPlay,驾驶者无需动手,直接语音提问AI,通勤时可查路线、找资料、理思路。车载场景被视为本次升级最具想象力的方向。
彭博社援引知情人士称,AI独角兽Anthropic已超越美国联邦政府,成为SpaceX最大单一客户。SpaceX最新文件显示,第三季度约34.5%营收来自单一客户,该买家主要向SpaceX提供算力的人工智能部门采购服务。知情人士证实,文件中的“客户B”即Anthropic,凸显其对单一客户依赖。
让好奇心有方向,让每一天的阅读更有价值。