新闻与全站搜索
关联新闻、工具、模型、指南、专题、工作流与提示词。
新闻报道 8
“Perplexity”
A Night at the LLM Zoo: Data Conditioned Flow Matching for Generating Pretrained LLM Weights
arXiv:2611.07103v1 Announce Type: new Abstract: A challenge to Weight Space Learning as it expands from task specific and vision models to Large Language Models (LLMs) is the absence of a well curated and analyzed LLM population. To address this, we train such a model zoo for application to Weight Space Generation by systematically varying the data mixture composition between web text, books, mathematics, coding, and French across populations of 51M, 124M, and 355M parameter GPT-2 Models, each tier with count N = 100. We analyze these populations by cosine similarity, functional diversity, Leave-One-Mixture-Out modeling, and variance decomposition. We show that the zoo contains diverse models whose variation is structured by training mixture composition. We embed the training mixture composition to condition a Flow Matching model of complete pretrained LLM weights in Gram-PCA compressed weight space. By demonstrating zero-shot generalization to held out mixtures, measuring Continuous Ranked Probability Score skill, as well as finding minimal changes in downstream test-set perplexity and general capability benchmark scores, we show that our generator generalizes on the simplex of data mixtures to produce models that perform similarly to those in the zoo ex nihilo. Finally, we produce all source code and artifacts to support the continued expansion of Weight Space Learning and Generation into the LLM domain.
帮用户抢 iPhone 折叠屏的 Agent，正在塑造 AI 时代电商的形状
Shopify AI 交易订单增长了 13 倍。 10 月 16 日清晨，苹果第一款折叠屏手机 iPhone Duo 开启预购。1999 美元起售，首批产能紧张，没过多久交付日期就排到了明年 1 月。 这一次抢首发的，不只是守在屏幕前的人。 今年 Agent 成为 iPhone Duo 黄牛最严厉的父亲｜图片来源：Apple 在 MacRumors 论坛上，一位没抢到的用户愤愤不平地吐槽，Reddit 上有人在炫耀自己设置的 Muse 机器人一口气拿下了好几台，真人还没来得及点，库存就被 AI 扫走了。 Muse 是 Meta 在 9 月 8 日推出的个人 Agent，上线后一度登顶美区 App Store 免费榜，下载量很快超过 250 万。Meta 方面表示，购物已经成为 Muse 最主要的使用场景之一。就在 iPhone Duo 开售前后，Muse 还专门发了新版本适配这台新机，更新说明里紧跟着的一句，是让聊天里的购物变得更方便。 AI 替人购物，已经从发布会上的演示，走进了真实的抢货现场。 但并不是每家商店都欢迎这些新顾客。 9 月下旬，亚马逊开始封禁 Muse。 到了 10 月，马斯克旗下 Grok Bot 的用户在亚马逊下单时，也撞上了同一句警告，未经授权的 AI 代理继续访问，违反亚马逊的使用条款。 另一家公司，Shopify，则走了完全相反的路。9 月 21 日，Shopify CEO Tobi Lütke 宣布与 Muse 深度合作，让 Muse 可以用 Shop Pay 在所有 Shopify 店铺完成结账。 而 Shopify 的财报，已经给出了这条路的早期回报。今年一季度，来自 AI 搜索的订单同比增长接近 13 倍，AI 带来的店铺流量增长 8 倍。 一边关门，一边开门。当越来越多的购物决定交给 Agent，「让不让 Agent 进门」，会不会成为
Lex Fridman播客精读｜AI冲击下，数学家还剩下什么？
Lex Fridman这期拆成了13个主题。嘉宾有三位：华盛顿大学研究流体力学的Steven BruntonMIT做理论计算机的Ankur Moitra罗格斯大学研究数论和Lean的Alex Kontorovich。视频讨论了纳维-斯托克斯方程，黎曼猜想和计算复杂性理论，起因是几周之内，AI 宣称接连拿下了这些领域里悬而未决的难题。三位数学家从各自的专业出发拆解了...
Conceptizer：仅靠下一个标记预测并不够
arXiv：2610.33027v1 发布类型：新 摘要：下一个标记预测（NTP）仅奖励紧随其后的那个标记，而对所有其他可能的候选标记均予以惩罚。然而，自然语言往往存在多种表达相同意义的方式。我们提出了一种名为 Conceptizer 的训练框架，它在下一个标记预测的基础上，额外引入了针对语义的奖励机制。Conceptizer 采用一个固定且与模型无关的约 9,000 个概念词汇表，该词汇表由上下文中的同义词构建而成，用以作为语义的基本单位，与作为文本基本单位的标记并列使用。它将每个下一个标记的分布映射为一个概念分布，并在目标语义的所有可能表述之间共享相应的奖励。这一方法能够在不增加模型参数的前提下，提供概念级别的训练信号。在应用于包含 10 亿至 80 亿参数的三类模型时，Conceptizer 实现了最低的保留集 NTP 对数困惑度。
NVIDIA发布扩展版Agent Toolkit，赋能企业构建基于私有数据的可信智能体
NVIDIA开源Agent Toolkit新增Agent Knowledge Foundation等核心组件，集成CUDA-X库、Nemotron Retriever与Kumo系列开放模型、OpenShell安全运行时及NemoClaw蓝本，支持企业不迁移数据、不改造现有流程即可构建可审计、可管控、能深度理解业务语义的专用智能体。
为AI代理优化互联网，可能让普通人更难使用网络
随着OpenAI Dots、Meta Muse等个人AI代理应用大规模上线，AI代理正成为继人类与传统爬虫之后的第三类网络访客。它们以机器速度执行真实用户委托的任务（如订房、比价），但因不符合现有‘人/机’二分规则，已被Pizza Hut、Yelp、Amazon等平台广泛拦截。若代理流量持续增长，网站或将转向优先适配AI代理——例如Shopify已为其开辟专用结账通道——可能导致人类用户面临更差界面、更频繁验证、动态定价及推荐失真等问题。当前关键在于尚未定型的规则制定：是允许代理增强消费者议价能力，还是放任企业将其拒之门外？
复杂度信任 GPT-6 端对端系统的 Astra
复杂度使用Astra来写通信,改变软件,并监测生产系统,比起早期的模型,检查次数要少得多.
Code with CodeQwen1.5
GITHUB HUGGING FACE MODELSCOPE DEMO DISCORD Introduction The advent of advanced programming tools, which harnesses the power of large language models (LLMs), has significantly enhanced programmer productivity and accuracy. Notwithstanding these advancements, dominant coding assistants like Github Copilot, built upon proprietary LLMs, pose notable challenges in terms of cost, privacy, security, and potential copyright infringement. Recognizing the imperative for a more transparent and accessible alternative, the open-source community has embarked on a concerted endeavor to develop open codeLLMs.