蒸馏风暴：AI 公司不愿公开谈论的技术竞赛
所有人都不愿意公开谈论它，但所有人都在默默地关注它。
有人认为，这是一种不体面的偷窃行为。也有人认为，这是少数领先者为了自身利益而污名化的对象，它本身只是一种优化手段。
过去数月，AI 领域的诸多线头指向同一个节点——蒸馏。
和它相关的变化与事件有：开源模型逼近最强闭源模型；美国 77 家公司签署公开信，反对仓促限制开源模型；Anthropic 两次指责中国公司以大量欺诈账户套取数据；15 亿美元的侵权诉讼和解；张一鸣在字节 Seed 全员会上关于 “不蒸馏” 的正面回应……
这种诞生多年的技术，在 2026 年反复被提及、讨论，也被误解和曲解。蒸馏到底是什么？大规模蒸馏如何实现？蒸馏能否成为一个模型研发团队的壁垒？它的代价又是什么？
我们访谈了来自不同公司的近十位模型领域研究员、从业者，也结合公开研究和技术报告，还原蒸馏的过去、现状，和它正在带来的更多改变。
蒸馏的起点：为了压缩，而非为了变强
蒸馏不是抄袭，不是窃取软件代码，它也无法直接获得另一个模型的权重和完整训练数据。
现在处于争议中的那种蒸馏，即让模型变强的蒸馏，技术上是一种获得高质量数据的方式：即反复向一个更强的 “教师模型” 提问，得到回答，再用这些 “题目—回答” 数据对训练另一个 “学生模型”，让后者达到相近的表现。
蒸馏的想法由来已久。2015 年，刚加入 Google Brain 不久的 Geoffrey Hinton，与当时 Google Brain 的负责人 Jeff Dean 和年轻研究员 Oriol Vinyals 一起发表了《神经网络中的知识蒸馏》（Distilling the Knowledge in a Neural Network），第一次把之前出现的模型压缩（Model Compression，2006）等思路总结为蒸馏，Distillation。
那时距离 Google 提出 Transformer（如今大语言模型的架构基础）还有将近 2 年半，Hinton 他们把蒸馏的思路用到了图像识别模型：方法是，让学生模型学习教师模型输出的概率分布。比如识别猫是猫，这对深度学习是一个统计过程：0.7 是猫，0.2 是狐狸，0.1 是狗→ 是猫。
学生模型能看到教师输出的这组概率分布，这便是学到 “logits”，即所谓 “软蒸馏”（logits 是一组原始分数，经过 Softmax 转换后即是概率分布）。
软蒸馏通常是 “白盒蒸馏”：因为它需要教师模型的输出概率对学生模型完全开放。
这种蒸馏通常发生在同一组织内，它的出发点不是变强，而是 “压缩”——用较小参数的模型逼近更大参数模型的能力。这会损失一些性能，但能让推理更快、更便宜。
直到今天，“压缩” 仍是蒸馏最典型的用途之一。
比如在自动驾驶领域，就会先做出性能更强的云端大模型，再用蒸馏、剪枝等方法，让它变成能在车端芯片上跑的更小的模型。理想、小鹏等公司都有这类实践。
更近的例子是 2025 年年初的 DeepSeek-R1。当时 DeepSeek 还同时发布了六个小尺寸的蒸馏模型，它们的教师模型都是总参数 6710 亿的 R1 本身。学生模型中，4 个以阿里的 Qwen2.5 为底座，2 个以 Meta 的 Llama 3 为底座，参数量最小 15 亿，最大 700 亿。
DeepSeek 先让 R1 生成约 60 万条 “题目—推理过程—答案” 的推理数据和约 20 万条非推理数据，再在后训练阶段用这些数据去监督微调（SFT）6 个小的基座模型。这些模型都获得了更强的推理能力。
《晚点》曾报道，2026 年春节后，R1 的核心作者之一郭达雅加入了字节 Seed。
“工业化规模的蒸馏攻击”
在为了压缩的目的中，蒸馏是一个中性的技术方法，而到 2026 年 2 月，Google 和 Anthropic 连续发文，将 “蒸馏” 和 “攻击” 并用，直指部分公司利用蒸馏进行不正当竞争。
Google 认为这是一种 IP 偷窃：
过去一年里，“蒸馏攻击” 作为一种窃取知识产权（ intellectual property theft）的手段日益增多。
——GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use
Anthropic 分别在 2 月和 6 月称 DeepSeek、月之暗面（Kimi）、MiniMax 和阿里千问（Qwen），总计通过约 5 万个欺诈账户与 Claude 进行了超 4480 万次交互，试图提取 Claude 的能力。（2 月：Detecting and preventing distillation attacks，6 月：Anthropic 致美国参议院的信。）被提及的公司未作出正面回应。
对闭源领先模型的蒸馏何以大规模开展？变化的源头还是在于技术，可以看到 3 条脉络：
2016 年，在哈佛读博士的 Yoon Kim 和导师 Sasha Rush 提出了序列级知识蒸馏，把最初用在图像识别上的这种方法用到了翻译这一语言任务上。
序列级蒸馏不再学习模型每一步输出的概率分布，而是让教师模型先生成高质量译文，再让学生模型学习完整的 “原文-译文” 序列对。
提出这个技术，本来是为了压缩庞大的翻译模型，提高解码速度，但它也带来一个效果：就是让蒸馏不再需要知道教师模型逐步输出的概率分布，可以只看 “最终答案” 就实现蒸馏。
这就是 “硬蒸馏”，它可以黑盒进行，也就是通过调用 API，直接获得教师模型的回答即可。
Sasha Rush 后在 2025 年 3 月加入 AI 编程公司 Cursor。今年 6 月，Cursor 被 SpaceXAI（SpaceX 和 xAI 合并后的新名字）以 600 亿美元收购，团队也已并入。
2024 年 9 月，就在 Scaling Law 撞墙的讨论弥漫之时，OpenAI 发布 o1 推理模型。o1 带来两个变化：
这两个变化都能放大蒸馏的效果：首先大规模蒸馏是一种主要用在后训练阶段的方法，后训练重要性提升，蒸馏的投入回报也提升。同时，测试时计算让模型在产出最终回答外，也产出思维链和推理轨迹（包含思维链、工具调用、搜索过程和纠错过程等）等长推理过程。这些产出可被作为蒸馏的数据原料。
4 个月后，DeepSeek 在 R1 技术报告中公布的蒸馏过程，更详细展示了蒸馏让模型变强的机制。R1 有几个具体实践和发现：
首先，蒸馏过程主要使用的是 R1 生成的 “题目-推理过程-回答” 数据对。这是目前蒸馏最理想的状态，效果比只有 “题目-回答” 的数据对更好。
开放程度颇高的 DeepSeek 在发布 R1 时直接展示了完整思维链，“希望有助于社区蒸馏更好的小模型”。
而领先的闭源模型公司，OpenAI、Anthropic 和 Google DeepMind 都一直对用户隐藏完整的思维链和推理轨迹。
所以从业者提及蒸馏时常会说：“谁谁破解了谁的思维链”。
本周一（8 月 10 日），德国图宾根大学等机构的研究者发布了《从闭源大语言模型 API 中偷取推理轨迹》（Stealing Reasoning Traces from Proprietary LLM APIs）一文，展示了他们发现的还原推理轨迹的一些方法。
该研究的网页stolen-thoughts.com
其实这早就不是秘密——即使闭源模型公司刻意隐藏，思维链和推理轨迹也可以通过技术手段被还原。
这本质是因为，它们都是模型输出的一部分，是模型使用阶段的产物，只要你去用一个模型，思维链和推理过程就会被生成，会留下痕迹。这仍属于黑盒蒸馏和硬蒸馏。
R1 对蒸馏的另一个发现是：在后训练阶段，直接蒸馏带来的提升大于让模型自己做强化学习。
DeepSeek 当时用 Qwen2.5-32B 做了一组对照实验：
我们证明了可以将大模型的推理模式蒸馏到小模型中，这比小模型通过强化学习习得的推理模式有更优的性能。——R1 技术报告
虽然这是一个特定实验下的结果，不一定能外推到所有情形，但仍是一个很有吸引力的发现。因为长步数强化学习的训练难度本就高于监督微调，它对 Infra 有更多要求，速度往往也更慢、算力成本更高。
DeepSeek 公开了一种让更小或性能更弱的模型，相对经济、高效，且确定性强的提升推理能力的方法。
多位从业者称，近期出现的一些实践是，在后训练阶段主要做监督微调，几乎不做或做很少的强化学习，也可以取得很好的效果。
也是在 DeepSeek-R1 之后的整个 2025 年至今，Anthropic、OpenAI 和 Google 等公司称，他们监测到的 “蒸馏攻击” 行为日益增加。
同期，对后训练的更多探索也推广了另一种不涉及争议的蒸馏实践：目前主要用于后训练能力合并的 on-policy（在线策略）蒸馏。
On-policy 和 off-policy（离线策略）蒸馏的区别在于数据由谁生成。前面提到的让模型学习另一个闭源模型的蒸馏，多数是 off-policy 蒸馏，数据由教师模型生成；而 on-policy 蒸馏是让学生模型生成推理和回答，教师模型提供反馈。反馈可以是逐个 token 生成的分布概率（白盒），也可以是对推理轨迹和回答作评判（黑盒）。
2025 年下半年至今，阿里 Qwen、Thinking Machines Lab、小米 MiMo 都贡献了 on-policy 蒸馏的实践和改进。
小米在今年初的 MiMo V2-Flash 技术报告中介绍了 MOPD（多教师 on-policy 蒸馏）方法，6 月又发布了单独的文章（Multi-Teacher On-Policy Distillation for Capability Integration in LLM Post-Training）：先分别训练数学、代码、工具调用等方向的教师模型，再让学生模型自己生成轨迹，按任务接受不同教师的反馈。它要解决的是一个后训练的新问题：如果直接把多个方向的能力混在一起做强化学习，常会互相干扰、此消彼长。
DeepSeek-V4 和 Kimi K3 技术报告中，都称在后训练阶段用 MOPD 思路合并了多个专家模型。
蒸馏规模化的第三条脉络是，蒸馏本身也在随 AI 能力变强而更加自动化。
回到蒸馏的关键——“题目-推理过程-回答” 数据对。
首先，提问这个环节，可以从人变成 AI：2022 年以来的 Self-Instruct 等诸多研究都是在解决高质量提问少且贵的问题。
实践中，各公司可以先从获得授权的用户使用行为中筛选出高质量的真实提问，然后再基于这些真实提问扩增更多 AI 生成的提问，更高频地去问教师模型，获得更多回答。这就像，你先有一些酵母（真实数据），再用它发酵出更大的面团。
“题目-推理过程-回答” 的整体数据对也可以做这样的改写、扩增。
这本质上是现在 AI 领域的一种基础思维：用 AI 和模型来自动化和加速 AI 本身。
整个蒸馏流程里，还有很多具体步骤都可以用到 AI，比如从海量真实提问里筛选高质量题目，评估 “何谓高质量数据”，提升合成数据的多样性……有些环节可以用模型来做，有些可以用越来越强的 AI 编程能力更快构造和改进各种系统来加速和优化。
可以说，2025 年至今，大规模蒸馏的各种方法和实践积累逐渐成熟，它的效果和必要性也随后训练重要性的提升而愈加显现。
围绕 “蒸馏” 的讨论也逐步走出了 AI 技术圈，在传播中被简化、误解，乃至曲解。蒸馏不再是一个单纯的技术议题，它走向了风暴中心。
对蒸馏的误解：它不是银弹也不是秘密
梳理了蒸馏的大致原理后，我们有了更好的基础来展开关于蒸馏的各种讨论。
· 蒸馏不是银弹，不是决定模型性能的最重要环节
前文已反复提到，让大语言模型变强的蒸馏主要发生在后训练（也包括中训练）阶段。而一个模型的整体效果来自预训练到后训练的完整训练过程。一般认为，预训练的重要性更大。
所以蒸馏不是银弹，不是决定一个模型性能的最重要环节。
在 DeepSeek-R1 的技术报告中，同样是用 80 万条 R1 数据做蒸馏，Qwen2.5-32B 基座模型经过蒸馏后，在 AIME 2024 上得分 72.6%，高于 Llama-3.3-70B-Instruct 蒸馏后的 70.0%，而后者的参数是前者的两倍多。
在 K3 发布后，Ai2 研究员 Nathan Lambert 在回复 K3 登顶 Frontend Code Arena 榜单（评测前端代码能力）的一条推文时说：到这个时候，关于 “蒸馏” 的那套论调该停止了；人们该承认，中国也非常擅长造模型。
预训练达到一定水平，是 K3、GLM-5.2、DeepSeek-V4 等中国开源模型能取得目前性能的基础条件。
· 蒸馏需要相当多运营、经验和工程 know-how
蒸馏常被类比为一种捷径，捷径往往指向轻松、省力。但实际上，现在要大规模展开蒸馏是一个比较复杂的系统工程。
综合多位从业者的描述，大规模蒸馏有几个比较有难度的环节：
一是能稳定、高频、大量地调用领先模型和做用户运营。
一种被提及的做法是：建大量中转站，以折扣或其它方式吸引一批有真实使用行为的特定用户——他们可能是高级程序员或需要处理大量科研问题的理工科学生和研究者。在日常使用中，他们会自然而然地产生真实场景、真实任务下的高质量多轮提问，再得到模型的回答。这些提问及回答的数据按照一定方式筛选、处理后，可以作为发酵和扩增更多数据的源头。
这既考验团队的运营能力——是否知道高质量的用户在哪儿，以及如何触达；也考验构建这套系统的工程能力，比如能否让系统足够稳定；也需要一些生态能力，整个过程可能需要与第三方公司或机构合作。
二是团队自己来构造高质量题目和任务的能力。这需要对任务、对数据，对当前领先模型的性能边界有深入的理解。它和大模型训练本身所需的一些能力是重合的。
三是怎么用好数据。这需要建立一套数据管线——任务分布是否合理、怎么采样、筛选、过滤、去重、扩增、纠错，怎么定形式和配比。这套管线有一些可衡量的优化指标，比如从获得的原始数据中，最后有多少比例的数据能被用到后训练；扩增的效率和质量如何等。数据管线的质量既影响效果，也影响效率和成本。
持续做蒸馏也非常昂贵。关于业内公司今年在蒸馏上的花费和预算，有一些流传的说法，分布在上 1 亿美元到 10 亿美元不等。
一位 AI 领域投资人说：蒸馏不是一个简单的按钮，不是你点一下，模型性能就会突飞猛进。其中还有大量实现问题。蒸馏也需要计算投入回报比。
· 蒸馏是一个模型团队的壁垒吗？
那么，实现起来相对复杂的大规模蒸馏，能否成为一个模型研发团队的壁垒？
我们接触的多数从业者，不管他们来自传闻中做了蒸馏的公司，还是不做蒸馏的公司，想法都比较一致：对第一梯队的公司来说，蒸馏不构成长期壁垒。
像大模型的诸多技术一样，蒸馏的思路和实践会逐渐扩散。人员流动、开源分享、会议交流、想寻找更多客户的第三方服务方……AI 圈的人和信息时常流动。我们反复从研究员口中听到那句相似的感叹：大模型领域没有真正的秘密。
技术方法本身能带来的竞争优势，大部分是先发优势，先做的人会有更多经验，但它不是网络效应那样不可逾越、胜者通吃的强壁垒。
大模型领域，真正被认为有较强竞争壁垒的现象是 “数据飞轮”：如果某一个公司的模型足够强，能触达大量用户用它做高难度任务，它就会获得更多高质量数据回流，而且这些数据是独特的、非公开的、其它人没有的；这些数据经过一定的处理，又可以被用来帮助训练更强的模型，再吸引更多用户处理更难的任务。
在这个飞轮逻辑里，直接接触用户的应用有很大价值。比如根据用户协议和权限设置，Cursor、Devin、Manus 等应用可能可以获得比它们调用的模型更完整的数据和用户行为。
昨日（8 月 12 日）Grok 4.6 发布后，马斯克在回复 Devin 已接入 Grok 4.6 的推文时说：“Grok 4.7 会超越所有现在的模型。”“SpaceX 的训练语料库（training corpus）太棒、太独特了。”600 亿收购 Cursor，看来很值得。
不过数据飞轮也有自己的争议：模型和应用公司能获得数据，但能否用这些数据来训练？越难的任务、越高价值的场景，客户和用户是否会越倾向于自己掌握这些数据？同时，当模型的用户数量继续扩大，用户类型和场景会更加多元化，沙里淘金是否还值得？
有从业者认为：在一些偏生活助手和娱乐休闲的 AI 应用中，用户产生的绝大部分数据对训练更强的模型而言都是垃圾。
那条内心的评判线：黑盒还是白盒
关于蒸馏，最有意思的一个现象是：所有人都不愿意公开谈论它，但是多数我们接触的从业者，也并不从心底认为这是一个十分可耻的、违背他们技术信念的做法。
这条内心评判的分界线在于黑盒与白盒。
目前对闭源模型展开的蒸馏都是黑盒蒸馏，它获得的的数据，都是这些模型发布后在使用中产生的数据，是这个模型作为产品的产物。
那么其它公司为何不能作为用户去向这个模型提问，获得回答呢？何况，为了这些问题和回答，大家也付出了真金白银。（当然，实践中会通过各种方式 “薅羊毛”，压低成本。）
这里面更有争议的部分是推理轨迹，大部分模型隐藏了完整的推理轨迹，蒸馏方需要通过一些技术手段去推测和还原。但推理轨迹仍是模型使用阶段的产物。
Anthropic、Google、OpenAI 会说：我的用户协议明确规定了，其他竞争对手不能为了训练和提升自己的模型来使用我的模型。
可是，是谁被《纽约时报》起诉，指控其未经许可，复制并使用了这家报纸历经 170 多年，由数代记者、评论员和作者积累的新闻档案库？是 OpenAI。
是谁从盗版平台下载了海量图书，不愿为其中任何一本付费，被数位美国作家集体诉讼，刚刚达成 15 亿美元的和解？是 Anthropic。
甚至一些美国 AI 从业者都认为 Anthropic 等公司十分双标。这有点像诺兰新片《奥德赛》中的情境：你把木马送进了特洛伊城，你的故乡如今也被海上来者侵袭。
大规模蒸馏，是新技术发展之后出现的新议题。很难因为几个公司说这违反了自己的用户协议，就让其他多数人心服口服地接受这是一个不可取、不道德，甚至可耻、邪恶的行为。
而且违反用户协议并不等于构成法律上的侵权，这还涉及其他法律规定和司法管辖权等问题。
最为广义的蒸馏，也就是使用数据来提升模型，已经变得无处不在。
一个广为传播的验证蒸馏的方式其实是无效的：当你问一个模型 “你是谁”？如果 A 模型说自己是 B 模型，这并不是 A 蒸馏了 B 的铁证。在预训练阶段，大家都会使用大量公开互联网数据，而其中已有很多是各模型自己生成的数据。
今年 7 月，英伟达创始人黄仁勋在接受 Axios 采访时被问及蒸馏，他说：“（广义的）蒸馏，向 AI 学习、向其他知识来源学习，这是智能的基本原理。”
对多数模型公司来说，包括一些美国模型公司，蒸馏的油门已经踩下，少有人会在短时间内主动放弃蒸馏。
为什么张一鸣选择不蒸馏
大多数公司不愿意公开谈论蒸馏，字节是一个例外。
在约半个月前（7 月底）的最近一次 Seed 全员会上，字节创始人张一鸣明确说：他反对蒸馏。
字节在蒸馏上经历过调整。2023 年底，字节是中国主要大模型厂商中，第一个被 OpenAI 指出，疑似不合规地使用 GPT 模型的输出来提升自己模型的公司。当时还没有大规模蒸馏。OpenAI 自己也说，字节对其 API 的使用量很小（minimal）。
字节后来回应，GPT 生成的数据曾被用于模型标注和评估，但相关数据已在 2023 年年中被从训练集里删除。
据《晚点》了解，这之后两年多里，包括蒸馏规模快速扩大的整个 2025 年，字节 Seed 没有蒸馏领先的闭源模型，而是通过其他方式获得数据，比如高薪聘请数学、计算机等理工科竞赛的获奖选手来构造和标注数据。
同期，TikTok 在美国的业务争议尚未解决。直到 2026 年 1 月底，TikTok 美国业务重组交易正式完成。
到 2026 年春节前后，Seed 一度经历摇摆。当时 OpenClaw 风行、Anthropic 收入激增，GLM-5 等中国开源模型用量大涨，编程能力提升的量变已引起质变，而字节的模型在编程能力上相对落后。
经过一段时间的抉择后，从张一鸣在 Seed 全员会的发言看，字节已经做出了选择，不蒸馏外部的领先模型。
据《晚点》独家报道，张一鸣在全员会上的观点是：
这引出对蒸馏的另一个讨论：蒸馏真的不能超越教师模型吗？
我们也问了多位从业者这个问题，回答比较相似：技术上并非不可能，但有潜在的组织隐患。
蒸馏有一些内在的技术问题，比如它可能使学生模型学到教师模型的一些错误、偏见、拒答习惯和表达模式。
但蒸馏只是模型训练的环节之一，完整的模型训练过程还有很多可以改进的环节：预训练数据、架构、算法、 Infra……多个优化累加，是否有可能让一个学生模型好于某个教师模型？
一些研究已显示，在某些具体任务上，学生模型可以超越教师模型。如 2024 年 12 月，微软发布 140 亿参数的 Phi-4，它的大量训练数据是 GPT-4o 等教师模型合成的。Phi-4 在两个 benchmark 上超过了 GPT-4o：
比较特别的是，作为一个小参数模型，Phi-4 也直接把教师模型生成的数据用到了预训练中，而真正训练数 T 参数的超大规模模型时，需要庞大数据的预训练环节很难用上蒸馏得来的数据，相比直接处理各种网页、代码、书籍，逐条调取教师模型生成数据缓慢而昂贵。
不过这也带来一个设想：当模型推理速度大幅提升、价格大幅降低时，蒸馏或者说借助更强模型构造的数据是否也可以更多进入预训练？
同时，多教师蒸馏等思路是否也可以用来让模型变强？理论上，一个学生模型可以同时学习 Claude 和 GPT 等不同的最强模型。这可能会带来一些新的技术问题，比如蒸馏不同的基座模型，可能会导致训练不稳定和不同能力之间的相互干扰。
更激进的一些想象还包括：那些最领先的公司能否通过自己蒸馏自己的模型，实现 “左脚踩右脚” 的原地飞升？
纯粹从研究视角看，“一个使用了蒸馏方法的模型能否超越教师模型” 至少是一个有待验证和探索的课题。
而张一鸣和字节用行动给出了他们的答案，他认为无法超越。
这可能和多位从业者提及的组织隐患有关。蒸馏是一种相对经济且见效快的方式。一个运动员当然可以既嗑兴奋剂，又勤于训练。但这在现实中往往难以两全，因为会侥幸，有惰性。
当一个团队一个阶段内的注意力和资源重心比较大比例地放在蒸馏上之后，那些探索更不确定、更长期方向的项目和个体可能得不到足够的资源和认可。
字节在下注：掌握不依赖外部对手的数据能力，能构建更稳健和长期的模型技术优势。
从今年 6 月起，据《智能涌现》报道，字节开始重组数据团队，成立了与 Seed 和 Flow 平行的一级 AI 部门 “AI 数据与安全”。
前文也已提到，多数人不认为蒸馏这套方法构成长期壁垒。大模型领域真正有可能形成强壁垒的是数据飞轮。
数据也已成为一个高价值的独立环节。如美国公司 Mercor，主要业务就是帮大模型公司找科学家、各学科博士等专业人士做数据构造、标注和模型评估任务。据报道，今年 7 月，Mercor 正在以 200 亿美元估值寻求新一轮融资。
在中国，也有以数据构造为起点的公司，估值已来到 30 亿美元。
在我们关于 “字节不做蒸馏” 的那条独家报道之下有这样一条留言：他（张一鸣）可能不是最懂技术的，但大概率是最懂人性的。
没人能轻易踩下刹车
当别人指责你犯错时，你回敬 “你不也曾这样吗？” 并不解决矛盾。
此时此刻，开源模型在性能上越发逼近最领先的闭源模型。而且客观事实是，最强的开源模型来自中国，最强的闭源模型来自美国。
此前，智谱已在 2025 年 1 月被美国商务部列入实体清单。同年底生效的《2026 财年情报授权法》则要求从美国情报系统、国家安全系统和相关供应商中移除 DeepSeek。
到今年 4 月，美国众议院国土安全委员会和美中战略竞争特别委员会开始调查美国企业使用中国模型的情况，问 Cursor 为何要把 Kimi K2.5 当做 Composer 的底座，问 Airbnb 为何要在客服业务中使用阿里 Qwen。
7 月 16 日 Kimi K3 发布后，据报道，美国政府正考虑限制乃至禁止部分中国开源模型。7 月 24 日，微软、英伟达、Meta、Fireworks AI 等 77 家公司和机构陆续联名签署公开信《开放权重与美国 AI 领导力》，反对仓促限制开源模型。
黄仁勋在 Twitter 的第一条推文就是分享这封公开信。
最近几个月的新限制手段仍在讨论中，尚未落地。
Anthropic、OpenAI 和 Google 等公司也正采取更严苛的技术手段识别和封禁疑似用于蒸馏的账号。比如 Anthropic 称，它已经建立了识别蒸馏流量的分类器和行为指纹系统，可以发现跨账号协同、重复提问以及套取思维链的行为；同时会加强对教育、研究和创业公司账号的身份验证。
前文提到的图宾根大学的 “stealing reasoning tracks” 研究中还原推理轨迹的方式，已被这个研究团队报告给相关闭源模型公司，在他们上传文章时，其中的部分方法已失效。
参与其中的各方都在做出自己的选择和准备，而接下来的变化会改变从算力、云服务、Infra、再到模型、应用和客户部署的整个产业链条。
风暴还在继续，下一个风眼不一定还是蒸馏，它本身也只是优化模型的方法之一。
这么多公司投入这么多资源，如此争先恐后地投入这场智能竞赛，是为了什么？今年上半年，是编程和 Agent 的爆发式增长，扭转了市场预期。再往后，如果大模型应用扩散的规模与速度无法接续，那么，模型研发竞赛的未来会如何波动？这是另一些人已经在关心的问题。
文丨程曼祺
编辑丨宋玮