华潮新闻网
科技

微软7月28日更新133家机构联名挺开源 Anthropic未加入达里奥回应未禁开源

来源:华潮新闻网
微软7月28日更新133家机构联名挺开源 Anthropic未加入达里奥回应未禁开源

新智元报道

一封来自开源阵营的联名信,让Anthropic成了唯一的“局外人”。

7月24日,英伟达、微软、Meta、Hugging Face以及Linux基金会等25家机构共同签署并发布了《开放权重与美国AI领导力》(Open Weights and American AI Leadership)公开信。信中明确呼吁美国政府:切勿在早期阶段就收紧对可下载、可审查、可修改及自行部署的开放权重模型的限制。

随后,OpenAI、Google、SpaceX等巨头纷纷跟进。据微软官网截至7月28日的最新名单统计,随着机构陆续加入,签署方已从最初的25家激增至133家。

在这份不断延长的名单中,Anthropic的名字始终未现。

最先发难的是前特朗普政府AI事务负责人David Sacks。他在社交平台X上直言:“整个科技行业,除了Anthropic,全都站出来支持开源了。”这句话矛头直指Anthropic,暗示行业内有人执意要将开源生态搞垮。

早在联名信发布前的7月20日,Benchmark合伙人Bill Gurley便已在《华盛顿邮报》发文指出,开放模型有助于在Anthropic与OpenAI之间形成良性竞争;此次他又补充道,Anthropic对此事的态度,“很有深意”。

OpenAI的Peter Steinberger则从另一侧开火,嘲讽道:OpenAI签了名,而Anthropic却保持沉默。

一时间,“全行业围攻Anthropic”的舆论声浪愈发明朗。

面对质疑,Anthropic CEO达里奥·阿莫代伊(Dario Amodei)选择正面回应。在沉默三天后的7月27日,他亲自撰写博客文章《我们对开源权重模型的立场》(Our position on open-weights models),开篇即定调:

Anthropic从未主张禁止开源权重模型。

**联名信:开放是通往AI安全的必经之路**

英伟达CEO黄仁勋在X平台率先表态力挺该公开信,他认为世界既需要前沿的闭源模型,也离不开前沿的开源模型。

这封联名信的叙事起点回溯至上世纪80年代:当时的开源软件先驱们挑战了“只有将软件掌握在公司手中才能推动进步”的主流观念。

几十年过去,开源软件已支撑起互联网的大半壁江山,甚至连全球最大的科技公司及联邦机构都依赖其运转。如今,人工智能正站在同样的十字路口。

信中列举了开源权重(Open Weights)的三大核心价值:扩大访问权限、促进市场竞争、增强客户控制力。

这意味着,初创企业、高校及公共机构无需从零开始训练模型,也不必为每个任务支付高昂的前沿模型费用,即可利用先进能力。

此外,信件提出了一个关键判断:开放,或许是通向AI安全的重要路径之一。

其逻辑在于,闭源模型同样面临被攻破、被误用的风险,甚至可能以人类难以察觉的方式发生静默错误。若将最先进的能力封闭在少数几家公司手中,无异于人为制造多个“单点故障”。相反,开源能让全球研究者共同检查模型行为、挖掘漏洞并修补缺陷。

信件并未回避潜在风险:权重一旦公开便无法收回,且被修改的版本也难以追踪。但其结论依然是寻求正确的应对机制,而非简单禁止开源。

这里需厘清一个概念:开源权重不等于开源AI。

公开权重仅指释放训练好的模型参数;至于训练数据的具体构成、代码细节、是否允许自由改动及商用,往往并不随之公开。简言之,前者只是交付成品供你“使用”,后者则是连配方和改造权一并交出,让你具备“制造”能力。

同挂“开源”之名,实际开放的层级却大相径庭。

**核心争议:不是要不要开源,而是开放到哪一步**

达里奥在博客中重申,Anthropic从未主张禁止开源权重模型。

他认为,“不具备危险能力的开源模型是一种公共产品”。对于联名信中提出的三条优点,他并无异议:开源模型除运行所需的算力成本外,几乎不产生额外费用,却能为企业、开发者和研究者带来切实价值。

但他不完全认同联名信的一个核心论点:开放必然使防御者比攻击者获益更多。

达里奥认为,在某些领域,情况可能截然相反。他以生物安全为例指出,一个足够强大的模型,或许能利用随处可见的材料,迅速将某种流行病级别的病毒武器化;而要防范此类攻击,则需要耗时多年的系统工程。攻防双方在时间量级上的巨大差异,使得“开放究竟利好谁”成为一个复杂命题。

因此,他提出的解决方案是:在发布前进行严格测试,用实测数据说话,摒弃“开放即更安全”的一刀切思维。

**两条替代路径:不禁开源,但设门槛**

达里奥并未反对开源本身,而是提出了两条替代思路。

第一条,管控工业规模的非法蒸馏。蒸馏技术本身正常,真正需要遏制的是越界且成规模的滥用行为。应通过定向的法律和商业框架加以约束,而非笼统地全面禁止开源。

第二条,实施统一的安全测试。所有具备足够能力的模型,无论开源或闭源,在正式发布前都必须经过安全测试,涵盖网络、生物及对齐风险。能力不足的初创公司和学术模型则可豁免。

达里奥表示,这一思路已接近行业共识。近几个月来,美国政府态度转向类似方向,业界也在倡导按能力设定门槛,而非单纯看来源或是否开源。

一句话总结:未来的AI监管,将依据能力测试和行为处罚,而非单一的开闭源属性。

**立场延续:不反对开源,但担忧依旧**

尽管达里奥不反对开源,但他心中的忧虑从未消散。

2019年2月,时任OpenAI研究副总裁的达里奥参与了一项备受争议的决策:GPT-2未完整公开,而是分阶段释放,理由是“过于危险”。后来GPT-2全量放出,预言中的灾难并未降临,该决策也被许多人视为“过度谨慎”的反面教材。

2023年7月,以Anthropic CEO身份出席美国参议院司法委员会听证会的达里奥再次发声。

2023年7月25日,达里奥出席参议院AI监管听证

当时,他警告称开源规模化“走在危险的路上”,同时做了明确区分:中小型开源模型利于研究与创新,他真正担忧的是资金雄厚的公司不受控地发布大型前沿模型。

理由依然如故:模型托管在企业手中,若被滥用尚有补救余地——封禁账号、调整行为、添加护栏、修复漏洞;一旦权重公开,这些手段全部失效,被篡改的版本还可被私下运行和再分发。

七年来,达里奥对开源模型的主张一脉相承:无危险能力的开源模型是公共产品,而前沿模型权重一旦放出便不可回收。至今,Claude从未开放过任何权重。

在今年早些时候发布的长文《技术的青春期》(The Adolescence of Technology)中,他已系统阐述过这两层担忧。

近期,Anthropic还发布了一项研究,探索通过模块化训练提升开放权重模型的安全性。

尽管达里奥态度一贯,但反对声浪从未停止:既然Anthropic自身坚持全闭源路线,其对开源的各种安全担忧,是否仅是为了“限制竞争对手”而准备的漂亮挡箭牌?

有技术圈人士将其潜台词直译为:“立法者们,请帮我禁掉我的竞争对手。”

**论战背后:各算一笔商业账**

在这场硅谷的开源大辩论中,双方实则各有算盘。

开源阵营中,开源扩散意味着英伟达能售出更多芯片,云厂商能承接更多业务,开源模型公司能抢占更大市场份额,各方均为受益者。

而Anthropic依靠闭源API盈利,维护一套“可控访问”秩序符合其利益。今年初推出的Project Glasswing项目,仅向少数经审核的可信伙伴开放最强模型,正是这种门控策略的体现。

拥有商业利益,并不代表其主张全然错误。此次Anthropic引人瞩目的焦点在于,即便联署名单已扩至133家,它仍未签字。

达里奥已将话挑明:Anthropic从不主张禁止开源权重模型,其真正关注的是“如何开放”以及“开放到何种能力等级”。

这场争论或许正在悄然扭转监管风向:从讨论“要不要开源”,转向探讨“该如何开源”。

参考资料:

https://www.businessinsider.com/anthropic-open-source-ai-model-weights-criticism-2026-7?utm_source=chatgpt.com

https://www.businessinsider.com/microsoft-nvidia-meta-palantir-jensen-huang-open-source-ai-letter-2026-7

https://www.anthropic.com/news/position-open-weights-models

编辑:元宇

秒追ASI

相关推荐