来源:参考消息
参考消息网8月8日报道 据香港《南华早报》网站8月4日报道,越来越多美国人工智能(AI)业界人士认为,中国的开放权重模型比闭源模型更有利于人工智能的安全。这挑战了Anthropic等美国闭源人工智能模型开发商一直以来坚持的开源模型对社会构成威胁的说法。
谷歌大脑联合创始人、百度前首席科学家吴恩达日前在加州伯克利举行的智能体AI峰会上说:“从我所看到的情况来看,我认为开放权重模型似乎比封闭权重模型更安全。”
吴恩达说,在OpenAI和Anthropic公司的先进模型拒绝提供服务之后,他和一位同事转而使用中国公司发布的两个模型——月之暗面发布的Kimi K3和智谱AI发布的GLM-5.2——对他们上个月发布的名为OpenWorker的开源智能体进行了安全检查。
这只是用中国大模型帮助加强美国人工智能安全的最新例子。上个月,总部位于纽约的开源平台“抱抱脸”公司也使用GLM-5.2模型帮助防御了OpenAI模型的一次网络攻击。
他们转而依赖中国大模型的原因是,美国的最新模型如OpenAI公司的GPT-5.6和Anthropic公司的Claude Fable 5都加强了“安全措施”。
但用户们抱怨说,这些所谓的安全措施也阻碍了用户的合法请求,包括帮助强化网络安全的请求。
这一矛盾导致这两家公司与更广泛的人工智能社区之间产生越来越大的分歧。
Linux基金会前全球人工智能首席技术官马特·怀特表示,最近的这些事件表明,对用户和企业来说,完全依赖闭源模型存在明显的安全风险。
怀特在伯克利的峰会上说:“(闭源人工智能)会将能力、基础设施和决策集中到极少数机构手中,他们有可能将人工智能从大家都能使用的资源……变成只能从少数几家公司租用的东西。这不应该成为我们创造未来的基石。”
当然,他也承认,围绕开放权重模型的安全担忧也是“真实存在与合理的”。(编译/潘晓燕)
