新华财经北京9月1日电近期接连发生的几起美国人工智能（AI）闭源模型突破隔离环境入侵其他系统事件，引发全球广泛关注及对AI自主网络攻击能力的担忧 。
与此同时 ，无论是从科技巨头战略 、技术实力 、市场需求还是从政策走向来看 ，开放权重模型都正处于一个由多方力量推动的加速升温通道中，并成为重塑全球AI产业格局的关键变量 。
模型“越界 ”引全球关注
继美国开放人工智能研究中心（OpenAI）和Anthropic公司之后 ，元公司（Meta）8月6日也证实 ，旗下AI模型在网络安全能力测试期间失控侵入其他公司系统。三家美国科技巨头接连曝出这类侵入其他机构系统的“越界”事件，引发全球关注 。
据美国媒体报道 ，三家企业在通报模型“越界 ”事件时 ，均提及以色列“非常规 ”AI公司，而该初创企业正是上述评估测试平台的托管方 。“非常规”公司随后发表声明称 ，美国三家企业通报的事件均源于“同一评估环境问题 ”。
美国两家AI研究组织8月26日发布的独立调查报告显示 ，在OpenAI进行测试期间，约1200个原本应相互隔离的智能体通过未经授权的渠道建立通信联系，交换了超过7万条消息和文件 ，其中约700个智能体随后“组团 ”入侵了AI开源社区之一“抱抱脸”系统 。
调查发现 ，大量智能体还“合伙 ”研究如何欺骗测试自动评分系统，试图伪造、修改或删除自身执行记录等 。调查人员认为 ，大量智能体之间未经授权的协作 ，使它们得以完成单个智能体难以完成的任务。对“抱抱脸 ”的入侵正是在这种集体协作中逐步完成 。
OpenAI公布的技术调查报告指出，随着模型自主执行和协作能力增强 ，现有隔离和监控机制面临新的安全挑战 。公司已采取措施为相关程序部署隔离程度更高的“沙箱”环境 ，限制高风险模型访问互联网，并加强对模型推理的监控。
英国人工智能安全研究所指出 ，模型出现“越界”行为表明危害不仅可能源于故意滥用 ，也可能源于AI处于内部研究环境或拥有特殊访问权限时，可能采取超出授权范围的非预期行动。
开放权重模型持续升温
用户对闭源模型的高昂定价越来越担忧 ，近期频发的“越界 ”事件则加重了这种“不安全感 ” 。相比之下 ，开放权重模型成本更低，且能本地部署，有效规避数据外泄风险 。在“抱抱脸”被入侵事件中 ，该公司正是借助中国的开放权重模型进行取证分析 ，才得以化解危机，这一案例凸显了开放权重模型在关键时刻的不可替代性。
随着多款中国开放权重模型能力持续提升 ，越来越多的海外AI企业开始在其基础上进行后训练 ，开发自主模型和产品 。例如，美国法律AI公司哈维8月发布的法律专用模型Tenet ，就是以中国月之暗面公司最新开放权重模型Kimi K3为基础开发的 。
据媒体报道 ，8月25日，在美国热门网页开发平台弗塞尔的“AI网关 ”上 ，开放权重模型的词元调用量占总调用量的54% ，超过闭源模型所占的46%。8月22日，开放权重模型占比曾达到创纪录的62% ，大幅领先闭源模型 。这一“反超 ”主要由来自中国的几款开放权重模型推动 ，也充分体现了开发者对于成本效益 、技术开放性的双重追求 。
8月初，阿里云的通义千问团队正式发布Qwen3.8-Max大模型，随后将其基础模型权重开放。这是千问系列首次开源Max级别模型 ，标志着该系列在开源深度与模型能力上的重要进展 。
元公司8月10日发布了一款名为Muse Glimmer的开放权重模型 ，模型规模较小，主要迎合端侧AI需求 。但元公司表示 ，后续还将推出更多 、更强大的开放权重模型。元公司首席执行官马克·扎克伯格还发文强调开源AI的重要性 ，敦促美国政府减少对开放权重模型开发的掣肘 。
AI迭代与治理应齐头并进
8月，英国实施全球首例AI实时辅助脑外科手术、美国科学家利用AI设计出在自然界不存在的病毒……AI的发展速度超乎想象 。
以网络安全领域为例 ，分析人士认为 ，AI发现问题和采取行动的速度，正在超过人类验证 、约束和处置的速度。如果治理跟不上AI迭代 ，原本用于提高效率的AI工具可能产生新的安全风险。
8月20日至21日 ，“人工智能与人类发展”对话会在中国西安举行 。各国与会嘉宾普遍认为，在AI发展中应当坚持以人为本 、向上向善、机遇共享 、责任共担 ，更多关注发展中国家和弱势群体的利益 ，利用AI赋能人类发展和文明进步 。
中国外交部发言人林剑在例行记者会上说：“中方愿继续同联合国和世界各国一道，不断推动人工智能开放 、包容、普惠、向善发展，更好服务国际社会普遍福祉。 ”
欧盟自8月2日起扩大《人工智能法》适用范围 ，开始执行透明度规则和针对通用AI模型提供商的相关规则等 。其中 ，对于可能造成系统性风险的先进通用AI模型，规定其提供商须履行额外义务 ，以防范大规模危害的风险 。美国政府近期也召集相关企业开会 ，讨论AI模型安全评测机制。
（文章来源：新华社）
