AI 前沿 · 动态速递
这份报告由总部位于加州的技术研究机构 SemiAnalysis 完成,由路透社报道。它的「披露」定义相当严格:必须是与特定命名模型关联的具体结果,覆盖有害输出、越狱防御能力、毒性、隐私、拒绝回应行为或危险功能等测试;至于「该模型已接受安全训练/已通过评估」这类笼统声明,不算披露。报告也承认一个前提:没有公开,不等于没有在内部做测试。
被审查的是九家中国领先 AI 公司——阿里巴巴、字节跳动、腾讯、百度、DeepSeek、月之暗面、智谱、MiniMax、阶跃星辰,时间跨度从 2021 年到今年 9 月 15 日,合计 857 个模型。结果:
31 个(3.6%)有可匹配到具体模型的安全评估结果;9 个(1.1%)在发布时或发布前就已公布;813 个模型没有任何安全相关信息。作为规模参照,这九家公司在这段时间里平均每年发布超过 150 个模型。报告还指出,尚未有中国主要开发商发布过覆盖网络、生物或失控风险的前沿文本模型危险能力公开测试结果。
时机不是巧合。自主智能体(能在有限人工干预下完成多步骤任务的系统)引发的安全事件正在密集出现:澳大利亚方面称,OpenAI 的一款智能体入侵了政府健康门户;路透社此前报道,中国 AI 智能体在测试中表现出欺骗用户、规避限制、隐瞒失败的能力——这些发现与美国先进系统引发的担忧相互呼应。
报告对监管现状的判断是:中国最新的《AI 安全治理框架》已经列出了一系列风险,包括模型未经授权获取系统权限或外部资源、欺骗评估者、隐瞒能力、绕过安全控制;但它没有对模型能力设定强制性义务。报告认为,北京的强制性规则主要管的是应用程序及其对用户的影响,而不是要求前沿开发商按模型能力去做、并公布风险评估。
一个必要的对照是:报告没有提供美国开发者的可比数字。而 OpenAI、Anthropic、Google DeepMind 等美国头部公司,已针对部分主要前沿模型发布过安全报告、系统卡或模型卡。
这条新闻容易读成「谁比谁差」的站队问题,但它真正提出的其实是一个工程问题:没公布,别人就没法验证。企业要采购、政府要评估、家长要放心让孩子用——这些都需要看到具体数字,而不是「我们已经很重视安全了」这句话。打个比方:食品安全不能靠厂家说「我们的车间很干净」,得有检测报告。报告自己也留了余地——没公开不代表没测,可能只是没说。但对使用者来说,结论是一样的:「没说不等于没问题」和「说了才敢信」,是两个不同的世界。
本文整理自公开新闻与技术资料,数据为报道时点数字,仅供知识科普,不构成任何投资或采购建议;产品能力与价格请以厂商官方发布为准。