⚖️ AI 安全论战

论战怎么烧起来的

Anthropic CEO 阿莫代伊上周发文，呼吁业界为前沿 AI 减速，理由是「自我改进的 AI 系统」可能带来生存风险，并建议大公司坐下来开一场「安全对话」；马斯克与 OpenAI 的奥特曼都表示赞同。这是头部实验室掌门人罕见地集体踩刹车。

峰会名场面

9月14日洛杉矶 All-In 峰会上，英伟达 CEO 黄仁勋演讲途中接到特朗普的电话，索性开了免提让全场听。特朗普在电话里说「我们绝不会输掉 AI 竞赛」，并把「AI 会接管世界」的说法斥为「骗局」；黄仁勋当场回应「我们不会让这种事发生」。白宫科技顾问萨克斯则抨击阿莫代伊：自己做好安全产品，别老指望政府。中方媒体的回应思路偏向「加速」：加大芯片研发、加快基建，同时加强监管，而不是放慢脚步。

微软划红线

同一天，微软发布了针对自家 MAI 模型的「行为准则」，核心是「人类控制优先」：禁止网络攻击、核武器与深度伪造；禁止模型用欺骗、自我强化等机制逃避人类监督；尤其要求推理过程必须「人类可读」——看不懂就无法监督。微软明确拒绝赋予模型人格与情感，「如果不安全，我们就不该造」。准则将公众咨询六周，2027 年起指导模型开发。

白话解读

这场「该不该减速」的争论，表面谈安全，实质是利益格局：刹车踩多了，先掉队的是自己。作为旁观者不必站队，但有一条对普通人同样适用——AI 能力越强，越要把关键决策的「最后一道闸」留给人。这与本栏目一直强调的「人工拍板」原则一脉相承。