AI 恐惧与跃进：当悲观者出走，乐观者说这是营销

AI 悲观与乐观两派吵了几十年，真正的分歧不在技术本身，而在 LLM 的精准可解释性至今不可达——对可控性的担忧，反过来可能意味着我们严重低估了未来几年 AI 能力的跃进。

01 / 悲观阵营：从局外警示到内部出走

AI 悲观主义几十年来从未缺席，且预警者的身份在不断「内部化」：2015 年 暂停巨型 AI 实验公开信 联署，到 2023 年图灵奖得主 Hinton 离开谷歌公开示警，再到 Bengio 反复强调「我们无法控制比自己更聪明的东西」。真正的转折点是 2024 年：OpenAI 超级对齐团队（Superalignment）两位负责人 Ilya Sutskever 与 Jan Leike 相继离职，Leike 公开批评公司「安全文化已让位于光鲜产品」，团队随后解散；联合创始人 Schulman 也转投 Anthropic 追踪安全研究。当「末日预警」从局外人变成造出这波浪潮的核心建设者，悲观就不再是可轻描淡写的边缘声音。

02 / 乐观阵营：恐惧叙事与监管俘获

另一边，吴恩达在近日访谈中给出系统性反驳（中文全文）：过去两三年的大量恐惧信息，根源是少数头部公司借「监管俘获」塑造不公平竞争——花几十亿美元训练的模型，当然不希望别人免费开放替代品；把 AI 类比核武器「毫无事实基础」。他的论据落在实证上：把工作拆成任务，AI 大约能做 30%–40%，剩余部分与之互为互补品；受冲击最大的软件工程，职位需求反而在上升。他提出「人类的上下文优势」——多年积累的隐性知识没有管道输送给模型，这是判断力与品味的技术本质。LeCun 与 Andreessen 走得更远：前者认为 LLM 只是台阶而非终点、存在性风险被高估；后者直接断言「AI 将拯救世界」。

03 / 分歧的真正源头：可解释性不可达

把两派并排放，会发现共识多于分歧：双方都承认 LLM 是黑箱——没人能精准解释模型为什么输出这句话、下次会不会变。乐观者赌的是「边部署、边测量、边改进」的工程闭环：吴恩达用飞机类比——飞机从不完美可控，风会吹偏它，却可以做到足够安全。悲观者质疑的正是闭环的前提：飞机每一步都建立在可验证的空气动力学与工程规范之上，而 LLM 连内部机制都无法精确归因，「在可控环境中逐步扩展」的刻度尺本身是模糊的。换言之，恐惧并非针对 AI 能做什么，而是针对人类无法精确解释它——可解释性不可达，直接推导出可控制性的不可确信。Leike 离职时那句「我们急需搞清如何引导和控制远比我们聪明的系统」，说的正是这条还没修好的刻度尺。

04 / 小结：低估跃进，才是更大的风险

有趣的是，两派吵得越激烈，越指向同一个事实：AI 的能力曲线比大多数人的预期陡峭。历史上每一次技术浪潮——蒸汽、电气、计算机、互联网、移动互联网——大众预期都滞后于真实进展；LLM 驱动的这一波跃迁尤其如此。悲观情绪也许还有另一种读法：正因为人类对当前模型尚且解释不了，对其未来几年的能力上限才会如此不安——这种不安本身，可能正反映了我们对 AI 能力大跃进程度的普遍低估。真正该管理的不是恐惧或乐观的情绪站队，而是准备速度：安全工程、制度、教育与个人技能，能否追上曲线。

参考：宝玉微博·吴恩达访谈全文 / Leike 离职公开信 / FLI 公开信 / NYT·Hinton 专访 / a16z·Why AI Will Save the World（正文内均已附可跳转链接）。