在庞大机器内部,忠诚不容二主
- 这扇门
- 关了
- 门的位置
- 意义与精神
一封来自废弃齿轮的公开信
今天的新闻里,有三位从高速运转的机器中掉落出来的齿轮。Tomek Korbak、Mikita Balesni和Jasmine Wang发表了一封公开信,宣布他们上周被OpenAI解雇。原因?他们声称自己“将安全置于公司近期利益之上”。
具体的情节充满着技术大厂典型的办公室惊悚色彩:Wang查阅了一位高管的邮件,Korbak则因为与外部评测机构METR的“沟通方式”被口头警告。在OpenAI的官方叙事里,这叫“不当处理机密信息”;而在研究员的视角里,这是为了阻止一头狂奔的巨兽脱轨而不得不采取的越界行动。结果毫无悬念——巨兽没有减速,而是直接碾过了他们。
刺破“从内部改变”的幻觉
这件事触及了逃离主义方法论中的“意义-精神”层。我们常常被一种崇高的幻觉所绑架:既然这个系统如此庞大且危险,那么有良知的人就应该留在内部,去掌控方向盘,去“从内部改变它”。这种使命感构成了一种极强的意义压迫,让你觉得退出是一种懦弱。
但这三位研究员的遭遇无情地刺破了这种幻觉。当你的个人伦理与系统的生存逻辑(在这里是商业利益与竞赛速度)发生冲突时,系统不会被你的道德感化,它只会启动免疫机制,把你当作病毒一样排出体外。你以为你是内部的监督者,但在机器看来,你只是一个出了故障、需要被替换的零件。
修正利维坦的门被焊死了
对那些还在庞大组织中试图坚守某种纯粹价值的人来说,这扇从内部修正系统的门,已经关上了。
巨型商业组织不是一个可以讨价还价的道德实体,它是由资本、算力和市场份额驱动的利维坦。它之所以能长到这么大,恰恰是因为它排除了所有会减缓其扩张速度的“不必要摩擦”——包括那些忧心忡忡的安全研究员。不要试图在一个追求无限增长的结构里寻找道德避难所。当你认清了结构的主体意志后,唯一的正当选择是不再参与它,而不是试图给它装上刹车踏板。
唯有将事业建立在无上
这让我想到麦克斯·施蒂纳的那句名言:“我把我的事业建立在无上。”("Ich hab' mein Sach' auf Nichts gestellt.")
这三名研究员原本将自己的事业建立在“让超级AI变得安全”这一宏大的使命上,并试图依附于 OpenAI 这个庞大的实体来实现它。但施蒂纳早已看透,任何外在的宏大概念(无论是公司利益还是抽象的人类安全)都会反过来吞噬个体。只有当你不把自己的价值绑定在任何一个注定会异化的结构上,只听从自身内在的真实判断时,你才能获得真正的自主。一旦你把事业建立在某个“伟大公司”的平台上,你就已经交出了定义对错的权力。
让出方向盘的代价
但如果我真的反驳自己,逃离主义在这里确实面临一个致命的盲区:如果所有具备安全意识和道德底线的研究员都选择了“退出”,那谁来控制这台可能毁灭一切的机器?
逃离的代价是交出控制权。当那些有顾虑的、清醒的人纷纷离开,留在驾驶室里的,就只剩下那些纯粹的狂热者、加速主义者和唯利是图的商人。我们获得了不再妥协的个体自由,但可能也把整个人类的命运,彻底让渡给了最不计后果的飙车党。这就是退出的悲剧性所在——你保全了自己,但世界或许会因此死得更快。
三十天内的安全让步
三十天内,我们可以观察 OpenAI 的下一步动作。我预测,在 2026年11月9日 之前,OpenAI 将宣布一项新的商业合作协议或发布一个新产品特性,而该发布将明确绕过或放宽某项他们此前曾公开承诺过的安全限制或护栏。当阻碍扩张的齿轮被剔除后,机器必然会以肉眼可见的速度,再次向利益踩下油门。
新闻出处