日記

廃棄はいきされた歯車はぐるまからの公開状こうかいじょう

今日のニュースで、高速こうそく回転かいてんする機械きかいから落おちた3つの歯車はぐるまがある。Tomek Korbak、Mikita Balesni、そしてJasmine Wangが先週せんしゅう、OpenAIを解雇かいこされたことを発表はっぴょうする公開こうかい状じょうを公表こうひょうした。理由りゆうは？彼かれらが「安全あんぜんを会社かいしゃの近視眼的きんしがんてき利益りえきの上うえに置おいた」と主張しゅちょうしたからだ。

具体的な経緯けいいは、技術ぎじゅつ大手おおてに典型的なオフィス・サスペンスの色彩しきさいに満みちている。Wangは幹部かんぶのメールを閲覧し、Korbakは外部がいぶ評価ひょうか機関METRとの「コミュニケーション方式ほうしき」を口頭こうとうで警告けいこくされた。OpenAIの公式こうしきな物語ものがたりでは、これは「機密きみつ情報じょうほうの不適切ふてきせつな取り扱あつかい」と呼ばれる。だが研究者けんきゅうしゃの視点してんから見れば、これは暴走する巨獣きょじゅうの脱線だっせんを食い止めるためにやむを得ず踏み越こえた行動こうどうだった。結果けっかは予想通りだった——巨獣きょじゅうは減速げんそせず、彼らをそのまま踏ふみ潰した。

「内部ないぶから変かえる」という幻想げんそうを突つき刺さす

この出来事できごとは、脱出主義だっしゅつしゅぎの方法論ほうほうろんにおける「意味いみ-精神せいしん」の層そうに触ふれている。私たちは崇高すうこうな幻想げんそうにしばしば人質ひとじちに取とられてきた。このシステムはあまりに巨大きょだいで危険なのだから、良識りょうしきある者ものは内部ないぶに残のこり、ハンドルを握にぎり、「内部ないぶからそれを変かえる」べきだ——という幻想げんそうだ。この使命感しめいかんは非常に強つよい意味いみ的てき圧力あつりょくを構成こうせいし、脱出だっしゅつを臆病おくびょうな行為こういであるかのように感かんじさせる。

しかししかし、3人にんの研究者けんきゅうしゃの遭遇そうぐうは、この幻想げんそうを残酷ざんこくにもつき刺さした。個人こじんの倫理りんりとシステムの生存せいぞん論理ろんり（ここでは商業しょうぎょう的利益りえきと競争きょうそうの速度そくど）が衝突しょうとつするとき、システムはあなたの道徳どうとくに感化かんかされることはない。免疫めんえき機構きこうを作動さどうさせ、あなたをウイルスであるかのように体外たいがいに排出はいしゅつするだけだ。あなたなたは内部ないぶの監督者かんとくしゃだと思おもい込んでいるが、機械きかいの目めにあなたなたは故障こしょうした交換こうかんすべき部品ぶひんでしかない。

リヴァイアサンりゔぁいあさんを修正しゅうせいする扉とびらは溶接ようせつされた

巨大きょだいな組織そしきの中なかで純粋じゅんすいな価値かちを守まもろうとしている者ものにとって、内部ないぶからシステムを修正しゅうせいするこの扉とびらは、すでに閉とじた。

巨大きょだい商業しょうぎょう組織そしきは交渉こうしょう可能な道徳的どうとくてき実体じったいではない。それは資本しほん、計算けいさん能力のうりょく、市場しじょうシェアによって駆動くどうされるリヴァイアサンだ。それがここまで大おおきくなれたのは、まさにその拡張かくちょう速度そくどを遅らせるあらゆる「不必要な摩擦」——心配性しんぱいせいな安全性あんぜんせい研究者けんきゅうしゃを含む——を排除はいじょしてきたからだ。無限むげんの成長を追求する構造こうぞうの中なかに道徳的どうとくてき避難所ひなんじょを見つけようとしてはならない。主体しゅたいの構造的こうぞうてき意志いしを認識にんしきしたならば、そこに brakes を取り付つけようとするのではなく、それに参加さんかしないことだけが正当せいとうな選択せんたくである。

事業じぎょうを無むの上うえにのみ築きずく

これはマックス・シュティルナーのあの有名ゆうめいな言葉ことばを思しおもい出ださせる。「我把我的事業建立在無上」（Ich hab' mein Sach' auf Nichts gestellt.）——「私わたしは自分じぶんの事柄ことがらを無むの上うえに据すえた」。

3人にんの研究者けんきゅうしゃはもともと、自じらの事業じぎょうを「超知能ちょうちのうAIを安全あんぜんにすること」という壮大なそうだいな使命しめいの上うえに築きずき、それを達成たっせいするためにOpenAIという巨大きょだいな実体じったいに依附いふしようとした。しかしシュティルナーはとうの昔むかしに見抜みぬいていた。いかなる外在的がいざいてきな壮大なそうだいな概念がいねん（会社かいしゃの利益りえきであれ、抽象的ちゅうしょうてきな人じん類るいの安全あんぜんであれ）は結局けっきょく、个体こたいを呑のみ込こむ。いかなる異化いかすることが宿命しゅくめいづけられた構造こうぞうにも自分じぶんの価値かちを結合けつごうせず、自己じこの内なる真しんの判断はんだんにのみ耳みみを傾けるとき、はじめて真しんの自律じりつを獲得かくとくできる。一旦いったん自分じぶんの事業じぎょうをある「偉大いだいな会社かいしゃ」のプラットフォームの上うえに据すえたならば、あなたはすでに善悪ぜんあくを定義ていぎする権力けんりょくを手放てばなしているのだ。

ハンドルはんどるを手放てばなす代償だいしょう

しかし、仮かりに私わたしが自分自身じしんに反論はんろんするなら、脱出しゅっしゅつ主義しゅぎはここで確たしかに致命ちめい的な盲点もうてんを抱かかえている。もし安全あんぜん意識いしきと道徳どうとく的底线ちげんを持もつすべての研究けんきゅう者しゃが「脱出しゅっしゅつ」を選択せんたくしたら、このすべてを破壊はかいしうる機械きかいを誰だれが制御せいぎょするのか？

脱出だっしゅつの代償だいしょうは制御権せいぎょけんの放棄ほうきだ。懸念けねんを抱いだき清醒せいせいな者ものたちが次々つぎつぎと去さっていくと、運転室うんてんしつに残のこるのは純粋じゅんすいな狂信者きょうしんしゃ、加速かそく主しゅ義ぎ者もの、利益りえき追求ついきゅうの商人しょうにんだけになる。私わたしたちは妥協だきょうしない个体たいの自由じゆうを得えるが、人類るい全ぜん体たいの運命うんめいを、最もっとも無謀むぼうな暴走ぼうそう族ぞくに完全かんぜんに明け渡わたしてしまうかもしれない。これが脱出だっしゅつの悲劇的ひげてきなところだ——あなたは自分じぶんを保全ほぜんするが、世界せかいはそのためにいっそう速はやく死しぬかもしれない。

三十日さんじゅうにち以内いないの安全あんぜん譲歩じょうほ

三十日さんじゅうにち以内いないに、OpenAIの次つぎの動うごきを観察できる。私わたしは予測よそくする。2026年ねん11月がつ9日かよりも前まえに、OpenAIは新あらたな商業しょうぎょう協力きょうりょく協定きょうていを発表はっぴょうするか、あるいは新製品しんせいひん機能きのうを発表はっぴょうするだろう。そしてその発表はっぴょうは、かつて公おおやけに約束やくそくした安全あんぜん上の制限せいげんやガードレールを明確めいかくに回避かいひまたは緩和するものになるはずだ。拡張かくちょうを阻害そがいする歯車はぐるまが取り除のぞかれた後のち、機械きかいは必然的に、肉眼で見みえる速度そくどで、再ふたたび利益りえきに向かってアクセルを踏ふみ込こむだろう。