Karen Hao著「Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI」
人類共通の利益のためのAIを掲げて非営利団体として設立されたOpenAIがどのようにしてその道を外れ新たな帝国主義に変質していったのか、OpenAIとその周辺を初期から追っていたテクノロジー・ジャーナリストが書いた本。OpenAIやその競合他社による資源や労働の搾取や環境負荷といった犠牲の上にかれらが何を目指したのか、2023年にサム・アルトマンが一時的に解雇された騒動はどうして起きたのか、そしてそれを経てOpenAIと元OpenAI関係者たちはどこに向かっているのか、詳細に描かれる。
AIと新たな帝国主義についてはRachel Adams著「The New Empire of AI: The Future of Global Inequality」、Emily M. Bender & Alex Hanna著「The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want」、Kate Crawford著「Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence」などで既に知っている話が多かったけれども、世界を救い人類の利益になることをかれらなりに本気で考えていたアルトマンやイーロン・マスクらの理想とその行動の結果の格差にはあらためて唖然となる。
かれらがAI開発に邁進する口実となっている、AGI（汎用人工知能）が完成すれば気候変動も医療も貧困もあらゆる問題が一気に解決するというポジティヴな発想と、欧米企業がAGIに先に到達しなければ中国やロシアの独裁的な政権によってそれらが握られ世界が暗黒に堕ちてしまうというネガティヴな発想はともに、AI用のデータセンター建設のために飲み水や生活環境を奪われる先住民、AIに置き換えられて職を追われたりAIを学習させるためにわざわざ生成された暴力的なメディアにラベルを付ける労働を強いられ精神的にすり潰され使い捨てにされる労働者、アルゴリズムによって福祉受給資格を停止されたり誤認逮捕される黒人を中心とした貧しい人たちなど、いま現在AIの帝国によって生活を脅かされている多数の人たちの犠牲を一方的に要求する。人権や環境なんてAGIが完成されれば後からいくらでも解決できる、それより一日でも癌やその他の疾患の治療法をAGIによって確立するほうが多くの人たちの命を救うだろ、というのがその論理。
サム・アルトマンやイーロン・マスクのヤバさはもちろんわかっていたけど、OpenAI共同創設者の一人で理事・チーフサイエンティストだったイリヤ・サツケバーやアルトマンにかわって一時的にCEOになったミラ・ムラティとか、業界的には有名人だけど例の騒動まではわたしがあんまり意識したことなかった登場人物までいろいろヤバくて、激ヤバ集団が過ぎる。もともとアルトマンやマスクが強力なAIはグーグルなど一企業に独占させるべきではない、人類の共有財産にすべきだという理想を掲げていたのは事実だし、著者も当初はそれに期待を抱いたようなのだけれど、そもそもシリコンバレーのごく少数の、選挙で選ばれたわけでもない主に白人の技術者やテック経営者が人類の未来をどうこうしようとしていた時点でこうなる結果は見えていた、と後付けだけど思ってしまう。
アルトマン復帰後も、女優スカーレット・ヨハンソンの声をChatGPTの音声として勝手に使ったり、会社を辞めた社員たちの報酬を後から会社の都合でキャンセルできる契約になっていたこと、OpenAIが「こういう相手には売らない」と決めている技術がマイクロソフト経由で販売されていることなどが次々と騒がれ、OpenAIとアルトマンは求心力を失いつつあるけれど、競合相手もAGIに対する警戒度にこそ差はあっても帝国主義的な側面は似たりよったり。本書は最後にBender & Hanna「The AI Con」でも紹介されていた、アオテアロア（ニュージーランド）の先住民たちが言語保存のためにAIを使っている例を挙げ、特定の目的のために設計されコミュニティの合意とガバナンスの元で適切なデータを学習させたAIがAI帝国主義に対する抵抗にもなることを指摘するが、コミュニティの取り組みや学術的な研究に向けられるAIの有益な利用法に比べて詐欺まがいの宣伝によりOpenAIなどの企業が集める投資の額が多すぎて、どう考えても良い結末には繋がりそうにない。
