Adam Becker著「More Everything Forever: AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity」

More Everything Forever

Adam Becker著「More Everything Forever: AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity

天体物理学の博士号を持つサイエンスライターの著者が、イーロン・マスクやピーター・ティール、マーク・アンドリーセン、サム・アルトマン、ジェフ・ベゾスらテック富豪たちが傾倒しその行動の口実としている、いわゆるTESCREAL(トランスヒューマニズム、エクストロピアニズム、シンギュラリタリアニズム、宇宙主義、合理主義、効果的利他主義、長期主義)とまとめて呼ばれる思想群(と効果的加速主義などその周辺の派生思想)を正面から批判する本。

ちなみに本書ではTESCREALという略語は使われていないが、そこにまとめられる思想の一つ一つを丁寧に取り上げ、その歴史的背景とともにそれらの思想がどのようにお互い繋がり支え合ってかれらの身勝手かつ破壊的な行動を正当化する道具となっているか示す。たとえば人道支援や環境保護をするのであればできるだけ効率よく社会全体の苦痛を減らす結果をもたらす手法を選ぶべきだという効果的利他主義は、どのように一元的な基準で苦痛や幸福を計測するのか、計測が難しい項目の価値をどう見積もるのかなどさまざまな問題はあるけれど、発想としてはそれほどおかしな話ではない。また、効果的利他主義の立場から眼の前にいる人の苦痛も地球の反対にいる人の苦痛も平等に評価すべきだというシンガーの主張に同意するなら、空間的ではなく時間的に遠く離れた人たちの苦痛も平等に考慮すべきだとして長期主義を主張するマッカスキルの議論も理解できるし、そもそも現行世代は将来の世代に対して責任を追うという考え方は普遍的でありそれ自体とても真っ当だ。

しかし効果的利他主義と合理主義、長期主義を突き詰めると、将来宇宙が消滅するまでに存在する可能性がある人類(やその他の道徳的配慮に足る知的存在)の数は現存する人類とは比べ物にならないほど多数なのだから、将来存在する可能性がある人類すべての命と比べれば、現存する人類の苦痛を取り除く行為は計算上ほとんど意味がない。気候変動で何億人もの人が難民になったり飢餓に苦しんでも、そして限られた食料や農耕地をめぐって全面的な世界戦争が起きたとしても、全滅さえしなければまた増えることができるのだから、気候変動に対処するよりも将来の人類が環境が破綻た地球を離れて生存するために全てのリソースを宇宙進出につぎ込むことのほうが重要だという計算が成り立ってしまう。

さらにそこに、AIの開発を続けていればいつかAI自体が勝手に次世代のAIを開発できるシンギュラリティに到達し、加速度的にその能力を向上させていってどんな問題も解決してしまうから、化石燃料をさらに燃やしたり原子力発電所を大量に稼働させてAI開発に必要なエネルギーの生産と消費をどんどん増やすべきだ、という話が連なる。唯一懸念すべきはシンギュラリティに到達したAIが人類を滅ぼそうとすることで、その可能性がいくら低くてもゼロではなく、将来の人類の総数が無限に近いのであれば、計算上そのリスクは莫大であり、それは気候変動や核戦争よりはるかに重要な課題である、とかれらは考える(この点をめぐってサム・アルトマンら効果的利他主義者とマーク・アンドリーセンら効果的加速主義者が対立している)。

著者はテック富豪やその信奉者たちが展開するこうした机上の空論に対して、わたしたちは何十万年どころか何千年・何百年の未来のことを十分な確度で予想することはできないし、仮に月や火星に人が住むことができたとしてもそれは地球の技術によって厳重に守られ地球から送られる食料や製品に支えられた不自由で危険な生き方にしかならない(したがって地球壊滅後のオプションにはならない)、テック富豪たちは永遠に生きようとしているけど現在の技術の延長では体や脳を壊すことなく冷凍保存することはできないし意識をコンピュータに送信するのも無理、AIがいくら能力をあげたところでリソースの限界にぶち当たるしそもそも収穫逓減の法則って聞いたことない?といった具合に、一つ一つ丁寧に、そして徹底的に否定していく。とくに天文物理学を専門としていただけあって、宇宙開発についての議論は具体的で説得力がバリバリある。

もともと著者は、子どもの頃スター・トレックを観て宇宙に憧れ、さまざまなSF作品を楽しみ、宇宙進出に関わりたいと思って大学で天文物理学・宇宙物理学を専攻したくらい、科学技術と宇宙に期待を抱いていた人物で、ベゾスやマスクが抱く宇宙進出への夢には心から共感している。しかし宇宙進出について真面目に考えてきた著者が得た結論は、地球がどれだけ人類にとって恵まれた環境であるか、ということだった。その貴重な環境を守るために気候変動への対策や核戦争の抑止は今すぐ進めるべきだが、仮に気候変動が今予測されているよりずっと悪化しても、あるいは天変地異や核戦争でいまある文明が破壊され土壌や大気が徹底的に汚染されたとしても、それでも火星よりは地球のほうがずっと人類にとって住みやすい土地であるのは変わらない。その地球の環境を守り、そこに住む人々の生活と健康を守るためにこそ、人類の英知は注がれるべき。

著者は本書の最後に、TESCREALに対する批判よりもっと重要なことをさらっと言っている。それは、ビリオネア(資産10億ドル以上の大富豪)は世界に必要ない、という当たり前のことだ。テック富豪たちがいかに馬鹿げた思想を持っていたところで、もしかれらがビリオネアでさえなければ、それは良くて「ちょっと考えさせられる、おもしろい思考実験」、悪いと「ただの馬鹿げた話」でしかない。テック富豪たちが危険なのは、かれらが自分たちの独りよがりな考えを押し通せるだけの権力を持っているからであり、その権力を奪えば危険のほとんどは消滅する。それだよそれ、解決策出ちゃった!著者が主張するように、なんらかの上限を設けてそれ以上の個人資産の蓄積を禁止し(没収し)、その分を貧しい人や地域に分配したり気候変動対策の原資にするなどしたほうがずっと世界のためになるよねそりゃ。