Emily M. Bender & Alex Hanna著「The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want」
人工知能(AI)に対する過剰な期待やその裏返しとして「人類への脅威」を警告する脅威論に対し、AIには具体的にどのようなものがあり何が可能なのか整理したうえで、既に実際に起きている弊害への対処を求める本。
タイトルも内容も半年ほど先に出たArvind Narayanan & Sayash Kapoor著「AI Snake Oil: What Artificial Intelligence Can Do, What It Can’t, and How to Tell the Difference」に近い内容だけれど、本書はChatGPTなどの生成的人工知能（やトランスフォーマーモデル）についての説明が特に分かりやすく、AIチャットボットの背後に膨大な知識や人格を見出してしまう一般の人に説明するのに参考になる。
また、AIに学習させるためのデータが生み出される労働現場の搾取からデータを使った警察や行政・司法による弊害、人間の専門家によるケアを受けられる富裕層と不完全なAIによって管理されるそれ以外への二分化、AIシステムを構築・動作させるために引き起こされる環境負荷などの問題を広くカバーするほか、いま生きている人たちの苦痛を無視して汎用人工知能 (AGI)だとか宇宙開発を優先するTESCREAL系の思想への批判もきっちり。
本書が特に力を入れるのは、AIの効用を過大に宣伝しAGIの開発を急ぐAI業者と、AGIの登場が人類存続の危機をもたらすとする脅威論者が、ともに現実には当面ありえないような能力をAIに見出しその利害を論じるというかたちで「AIの弊害」を未来のこととして扱い、既に現実のAIの開発や採用によって起こされている人権侵害から目をそらそうとしていることを指摘する部分。両者はそれぞれ効果的加速主義(e/acc)と効果的利他主義（EA）の立場に相当するが、両者ともにテック富豪たちに支持されたTESCREALの土俵のなかでの小競り合いに過ぎない。
AIが遠い未来に人類存続の危機をもたらすかどうかはわからないが、白人の顔のデータを元に構築された顔認証システムによって黒人たちが身に覚えのない犯罪の容疑で逮捕されたり、実際に何の落ち度もない家庭が過去に問題を指摘された家庭との社会階層的な類似をもとに「児童虐待をする可能性が高い」として監視対象となったり、過去の差別的な決定を学習したAIによって黒人や女性が就職差別受けたりしている。しかしAIを全面的な善でありどのような理由があれAGIの開発を遅らせることは将来救われるはずの多くの人たちを虐殺しているのと変わらないと主張するe/acc主義者のマーク・アンドリーセンらだけでなく、AGIによる人類存続の危機を訴える人たちすらそういった現実に起きている危機には無関心。それどころか各社によるAI開発競争と市場拡大はデータセンターを稼働させるための膨大な電力需要を生み出し、本当に人類社会を存続の危機に陥れている気候変動をさらに悪化させている。
著者は自分は反テクノロジーではないとして、AIには過剰な期待を抱かず特定の用途に応じてそれがAIを使うのにふさわしいのか考えたうえで開発・導入するべきだと主張する。たとえばスペルチェッカーは文章を書いているときに便利だし、トランスフォーマーを採用した機械翻訳はそれが福祉受給や警察の取り調べなどセンシティヴな場面において使われるのではなくカジュアルに会話をしたり海外の記事を読むためなら有用。AIが引き起こす弊害には反差別法や労働法など既存の法律が適用されるべきだし、ヨーロッパだけでなくカリフォルニア州やイリノイ州で既に生まれているような新たな法律も必要。またメディアに対しても、AIに関する業者の発表を鵜呑みにしないこととともに、エージェントやアシスタントという用語を含めAIのことを擬人化した表現は読者にAIの機能について誤解を与えるから避けるよう求める。
最終的に、いまのAIのバブルはいつか進歩が頭打ちになりメタバースやNFTの後を追うことになるだろうけれど、AIのために増強された発電設備やデータセンターは今後また新たなテックバブルの温床となる恐れが強く、またAIによって破壊されたアートやジャーナリズムや、AIによって専門家や熟練工が置き換えられたためにキャリアパスを無くし訓練を受けることができなくなった後進の育成を復活させるのは難しい。これらの業種や業界が壊滅したのはAIのほうが人間よりうまくできるからではなく、AIがそこそこの出来の紛い物を安く量産できるからであり、仮にAIが見限られたとしても今度は人間の労働者を安く買い叩いてAIの真似事をさせるような未来しか見えてこない。
AIの過大評価と現実に起きている弊害に抗いつつ「AIバブルのあと」まで見据えた本書は、「AI Snake Oil」に近い内容ながら、より分かりやすく、また現実にAI採用に対抗している人たち、民主的なAI運用を実践しようとしている人たちに触れている点が良い。お勧め。
