Gary Marcus著「Taming Silicon Valley: How We Can Ensure That AI Works for Us」
著名な認知科学者で人口起業(AI)企業の起業家でもある著者が、生成的AIを中心とした未完成なAI技術の広範な拡散を批判し、国際的および国内法によるAIの規制を訴える本。少し前に入手していたのだけど、今日シアトル大学で著者の講演があるのを思い出して、行きと帰りのバスの中でサクッと読んだ。
著者は子どものころからテクノロジーが大好きで、機械学習の企業を創業してUberに売却して売り抜けた経歴の持ち主。ビジネスとしてより純粋に技術的な側面からAIに興味を持っていたが、OpenAIによるGPT-3およびChatGPTの公開以降、さまざまな業者が未完成なAIツールを無責任に世に出し取り返しのつかない影響を与えていることに危機感を覚え、最近ではかつて同志だったサム・アルトマンやイーロン・マスクらと論争を繰り広げるようになった。「来年には汎用人工知能(AGI)が完成する」と毎年行っているマスクに「だったら実現するかどうか百万ドル賭けよう」ともちかけて無視されたりも。AGIどころかGPT-5すら予告されたレベルでの完成の目処が立たなくて、いつのまにかGPTのバージョンの数字がリセットされたりと(最新版はo1）、著者の予想はかなり当たっている。
2018年にマイクロソフトがツイッター上でAIチャットボットTayを投入したとき、Tayはすぐさまツイッターから白人至上主義のツイートを学習しネオナチ的な発言をするようになったが、そのときマイクロソフトは懸命にもすぐにTayを停止させた。またマイクロソフトだけでなくグーグルも内部では大規模言語モデルを採用したチャットボットを開発していたが、不確実なツールを広く公開することはなかった。しかし2022年にOpenAIがChatGPTを公開し大きな反響を呼ぶと、そうした配慮は消え去り、各社がこぞって不具合だらけのAI製品を先を争って発表するようになった。内容の不確かさや他者の著作物の無断利用、ディープフェイクを使った対象の同意を得ないポルノや選挙に影響を与えるようなフェイク画像の流布、事故を起こしても責任を取らない自動運転車、チャットボットによる自殺や犯罪の奨励、犯罪者によるAIツールを使った巧妙かつ低コストな詐欺など、技術自体の未熟さや技術に対応しきれていない社会制度の不備による問題が噴出した。
AI企業は技術の進歩によりそうした問題にも対処できるとするが、大規模言語モデルに全賭けしてしまった現在のAI業界はその大規模言語モデルの収穫逓減によりこれ以上の進歩が見えず、また無秩序な競争によりほぼ同等の製品が各社から提供されているなか利益をあげることすらできずにいるのが現状。AI規制について議会で公聴会が開かれた際には著者も招かれてサム・アルトマンの横で証言を行ったが、バイデンが中途半端な大統領令を出したほかは——トランプが新たな大統領令によって取り消すと思われている——なんの対策も進んでいない。国際的な取り組みの実現はさらに難しいと思われる。しかしAI技術の放任による弊害がますます膨らむなか、いずれ何らかの形で規制されるしかなく、その機会が来るまでに責任あるAI技術の発展のためにどういう規制が必要なのか議論しておく価値はある。
