James Muldoon著「Love Machines: How Artificial Intelligence is Transforming Our Relationships」
人工知能、とくにチャットボットやその発展型であるバーチャル人格が文字だけでなく音声や映像を駆使して人々にとっての友情や性愛の供給元となるだけでなく、メンタルヘルスケアや死者との交流の道具となりつつある現実を伝える本。ちなみにわたしはこの題名を聞いて頭の中で日本の未来はwow wow wow wowしちゃう世代ですがなにか。
社会的なつながりが薄れた結果孤立し、チャットボットやバーチャル人格にその代替を求める人々に著者は寄り添いつつ、利用者を依存させエンゲージメントを拡大するようデザインされたそれらのシステムによって人々がさらに孤独を深めていく現実を指摘する。友人も恋人も現実には思い通りにならないし、カウンセラーだって理解してくれない、死者はどれだけ語りかけても答えてはくれないが、AIならいつでも自分に都合がいい対応をしてもらえるし、使い続けることでさらに自分に向けてカスタマイズされる。マトリックスに繋がれて夢を見せられているような状態だけれど、それが悪いわけではない。
でもシステムを提供している側は敵対的なデザインを通して利用者を依存させるだけ依存させておいて、課金を搾り取るために利用者に圧力をかけるし、そのつもりでなくてもいつ仕様変更が行われたりベンチャー企業にありがちな企業買収や経営破綻でサービス終了になるかもわからない。社会的支援や包摂を必要とする人たちがそうした企業の食い物にされ、最後にはより孤立した状態で無責任に放置されることは認め難いが、規制当局の動きは何ステップも遅れており未だに有効な方法が分からない（個人的には、LLMの商用利用やサービス提供は全面禁止でいいと思うんだけど社会的合意は得られなさそう）。最終的に本書は「AIの上手な使い方」を指南して終わるのは、まあそれ以外どうしようもないと思いつつ、行動心理学やデータを駆使して利用者を依存させようとするAI業者に対抗するには心細い。最初に触れたwow wow wow wowの能天気さとのコントラストやばい。
