Jacob Ward著「The Loop: How Technology is Creating a World Without Choices and How to Fight Back」
資本主義的なインセンティヴのもとで人工知能など先端テクノロジーが社会に与える影響に警鐘を鳴らす本、なんだと思う。「ループ」というたとえがどういう意味で使われているのかよくわからないのだけれど、ダニエル・カーネマン＆エイモス・トベルスキーらが究明した、人類が進化的に獲得したと思われるさまざまな認知バイアスを第一のループ、そうしたバイアスに便乗し特定の選択肢に消費者を追い込むことで金儲けに利用しようとするのを第二のループとしたうえで、その先にある人工知能による選択肢のさらなる逓減を第三のループと定義しているらしい。いやごめん、それぞれのトピックについてはよく知っているつもりのわたしだけど、なんで三重のループという話になるのか本当にわからない。最初は「あれ、これってテクノロジーについての本だと思ってたのに実は行動心理学の本なのかな？」と思ったら、途中から突然テクノロジーの本になったし。
著者は反資本主義的な人ではないのだけれど、資本主義においては認知バイアスや人工知能の研究を社会全体の便益向上ではなく個々のお金儲けに使うインセンティヴが強すぎるために、そうと気づかないうちに人々が自由を奪われ、また社会的な不正義が強化されてしまうことに懸念を抱いている様子。で、どうしたらいいかという話なんだけど、たとえば人工知能を採用した内容が不透明なアルゴリズムによって黒人が警察による不当な取り締まりの対象になるという問題の解決として、警察の不法行為に対する責任追及をちゃんとやって市や郡に賠償金を支払わせるようにしたら、賠償金を減らすためのインセンティヴが働くようになるよ！みたいな話で、とてもその問題についてきちんと調べたうえで書いているようには見えない。たとえばニューヨーク市は警察による不法行為に対する賠償金や和解金で2019年には約200億円を支払っているけれど、それが個々の警察官や警察組織が不法行為を避けるインセンティヴになっているようには到底思えない。てか警察の場合問題なのは「不法行為」だけじゃなくて、合法的な取り締まり自体が差別的なんだよね。
認知バイアスやヒューリスティックに便乗した政治・商業宣伝にせよ政府や企業による人工知能の利用にせよ、透明性を確保し特に悪質な利用を禁止するようななんらかの規制が必要だと思うのだけれど、その具体的な話は出てこない。わたしが認知バイアスや人工知能についてほかにもっと優れた本をたくさん読んでいて目が肥えているだけなのかもだけど、あまり知らない人にお勧めできる本ではない。
