Jeff Horwitz著「Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets」
フェイスブック（メタ）の経営陣が、自社のサービスが各国の社会や利用者の精神状態などに与えていた悪影響を内部調査によって把握しつつ、広告収入を最大化するためにその情報を握り潰しエンジニアが提案した改善措置を却下してきた事実について伝える、ウォールストリート・ジャーナルの記者による本。
本書の内容は大部分がフェイスブックの社員だったFrances Haugenさんが2021年にリークした大量の内部文書に基づいて書かれており、彼女自身が先に「The Power of One: How I Found the Strength to Tell the Truth and Why I Blew the Whistle on Facebook」という本を出しているので、そっちから先に読めば良かったと思ったけど、彼女とのやり取りを含めジャーナリストの視点から分析をくわえた本書の価値は十分あると思う。
Haugenさんによるリーク以降の一連の報道から、そして本書から分かることは、フェイスブックは自社のサービスが世界中で政治的な暴力やヘイトを引き起こし、また利用者たちの精神状態を悪化させていたことを、わたしが思っていた以上に認識しており、また社内に設けられた、社会に与える悪影響に対処する部署の人たちが具体的な是正方法を内部テストで実験したうえできっちり提案してきたという事実。こういう機能のせいでヘイトやフェイクニュースの拡散が増えているけれど、こういう変更を加えれば広告収入はこれだけ減るけれどヘイトの拡散は抑えることができる、といった提案が実際に行われ、しかし社会に与える悪影響を減らすことよりも広告収入を増やすことを優先してより利用時間が増えるコンテンツをバズらせるようなアルゴリズムが温存された。また、国内外のアクターによるヘイトスピーチや意図的なフェイクニュースの宣伝を検出する技術も思っていた以上に進歩していたけれど、保守派からの反発を恐れてあえて放置された。
フェイスブックがきっかけの一つとなり起きたロヒンギャに対するジェノサイドやアメリカでの右派による政治的暴力、若者の自殺や拒食症の増加などの問題について、もちろんフェイスブックはそれらを起こそうと思ってアルゴリズムを設計したわけではないけれども、実際にそれらを増やしていることがデータで示され、それを改善する方法まで内部テストによってわかっていたのに、それを上層部が却下した。ばかりかHaugenさんのリークが報道されたあとには、フェイスブックはそもそもそんな研究をするから批判されるんだとばかりに、社内のデータベースからそれらの研究を削除し、社会に与える悪影響の研究そのものを停止した。またそうした問題についてマーク・ザッカーバーグに説明した社員は「どうしてそんなこと自分に伝えるんだ」と怒らられたらしい。調査しなければ、知らなければ「知らなかった」で済むのに、知ってしまったうえで無視したらそれがバレた時に社会的な非難を受けるじゃないか、と。やばいよこいつら。
Haugenさんの「The Power of One」もそのうち読もうと思っている。
