Ruha Benjamin著「Race After Technology: Abolitionist Tools for the New Jim Code」
普段出たばかりの本を読んでいるわたし的には少し古い（2019年刊）のだけれど、プリンストン大学の社会学者で黒人女性の著者の名前はよく見かけるので読んだ。テクノロジーがもたらす一見客観的な商品やモデルやアーキテクチャがそれを生み出した社会のレイシズムを反映することを、一見人種中立的な刑事司法制度が多くの黒人の自由を奪っていることを告発したミシェル・アレクサンダーの「ニュー・ジム・クロウ」に習って「ニュー・ジム・コード」と名付け、さまざまな実例を挙げていく。
些細に見える例を挙げると、たとえば公共トイレに設置された手を下にかざすと液体石鹸を出すソープ・ディスペンサーが黒人の手には反応しないという、以前ネットで話題になった話。もちろんこのディスペンサーを設置した人も、それを設計した人も、黒人差別をしようとした意図があったのではなく、黒人の手に反応しにくいのは技術的な問題。でもそういうディスペンサーが十分なテストもされずに市場に出された裏には、社会のさまざまな領域からの黒人の排除がある。いっぽうより深刻な例として、刑事司法制度において量刑や保釈の是非を判断するのに使われるアルゴリズム。人種はその判断には使われないけれども、住んでいる地域や家族構成、職種など、人種との関連がある要素が組み込まれたアルゴリズムによって「客観的に」個人が再犯・逃亡する可能性が計算される。ニュー・ジム・コードは、ロボットやアルゴリズムなど「人種差別的な意識を持たない」存在を通して社会のレイシズムが再生産される仕組み。
同種の議論をしている本は、本書でも引用されているVirginia Eubanks著「Automating Inequality: How High-tech Tools Profile, Police, and Punish the Poor」はじめ、Jer Thorp著「Living in Data: A CItizen’s Guide to a Better Information Future」、Catherine D’Ignazio & Lauren F. Klein著「Data Feminism」などがあるけれど、この本はちょっと内容がアカデミックで読みにくい部分があるかも。短めだけど、あと表紙カッコいい。
