Meredith Broussard著「More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech」
テクノロジーが人種、ジェンダー、障害などの面で社会的なバイアスを内包し、それらを不可視化すると同時に不平等を悪化させることを指摘する本。著者は黒人女性のテクノロジージャーナリストで、データサイエンティストとしての背景を持つ。
テクノロジーと人種やジェンダーのバイアスに関する本としては既にCathy O’Neil著「Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy」（邦題『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』）をはじめとしてRuha Benjamin著「Race After Technology: Abolitionist Tools for the New Jim Code」やJoy Buolamwini著「Unmasking AI: My Mission to Protect What Is Human in a World of Machines」など多数の優れた書籍が発表されており、障害についても最近出版されたAshley Shew著「Against Technoableism: Rethinking Who Needs Improvement」などがある。いまさらまた新しい本を読んでも学ぶことがあるのかなあと思いながら読み始めたのだけれど、人工知能や顔認識システムなど最新のテクノロジーだけでなくわりとベタなテクノロジーも広くカバーしているし、乳がんの診断を受け治療を受けた著者が自身の実際の医療記録を「がんを正確に診断できる」と称する人工知能システムにかけて実験するなど、興味深い内容が多数。乳がんに限らずがんを検出するシステムは、githubで「cancer detection」と検索するだけで9,500件ものプロジェクトがヒットするくらい多数の人が研究を進めているが、使われているデータセットにおいて黒人のデータが少なく人種によって結果の正確さに差が出るなどの問題も。
先に出したO’Neil、BenjaminやBualawiniらの研究や著作についても触れられているだけでなく、彼女たちがその後どういう活動をしているかという話もいくつか書かれていて、テクノロジーや人工知能と社会的公正の関係についての取り組みが広がりつつあることも感じられる。ちょうどわたし自身、明日はワシントン州議会でAIやアルゴリズムによる差別を禁止する法案についての公聴会で発言する予定なので、おさらいするとともに勇気づけられた。
「グリッチよりも深刻」というタイトル（意訳）は、テクノロジーや人工知能が差別的な結果を起こすことは、たまたま起きてしまう一過性のバグではなく、より構造的なものである、という意味。同じくグリッチという言葉をタイトルに含むTamara Kneese著「Death Glitch: How Techno-Solutionism Fails Us in This Life and Beyond」では「人間の死」という避けられない事実が若いテクノロジー起業家たちによってまったく予想されない突発的なグリッチとして扱われてきた事実を批判する意味だった一方、Legacy Russel著「Glitch Feminism: A Manifesto」では白人やアジア人の男性が多数を占めるそのテクノロジー起業家たちがその存在を想定していない女性やクィア、黒人らの存在を白人男性至上主義的なシステムにおけるグリッチとして肯定的に捉える21世紀のサイバーフェミニズム的な本だったように、システムにとって意図されない不都合な存在としてのグリッチという概念がシステムに抵抗するキーワードの一つになりつつあるように見える。
