Daniel Kahneman, Olivier Sibony, & Cass R. Sunstein著「Noise: A Flaw in Human Judgment」 カーネマンせんせー、サンスティーンせんせーらの新著。あんまり期待してなかったけど予想外に刺さった。従業員を採用したり犯罪者の刑罰を決めるなどの人間の判断を誤らせる要素を、特定の方向に影響を及ぼすバイアスと、ランダムに判断をバラけさすノイズに分け、注目を集めがちな前者に対して軽視されがちな後者に対処する重要性を訴える本。下の図でいうとBがバイアスが強い例、Cがノイズが強い例になる（Aは両者ともに弱く、Dは両者ともに強い）。
わたしをふくめ差別や刑事司法制度の不平等な適用を批判する立場の人は、特定の方向に影響を及ぼすバイアスを重視する。たとえば就職する際に、運や雇用主のランダムな気まぐれで不当な扱いを受けることと、社会的に差別された特定の属性を理由に不当な扱いを受けることでは、後者を問題とする。それが、わたしが大昔に書いたブログ記事における「差別」と「差別ではない単なる理不尽な扱い」の違いなわけだけど、まあノイズだって理不尽だし、社会的な損失もあるわけで、バイアスとノイズのどちらかではなく両方とも対処すべきだ、というのが著者らの主張。
問題が起きてくるのは、ノイズを減らすための施策がバイアスを強化するなど、ほかの被害をもたらす場合。たとえばこれまでわたしがいくつもの本の紹介で書いているように、刑事司法や福祉制度にノイズの少ないアルゴリズムを採用した結果、バイアスが増幅されるという実例も多い。本書でもそれは認めた上で、アルゴリズムに問題があるならより良いアルゴリズムを採用すべきだ的なことを言っているけど、不十分な気がする（「Data Feminism」等参照）。一方ノイズを取り除けばバイアスの存在がより鮮明になるというのも確かで、著者らの言う「データ衛生」は必要。
