Kashmir Hill著「Your Face Belongs to Us: A Secretive Startup’s Quest to End Privacy as We Know It」
各国の警察や捜査当局に顔認識システムを販売するClearview AIについての、同社について早くから調査報道を続けてきたニューヨーク・タイムズ紙記者による本。
Clearview AI創業者のホアン・トン・タットはヴェトナム系ミックスのオーストラリア人。大学を中退してサンフランシスコに移住してスマートフォンアプリで一発当てるのを目指すもうまくいかず、フェイスブックプラットフォームで発表したアプリでは利用者のフレンドに無許可でスパムを送りまくってそれをクリックした利用者のフレンドにまでそれを広げるという、まあ本当に悪いのはそれを可能にしたフェイスブックなんだけどそういう問題を起こして悪名ばかり広まる。その結果どういうわけかかれはオルト右翼や白人至上主義者たちに急接近しかれらと交流を深めるとともに、そこからさらにピーター・ティールにも繋がり出資を得ることに成功する。
トン・タットやかれの仲間たちは過去に優生学的・白人至上主義的であるうえに非科学的だとして否定された骨相学や人相学を信奉し、コンピュータなど現代技術を投入することでそれらをより科学的に研究することができると考えた。人相学を復興させるために必要なのは膨大な顔のデータであり、またそれを解析するためのアルゴリズムであるところから、トン・タットは顔認識の技術に関心を抱く。2016年の大統領選挙でトン・タットはトランプを応援し、トランプが当選したときトン・タットはトランプ主催の戦勝パーティとともに、「ハイル・トランプ」の掛け声とともにナチス的敬礼が行われたリチャード・スペンサー主催の極右集会をハシゴした。そしてかれは、全国どこにいても非正規移民を摘発するための顔認識システムをトランプ政権に売り込もうとする。
当時の顔認識システムはとてもそこまでの精度はなかったけれども、機械学習の急速な進歩にともないClearview AIはどんどん性能をあげ、写真の背後に小さく写っている横向きの顔写真からその人の本人も知らない写真を多数検出することができるようになった。同社は当初、それを万引き防止や迷惑客の排除のためにビジネスに売り込み、一部では成功したものの、客のプライバシーを侵害したとして騒がれることを恐れる企業は採用に消極的。そういうなか、トン・タットはニューヨーク市警の関係者と出会い、そこから各地の警察にClearview AIの高性能な顔認識システムは広まっていく。過去にフェイスブックアプリで叩かれた経験のあるトン・タットはメディアへの露出を避け、会社のウェブサイトすら整備しなかったけれど、警察による利用がニューヨーク・タイムズ紙の記者である著者に漏れ、注目を集める。
著者も指摘するとおり、トン・タット本人は技術者として特に能力があるわけではないし、Clearview AIのシステム自体も技術的に特に優れているというわけではない。グーグルやアマゾンなど大手IT企業も顔認識に手を出しているが、それら大企業はそうした技術の開発や販売において注目を集めやすく、取得されるデータの出所や運用目的などをめぐって実際に軍や移民局での採用が世間の批判を受けて販売停止されるなどした一方、世間に知られていないClearview AIが各地の警察に広まってしまった形。Clearview AIが世間の反発を恐れずに勝手に膨大な顔画像のデータベースを作り解析したことはいくつかの自治体や裁判所で違法であるとされたが、そうした法的措置が追いつかないスピードでデータベースを構築して機械学習に利用し、違法とされたデータだけ削除して機械学習によって導き出された学習データは残すという脱法的な対策は、各地のタクシー規制やホテル規制を無視して勝手に広まったuberやAirBnBを彷彿とさせる。わたしの住むシアトル市でも、市条例により政府による監視技術採用には透明性を確保するための手続きが決められているにも関わらずシアトル市警察の警察官が勝手にClearview AIのアカウントを取得していたことがのちに分かった。
Clearview AIは現在、同社のサービスは犯罪捜査のための道具であり政府機関にしか販売しないと公言しているが、警察内部の人たちによる不正利用や米国あるいは外国政府による市民運動弾圧のための使用はすでに起きている。また、今後この技術がスマートグラスなどと連動してさらに一般に普及すると、路上で見かけた人や店の店員や客、その他あらゆる他人を顔だけで検索することができるようになり、わたしたちの日常生活は大きな影響を受けるだろう。実際に、ドメスティック・バイオレンスから逃げたサバイバーやポルノ映画に出演した女優、ゲイバーに出入りしている人、あるいはただ単に道端で出会っただけの人まで名前や住所が簡単にわかるようになり、主に女性やマイノリティの人たちのプライバシーは消滅し身体的な危険にさらされる。これは将来の話ではなく現在の技術で既に可能になっていることだ。
著者の2020年の報道いらいClearview AIの名前とその危険性については知られるようになったけれど、創業者のトン・タットが早くから極右やトランプ陣営、ピーター・ティールやルーディ・ジュリアーニ周辺と繋がっていたことや、優生学の復興や移民排斥のために顔認識システムの開発を行っていたことなどあらためて知り、ヤバさが煮詰まりすぎてドロドロしてる感じ。顔認識システムの民主的コントロールについてはJoy Buolamwini著「Unmasking AI: My Mission to Protect What Is Human in a World of Machines」参照。
