Nina Schick著「Deepfakes: The Coming Infocalypse」
ディープフェイクなど人工知能を使って偽の画像や映像を作る技術の危険性を訴える2020年の夏に出版された本。
この本が書かれた時点ではまだトランプ政権で、ロシアなど他国の情報機関による大統領選挙へのフェイクニュースなどを通した介入や、コロナウイルス・パンデミックをめぐるデマの拡散、そしてブラック・ライヴズ・マターの運動が爆発的に広がるなかデモについての扇情的な報道など、情報の信頼性とその政治についての議論が高まっていた。本書は各国政府による国内に向けた情報操作（旧ソ連で共産党指導部の集合写真からどうやってうまく粛清された人物を消そうとしたかというアナログな話とか）から国外に対する情報戦などの歴史を振り返ったあと、それらが人工知能など最新技術を応用した手法によってより洗練され、個人の尊厳が脅かされるとともに社会の分断がさらに進められる危険が論じられている。
これからもディープフェイクのような技術はどんどん進化していき、近いうちに専門家が調べてもフェイクだとはまったく区別がつかないようになるだろう、しかしいまはまだその段階ではないので、そうなる前に議論を深め規制を強化するなどしてその危険を防ぐべきだ、というのが著者の主張。それから３年近くたって、ほとんど生身の人間と見分けのつかないような文章や音声を発生できるシステムは登場してきているけれど、そうした議論が進んでいるようには思えない。まあ一国の中で規制したところでどうにかなるとも思えないし、行き着くところに行き着くしかないんだろうなあと。
