Cass R. Sunstein著「Manipulation: What It Is, Why It’s Bad, What to Do About It」
キャス・サンスティーンせんせーの量産型新刊その２。他人を自分の都合がいいように心理的に操作・制御しようとするマニピュレーションについて。同時期に出版された著者の「On Liberalism: In Defense of Freedom」を昨日紹介したとき思わず「量産型その１」と言ってしまったのでその２としたけど、そっちより本書のほうが明らかに力が込められている。
序盤、著者はマニピュレーションとはなにか、そしてそれはどうして悪なのか、どういう悪なのかを、哲学や経済学などの知見を紹介しつつ複数の定義を説明していく。特に著者が注目するのは、法や暴力に基づいた強制によって他者に特定の行動を強いる行為や、相手を騙して財産を奪い取ったり意のままに動かしたりする行為などとマニピュレーションとの違い。他者に働きかけることで当人が本来取ったであろう行動とは異なる行動を取らせている点でマニピュレーションはこれらと共通しているが、法に基づかない強制や詐欺が犯罪として処罰されるのに対し、マニピュレーションはどこで逸脱が生じているのか意識しにくく、一般的なマーケティングや呼びかけとの境目も明白ではない。
著者が用いる定義の中心的なものは、マニピュレーションとは他者が自らの価値観や欲求に基づいた熟考のうえで最善の選択を選び取る機会を奪い、本来なら当人が取らなかったであろう行動を取らせることだ。特にマニピュレーションは、感情的にアピールするメッセージを選択的に伝えることで、意図的に他者の直感的な（ダニエル・カーネマンが言うところの）システム1思考を刺激し、システム2思考の発動を遠ざけることが多い。ディープフェイクによって製作された虚偽の内容の動画が文字による誹謗中傷やデマの宣伝より強力であり危険なのは、映像がシステム1思考に訴える強さに理由がある。
ところで本書は最初のうちはマニピュレーションについての本と見せかけておいて、途中からは実はベストセラーとなったリチャード・セイラーとの共著「Nudge」（邦題『実践 行動経済学』）およびその続編でもある「Sludge: What Stops Us from Getting Things Done and What to Do about It」に続く、行動経済学的なナッジについての本だと分かる。
復習すると、ナッジとは人々の選択の自由を尊重しつつ、市場の失敗や行動経済学的に明らかになっているヒューリスティックや認知バイアスによって自らの利益にならない選択に陥らないように選択アーキテクチャの適切な設計やプレゼンテーションを行う考え方で、各国政府によって国民の健康や安定した生活を守るために導入されている。それに対しスラッジとは、人々が自ら望む選択を取ろうとしたときにその選択肢を面倒なものにしフリクションを生み出すような選択アーキテクチャを指し、なかには個人の衝動的な行動や間違いを防ぐために有用なものもあるけれど、サブスクリプションを開始するのはクリック１つでできるのに解約するには面倒な手続きが必要だったり、福祉や奨学金を申請するために過剰な書類の提出を求める制度など、企業の利益のため、あるいは政府の予算削減のために意図的に設置されたものも多い。
こうして見るとスラッジがマニピュレーションの一種であるのは明らかだが、問題はナッジもマニピュレーションに当たるかどうかという点。たとえば若者の喫煙を減らすという政策的な目標があったとき、ナッジによって若者がタバコに手を出さないよう導くことは本人の健康のためにもいいし、社会的にも利益が大きいと言えるが、タバコを吸うことで得られるはずだった本人の快楽や満足感は考慮に入れなくていいのか。システム1から来る欲求とシステム2が求める長期的利益が対立したとき、そして依存症や現在バイアスといった複雑な要素が入り組んだとき、どの程度その場の欲求に配慮すべきか、そしてそれを政府が決めてナッジすることは場合によってはマニピュレーションになるのではないか、という問題には解決は出せない。ナッジの透明性を高め、ナッジそのものを民主的に制御することが重要になってくる。
ところで「Nudge」については2021年に「ファイナル版」を出版したあとに生成AIの爆発的普及によってまた内容が古くなってしまったけれど、（これ以上アップデートはしないコミットメント装置として）ファイナルだと自ら言ってしまったからか、こうして別の本でAI関連の話を含めアップデートしようとしているみたい。そういえば政治的に対立するウェブサイト同士がお互いリンクするべきだとか言ってた著者の「Republic.com」もブログ全盛期を経てソーシャルメディア時代になるとともに「Republic.com 2.0」「#Republic」とアップデートしてきたけど、テクノロジー関連の話になると当時からずっとセンスがないのでそっちのアップデートはもう諦めたのかなあ。いつもの通り本書も過去の著作からリサイクルされてきた部分が何箇所もあったけど、わたしほどサンスティーンせんせーの本を読んでいる人もそれほどいないと思うのでまあそれは別にいいかな。
