作者：Max Fisher
Publisher : Little, Brown and Company
刊行日：September 6, 2022
Hardcover : 400 pages
ISBN-10 : 031670332X
ISBN-13 : 978-0316703321
対象年齢：一般（PG15、むしろ高校生から読んでほしい本）
ジャンル：ノンフィクション
テーマ、キーワード：ソーシャルメディア、Facebook(Meta)、YouTube(Google)、偽ニュース、陰謀論、アルゴリズム、社会の分断、ジェノサイド
2016年の米国大統領選挙に破壊的な影響を与えたのは「fake news（偽ニュース）」だった。そして、そのfake newsを広めたのがソーシャルメディアだった。選挙の前には、Facebookを通じて読まれていた「ニュース」（カッコつきだという部分に注文）の大半は、正式のメディアではなく、偽ニュースのカテゴリに入るものになっていた。
そういったことをすでにあちこちで読んでおり、自分でもコラムなどに書いてきた。だから、『The Chaos Machine』の内容についてはあまり驚きがないだろうと思っていたのだが、最初のページから最後のページまで衝撃を受けたり、大きくうなずいたり、怒りで頭の血管が切れそうになったりした。重要な部分をメモしようと思ったのだが、メモだらけになってしまって無意味になってしまったほど重要なことがぎっしりと書かれている。
著者のMax Fisherはピューリッツァー賞の候補にもなったニューヨーク・タイムズ紙のジャーナリストで、個々の論点についてインサイダーや専門家を念入りに取材し、しっかりと録音などの証拠も残している。そういった裏付けのうえで顕になっているのが、ソーシャルメディア（特にFacebookとYouTube）が故意に「憎しみ」や「憤慨／憤怒」を広めるアルゴリズムを使い、その結果数多くの人々が惨殺される「ジェノサイド」が起こったという事実である。
心温まるコンテンツよりも、「憤慨」を抱かせる内容のほうが人はサイトに長くとどまり、「いいね」や怒りの顔文字を押し、コメントを書き込み、シェアして拡散する。ずっと前からそれを知っていたFacebook（Meta）やYouTube(Google)は、わざと憤慨を強化させていくアルゴリズムを利用していたのだ。そのアルゴリズムにより「憤慨」を抱くコンテンツ（特に偽ニュースや陰謀説）の世界に誘導された人々は、共通の「敵」を持つ人々と繋がり、一緒に不信感と憎しみを倍増させていったのである。その結果が、2016年の米国大統領選挙であり、2021年1月6日の米国議会議事堂襲撃事件だった。
それは知っていたが、ミャンマーとスリランカで起こった暴動とジェノサイド（特定のグループ全体、もしくはその一部を破壊する目的で行われる集団殺害、およびそれに準ずる行為）で大きな役割を果たしたのがFacebookだということは知らなかった。
ミャンマーでFacebookとYouTubeを活用したのは、少数民族のイスラム教徒ロヒンギャ族に対するヘイトを拡散しているカリスマ的な仏僧ウィラス(Wirathu)である。ウィラスはミャンマー各地を旅しながらヘイトを拡散する一方で、ソーシャルメディアでフォロワーを増やした。2014年にはイスラム教徒の喫茶店オーナー２人が仏教徒の女性をレイプしたという偽りの投稿をした。ウィラスは、店主と店の名前も公表し、イスラム教徒が仏教徒に対して反乱を起こそうとしているという陰謀説を広めるとともに、それを防ぐ先制攻撃として政府にイスラム教徒とモスクを攻撃するよう呼びかけた。ウィラスの投稿は拡散され、それを信じた仏教徒らが隣人であるイスラム教徒を攻撃する暴動を起こした。暴動が広まるなかで、政府高官がコンサルタント会社のデロイトを通じてFacebookにコンタクトしようとしたのだが、Facebookは政府にもデロイトにも返事すらしなかった。そこで政府は暴動が起こっているマンダレーでFacebookをブロックし、それによって暴動は静まった。呆れてしまうのは、その翌日にFacebookが始めてミャンマー政府にコンタクトしたことだ。しかも、暴動についてではない。「なぜFacebookをブロックしたのか？」という問い合わせだった。
スリランカでの例もミャンマーのものに似ている。海外での肉体労働でお金をためたイスラム教徒の兄弟がスリランカのアンパラ（Ampara）という小さな村で念願のレストランを開いた。Facebookでは「アンパラに住むイスラム教徒の薬剤師が所持していた男性を不妊にさせる薬23000錠を警察が没収した」という噂が流れており、その夜、多数民族のシンハラ人の客が「カレーの中に何かが入っている」と騒ぎ始めた。少数民族語のタミールを話す兄弟はシンハラ語での質問が理解できず「わかりません」「はい。私たちが入れました？」と答えた。それを告白だと受け止めたシンハラ人は彼を殴って店を破壊し、近くのモスクに火を付けた。過去であれば暴動はそこでストップしていただろうが、言葉がわからないイスラム教徒の「はい。私たちが入れました？」というビデオはFacebookのグループによりまたたく間に広まり、「すべてのイスラム教徒を殺せ。幼児も例外にするな」というジェノサイドを呼びかけるコメントが何百も投稿された。地元の人権グループはそれらをすべて調査してFacebookに対応を求めたのだが、Facebookはその訴えかけを完璧に無視した。暴動が起きることを恐れたスリランカ政府も対応を求めたがFacebookは何もしなかった。緊張感が高まる中で、イスラム教徒との交通トラブルの揉め事で重症を負っていたシンハラ人のトラック運転手が死亡し、それがイスラム教徒によるシンハラ人抹殺計画であるという噂がFacebookからWhatsApp、Twitter、YouTubeで拡散されていった。そこで募った怒りと憎しみによる暴動で数多くのイスラム教徒が暴力をふるわれ、家を焼かれ、殺される暴動が３日続いた。スリランカ政府はついにFacebookをブロックしたのだが、スリランカでのFacebookの利用がゼロになってはじめてFacebookはポリシー・ディレクターを送り込んだ。
Facebookはひどいと以前から思っていたが、これらを読んだ時には、いまだにFacebookを（ほぼ仕事のためだが）使い続けている自分を恥ずかしく思った。
どの時代にも、人は他人に関する根拠のない噂を作り上げて流してきた。だが、現代の深刻な問題は「人間の性」ではなく、ソーシャルメディアのアルゴリズムにある。
ソーシャルメディアでは心温まる投稿や楽しい投稿にも共感が集まるが、利用者がそれよりも長時間とどまり、拡散するのは「怒り」というネガティブな感情を掻き立てるものである。その中でも人は「moral outrage（道徳的憤慨）」に強く惹きつけられる。Facebookでそういったコンテントをクリックして読むと、アルゴリズムは同じようなコンテントをどんどん見せるようになる。それらをクリックすることで、次第にもっと極端なコンテントばかりを目にするようになる。ソーシャルメディアを作り上げたシリコンバレーの価値観では、お金をもたらすようなアルゴリズムこそが正義なのだ。たとえその結果、無実の人々がレイプされ、惨殺されたとしても。
ほかにも、私たちが注意を払うべきことがある。（２ちゃんねるの創設者西村博之が管理・運営している）4chanと8chanがオルタナ右翼やQアノンの誕生に貢献したこともこの本には詳しく書いてある。女性ゲーム開発者をターゲットにしたオンラインハラスメント運動の「ゲーマーゲート(Gamergate)」においては、過激なグループがこの匿名掲示板でターゲットにした女性の個人情報の流出、殺害予告、脅迫行為をしていたことも、無視してはならない事実である。
4chanや8chanで女性をレイプすることや殺すことを楽しそうに語り合っていた男性たちにとって、これらの女性ゲーマーたちは自分たちの立場を脅かす「敵」であったわけだ。ツイッターでも、性暴力を受けた女性やそのサポーターに対する攻撃を見かけるが、この背後にある心理と彼らの行動は「ゲーマーゲイト」とよく似ている。
でも、それらを批判する人たちも、「敵」に対して一緒になって憤慨する仲間を見つけたとき、心地良さを感じるのは否めないだろう。仲間を作り、敵に対して一緒になって憤慨する心地よさは、ニューヨーク・ヤンキースに対するボストン・レッドソックスのファンたちの心理とそう変わらない。
ソーシャルメディアのアルゴリズムは、そういう私たちの心理を利用し、憤慨で私たちを長時間つなぎとめる。そして、それぞれのグループが一緒になって憤慨できるネタをどんどん提供してくれる。その結果が虐殺に繋がる可能性があると知っていても、読んでいる情報が偽情報かもしれないと知っていても、私たちは、それらを読んでシェアするのをやめられない。
イーロン・マスクがTwitterを購入してからの暴挙のおかげで、Twitterに代わるソーシャルメディアを探す人が増えている。現時点ではMastodonとPostが移動先として人気だが、Postはリクエストに対応できずにウェイティングリストだし、Mastodonも「勝手がわからない」と感じる人が多い。
ソーシャルメディアが揺れ動いている2022年年末には、Twitterからの移動先を探すのを機会に、ソーシャルメディアとの付き合い方をもう一度しっかり考えてみるべきなのだろう。