2016年6月、アントニオ・パーキンスは意図せずして自分の死を世界に放送してしまった。 その日はシカゴの晴れた日で、彼はその数カ月前にリリースされたばかりのリアルタイムで動画を配信するプラットフォーム、Facebook Liveで共有していました

その動画は長いです。 パーキンズが平凡な夏のことをしているのが特徴です。 歩道で立ち尽くしている。 暑さについて文句を言う。 約6分後、突然、銃声が鳴り響きます。 カメラは必死に動き、そして地面に倒れる。 その日のうちに、パーキンスの死亡が確認されました。

このビデオは100万回近く再生されています。

The Ugly

翌日、Facebook社内で「The Ugly」というメモが回覧されました。 その著者は、同社の副社長で中心的な意思決定者の一人であるアンドリュー・ボスワース氏です。

「私たちは仕事の良い点と悪い点についてよく話します」と、BuzzFeedが3月に入手したそのメモは始まっています。 “私は醜いことについて話したい”。

We connect people…Maybe it costs a life by exposions someone to bulties. 私たちのツールで調整されたテロ攻撃で誰かが死ぬかもしれません。 それでも、私たちは人々をつないでいるのです。 醜い真実は、私たちは人々をつなぐことを深く信じており、より多くの人々をより頻繁につなぐことができるものは、事実上良いものであるということです。

メモにはパーキンズのことは書かれていない。 ボスワースがこの事件を知らなかった可能性もあります。 結局のところ、Facebook Live ではリアルタイムの悲劇はそれほど珍しいことではありません。

しかし、パーキンスのライブストリームでの死は “The Ugly” の典型例と言えるでしょう。 彼の死は悲劇的ですが、このビデオは “暴力を美化” したり、”他人の苦しみや屈辱を称賛” したりするものではないため、同社の難解なコミュニティ基準に違反していません。 そして、この動画を残すことは、より多くの人々がパーキンスと、そしてFacebookとつながることを意味し、動画は残ります。 結局、100万回再生されています。

この決定は、あなたの口に悪臭を残すかもしれない最近のFacebookの多くの行動のうちの1つです。 同社は、ドナルド・トランプの大統領選挙キャンペーンが何百万人ものアメリカ人の個人データを収集することを無意識のうちに許可していました。 2016年の選挙に影響を与えようとするロシアの試みに気づかず、いくつかの国で民族的・宗教的暴力を助長し、広告主が “ユダヤ嫌い “といった崇高な消費者のカテゴリーをターゲットにすることを許した。 フェイクニュース、陰謀論、そしてあからさまな嘘がこのプラットフォーム上に溢れていることは言うまでもありません。

フェイスブックはこのようなことが起こることを意図していませんでした。 ただ、人々をつなげたかったのです。 しかし、パーキンズの死から、ミャンマーでの宗教的暴力、フェイクニュースに対する同社の中途半端な試みまで、脈々と流れているのです。 フェイスブックは本当に悪だ。 わざとじゃない。 1022>

Facebook のすべての失敗の根底には、現実の人間に対する不器用なまでの忘却がある。 同社は「人と人をつなぐ」という唯一の焦点によって世界を征服し、人間関係の広大なネットワークの構築を可能にし、広告主や投資家が垂涎する洞察力と眼球の源となっています。

しかし、「人をつなぐ」という命令には、良き市民であるために不可欠な一つの要素が欠落しています。 それは、個々の人間を神聖なものとして扱うことです。 Facebook にとって、世界は個人で構成されているのではなく、個人間のつながりで構成されているのです。 何十億もの Facebook のアカウントは「人々」ではなく「ユーザー」に属しており、巨大なソーシャル ネットワーク上で他のデータポイントの集合に接続されたデータポイントの集合であり、コンピューター プログラムによってターゲット化され、収益化されるのです (B2B)。 1022>

データベースとしての人生

「The Ugly」の公開以来、ボスワースはこのメモが主張することから距離を置いています。 彼は今、単に「問題を表面化」したかっただけで、むしろ信じられないことに、「それを書いたときでさえ同意していなかった」と述べています。 マーク・ザッカーバーグは、自分もメモに強く同意していないと付け加え、「私たちは、目的が手段を正当化すると信じたことはありません」と述べました。 ザッカーバーグ氏が、Recode との最近のインタビューで、サンディフック銃乱射事件とホロコーストの両方を否定する人々からの投稿を許可するという決定を擁護し、彼らは「物事を間違っている」だけだと述べたのはこのためです。 シリコンバレー文化は、「人間を含む現実のすべてが、ひとつの大きな情報システムである」ことを確かなものとして受け入れるようになったと、ラニアーは書いています。 この確信が、ハイテク界の有力者たちに「新しい種類のマニフェスト・デスティニー」を与えている、と彼は言う。 それは彼らに「達成すべき使命」を与えるのです。

その使命を受け入れることは、フェイスブックにとって好都合です。 それは、できるだけ早くスケーリングすることを道徳的な義務としている。 この見解では、フェイスブックが大きくなればなるほど、世界にとってより良い会社となります。

問題は、この情報システムにおいて、人間について何も特別なことがないことだと、ラニアーは言います。 すべてのデータポイントは、人間がそれをどのように経験するかに関係なく、平等に扱われるのです。 「ユダヤ人嫌い」は「ジョギングをする母親」と同じように広告のカテゴリになります。 それはすべてのデータです。 AというグループがBというグループよりもFacebook上で大きな存在感を示していれば、たとえAというグループがBというグループを貶めたり、暴力を振るったりしようとしていたとしても、それはそれでよいのです。 もちろん、現実には、人間はすべて異なっており、データに還元することはできません。

それを、Facebook をホット・オア・ノット・ウェブサイトとして始め、顔認識ケージを発明したアイビーリーグの白人少年たちに言ってみてください。

考えることの意味

Facebookの失敗は、新しいものではありません。 一般に、巨大で強力な組織が他者の人間性を考慮しない場合、物事は醜くなるものです。

フェイスブックの知的失敗に関する最も優れた分析は、政治理論家ハンナ・アーレントが著書『エルサレムのアイヒマン』の中で行っています。 この本は、1961年に行われたアドルフ・アイヒマンの裁判を描いたものです。 ナチスの中堅官僚であったアイヒマンは、第二次世界大戦中、ユダヤ人を強制収容所に強制移送するための物流を主に担当していました。

アイヒマンはアルゼンチンで捕えられ、イスラエルの法廷に引き出されて自分の犯罪を説明させられました。 その場にいた誰もが、彼はサディスティックな狂人であり、ユダヤ人の破壊に変態的に取り憑かれていると予想していた

その代わりに、彼は自分がおどけ者で出世主義者であることを明らかにした。 彼は、主要な政治的出来事の詳細を忘れてしまったと主張する一方で、自分が切望していた昇進を果たした仲間をはっきりと覚えていた。

アーレントによると、アイヒマンを診察したあるイスラエル人精神科医は、「完全に正常な人間であり、とにかく診察した私よりも正常である」と断言したそうです。

アーレントは、アイヒマンが歴史的な犯罪を犯したのは、サディズムでも憎悪でもなかったと結論付けている。

彼の性格の「決定的な」欠点は、「相手の視点から何かを見ることができない」ことだとアーレントは書いている。 その答えは、人種的に純粋な「ユートピア」を確立するための壮大な歴史的プロジェクトに対するアイヒマンの信念にある。 このプロジェクトは人命を超越し、二の次にするものであった。 1022>

アイヒマンが他人の苦痛について考えることができなかったのは、壮大なプロジェクトの至上命題を内面化したためであると、アーレントは結論付けている。 そのプロジェクトはどんな犠牲を払っても完成させなければならないので、それを促進するものはすべて事実上善である。 その論理は、私たちが当然と考える社会規範を歪め、「殺人はいけない」というような基本的なものさえ、「プロジェクトの邪魔をする者の殺人は正しい」と逆転させてしまう。

このような頭の悪い論理は、ほんの少しの精査にも耐えられないのだ。 しかしアイヒマンは、周囲の人々と同様、感情のない抽象的な表現を使って自分の行動の現実から自分を守ったのである。 アイヒマンの本から15年後、アーレントは『ニューヨーカー』に発表した「思考」というエッセイの中で、「決まり文句、常套句、ありきたりな表現と行動の規範への固執は、我々を現実から守る社会的に認められた機能を持つ」と書いている。 世界の出来事や事実は、常に私たちの「考える注意」に迫り、私たちの行動や信念を再評価させるべきだと彼女は書いています。

「アイヒマンは他の人たちと違っていた」と彼女は結論付けていますが、それは、現実と彼の思考プロセスの間につながりがなかったというだけです。 そのかわり、彼は自分の周囲で慣習となっていた歪んだ道徳に盲目的に従ったのです。 そして、そのために何百万人もの人が死んだのです。

そこで、Facebookの話に戻ります。 それは、人間界をひとつの大きな情報システムに変えるという、独自の壮大なプロジェクトを持っています。 これは、言うまでもなく、千年帝国のプロジェクトほど恐ろしいものではありません。 しかし、根本的な問題は同じです。相手の視点から物事を見ることができない、人間の現実と壮大なプロジェクトの間にある断絶です。

The downward-sloping arc of the historical project

Arendt is help us to see how all of Facebook’s missteps related.

昨年、マーク・ザッカーバーグは、Facebookの新しい仮想現実プラットフォームである Spaces を紹介するビデオを公開しました。

このザックの風刺画は、まず屋外、つまり Facebook の本社の屋根の上に置かれています。 そして彼は、ある種の球体を取り出します。 そのオーブには、ハリケーン「マリア」の被害の直後に撮影されたプエルトリコの 360 ビデオが入っていると彼は言います。 このオーブがカメラの前に置かれる。 すると突然、ザックが、フェイスブックのソーシャル・バーチャル・リアリティ担当のレイチェル・フランクリンのアバターとともに、その場に「テレポート」してきたのです。

そういえば、この技術がどれほどクールであるかについて言及するのを忘れていたので、ハイタッチするために立ち止まりました。 数分間、様々な災害のシーンに飛びます。 “よし、じゃあ、どこかにテレポートしに行くか？”

Facebook の壮大なプロジェクトの外にいる私たちにとって、このビデオは明らかにひどいアイデアでした。 ニュースアウトレットは、無味乾燥で味気ないと揶揄しました。 それでも、このビデオはFacebookの多くの承認レイヤーを通り抜けたのです。 この動画の問題は外部の視聴者にも明らかなのに、フェイスブックの人々がそれに親指を立てたという事実は、フェイスブックの価値観が社会の他の部分とどの程度乖離しているかを示すものです。 スリランカやミャンマーから、暴力の扇動について何かするよう懇願する活動家を却下し続けること。 サンディフックの大虐殺を「デマ」と呼び、殺された子どもたちの両親を脅すような内容のものを削除しないこと。 プライバシーやデータ収集の方法について、誤解を招くような表現をしていること。 ザッカーバーグは、Recode の Kara Swisher との最近のインタビューで、Facebook Live のプロダクト・マネージャーとのミーティングについて触れています。 殺人、いじめ、自殺の中継に使われるかもしれないと提案すると、彼らは「本当に驚いている」ようだと彼女は言います。 「彼らは、このプラットフォームで起こりうることのポジティブさよりも、そのことにあまり関心がないように見えました」と、彼女は言います。 Facebook が誰かが傷つくことを望んだからではありません。 ある時点で、コンピュータ プログラミングの専門用語、言論の自由に関する決まり文句、実現すれば大量の現金を生み出すという素晴らしい副作用を持つテクノユートピアの「ポジティブさ」を主張するストックフレーズで、人間の現実から自らを守ったからです。

Facebook はアーレントの基本的な間違いの餌食になった。

自分で考える

Zuckerberg は実際、Facebookの将来の野望について彼が昨年2月に書いた 6,000 ワードの宣言で、自分の会社の失敗についてのこの読み方をほのめかしています。 約 4,500 語の中で、彼は Facebook が間違いを犯したことを認め、批評家に「しばしば同意する」と述べています。 (しかし、「これらの間違いは、私たちがコミュニティと対立するイデオロギー的な立場をとっているからということはほとんどなく、代わりに、運用上のスケーリングの問題である」と付け加えました。 Facebook は平凡であるため、通常、何についてもイデオロギー的な立場を欠くことがあります。 ソーシャルメディアプラットフォームは、長い間、中立の砦、他人のアイデアのためのプラットフォーム、受動的な導管として自らを位置づけようとしてきました。 Swisher がサンディフック事件否定派がメッセージを広めることを許可したことについてザッカーバーグに異議を唱えたとき、彼は「いいですか、このコンテンツのいくつかは忌まわしいかもしれませんが、私は、人々に声を与えるというこの原則に帰結すると思います」

しかし、大きな影響力を持つ組織は、損害を引き起こすために社会とイデオロギー的に対立する必要はないのです。 宗教的暴力、民族差別、ヘイトスピーチ、孤独、年齢差別、ライブストリーミングによる死を “運用上のスケールの問題” として平気で片付け、人間のことを考えなくなればいいのです。 自殺を Facebook Live の「ユースケース」と考えること

最近では、Facebook は正しい道を歩んでいると主張したくなるかもしれません。 同社のミッション・ステートメントは昨年変更され、”つながり “の重要性が低下しました。 世界をオープンでつながったものにする」のではなく、「世界をひとつに近づける」ことが目標になりました。 7月、フェイスブックは、一部の国で身体的暴力を呼びかける投稿を削除し始めると発表しました。

これではほとんど十分ではありません。 新しい使命は、アーレントが言う「しなければならないこと」をまだ実行できていない。 それは、Facebookというプラットフォームを、それを利用する人間よりも優先していることに変わりはありません。 世界をひとつにすることは、模擬店や聖書朗読会を促進することでもあり、KKKやスキンヘッドを団結させることでもあるのです。 ミッション・ステートメントには、この 2 つの違いについて何も書かれていません。

Facebook は自分自身のために考えることを学ぶ必要があります。 セキュリティ担当のアレックス・ステイモスは、BuzzFeedが入手した退任時のメモの中で、そのように語っている。 「明確な道徳的・人道的問題があるときは、進んで味方になる必要があります」と彼は書いている。 アイヒマンが決してしなかったことだ」

解決策は、Facebookがインターネットの道徳警察となり、個々の投稿、動画、写真を許可すべきかどうかを決定することではありません。 しかし、愛と憎しみの両方に等しく適した中立的なプラットフォームであるという路線に立ち戻ることはできません。 アーレントは、現実は常に私たちの思考に注意を払うよう要求していると言いました。 私たちは常に世界に関する新しい事実を認識し、それらを考察し、私たちの世界観に取り入れる必要があるのです。 しかし、彼女は、この要求に常に応え続けることは疲れることだと認めている。 アイヒマンとの違いは、彼が決して屈服しなかったことで、それは彼の思考が現実から完全に切り離されていたからです。 これまで、暴力を煽る投稿を削除したり、陰謀論者アレックス・ジョーンズを一時的に追放したりといったFacebookの前向きなステップでさえ、魂の探求の結果ではなく、世間の強い圧力と広報の影響によってもたらされたものでした。 フェイスブックは正しいことをするのは、そうせざるを得ないときだけです。 その代わり、完全なつながりと成長という目標が人的犠牲を伴う場合、その目標を進んで犠牲にし、フェイスブックのリーダーが本能的な技術的楽観主義と人間生活の現実を照らし合わせるよう要求する意思決定プロセスを作る必要があります。 実生活の一部としてフェイスブックを利用する25億の人々は、いつまでもそれに我慢しているわけではありません

。