V červnu 2016 Antonio Perkins neúmyslně odvysílal světu svou vlastní smrt. Byl slunečný den v Chicagu a on ji sdílel na Facebook Live, platformě pro šíření videa v reálném čase, která byla uvedena na trh jen několik měsíců předtím.

Video je dlouhé. Perkins v něm dělá všední letní věci. Postává na chodníku. Stěžuje si na horko. Asi po šesti minutách se náhle ozvou výstřely. Kamera se zběsile pohybuje a pak spadne na zem. Později téhož dne byl Perkins prohlášen za mrtvého.

Video má téměř milion zhlédnutí.

Ošklivý

Další den se ve společnosti Facebook interně rozšířila zpráva s názvem „Ošklivý“. Jejím autorem je Andrew Bosworth, jeden z viceprezidentů společnosti a ústředních rozhodovacích pracovníků.

„Často mluvíme o dobrých i špatných stránkách naší práce,“ začíná memorandum, které v březnu získal BuzzFeed. „Chci mluvit o tom ošklivém.“ Pokračuje:

Spojujeme lidi… Možná to někoho stojí život tím, že ho vystavíme šikaně. Možná někdo zemře při teroristickém útoku koordinovaném našimi nástroji. A přesto lidi spojujeme. Ošklivá pravda je, že věříme ve spojování lidí tak hluboce, že cokoli, co nám umožní spojovat více lidí častěji, je de facto dobré.

O Perkinsovi se v poznámce nehovoří. Je možné, že Bosworth o incidentu nevěděl. Koneckonců, tragédie v reálném čase nejsou na Facebooku Live tak vzácné.

Perkinsova smrt v přímém přenosu je však ukázkovým příkladem „ošklivosti“. Přestože je jeho smrt tragická, video neporušuje abstraktní komunitní standardy společnosti, protože „neoslavuje násilí“ ani „neoslavuje utrpení nebo ponížení druhých“. A jeho ponechání znamená, že se k Perkinsovi a k Facebooku připojí více lidí, takže video zůstane. Koneckonců má milion zhlédnutí.

Rozhodnutí je jedním z mnoha nedávných kroků Facebooku, které mohly zanechat nepříjemnou pachuť v ústech. Společnost nevědomky umožnila prezidentské kampani Donalda Trumpa shromažďovat osobní údaje milionů Američanů. Nevšimla si pokusů Ruska ovlivnit volby v roce 2016; usnadnila etnické a náboženské násilí v několika zemích a umožnila inzerentům cílit na tak ušlechtilé kategorie spotřebitelů, jako jsou „nenávistní Židé“. Nemluvě o tom, že se na platformě množí falešné zprávy, konspirační teorie a zjevné lži.

Facebook nic z toho nezamýšlel. Chtěl jen propojit lidi. Od Perkinsovy smrti k náboženskému násilí v Myanmaru a polovičatým pokusům společnosti bojovat proti falešným zprávám se však táhne jedna nit. Facebook je opravdu zlo. Ne záměrně. Tak nějak banálně.

Za všemi průšvihy Facebooku se skrývá neohrabané zapomínání na skutečné lidi. Výjimečné zaměření společnosti na „propojování lidí“ jí umožnilo dobýt svět a umožnilo vytvořit rozsáhlou síť lidských vztahů, zdroj informací a očí, nad kterými inzerenti a investoři slintají.

Ale imperativ „propojování lidí“ postrádá jednu složku, která je nezbytná pro to, abychom byli dobrými občany: Chovat se k jednotlivým lidským bytostem jako k nedotknutelným. Pro Facebook se svět neskládá z jednotlivců, ale ze spojení mezi nimi. Miliardy účtů na Facebooku nepatří „lidem“, ale „uživatelům“, sbírkám datových bodů propojených s jinými sbírkami datových bodů v rozsáhlé sociální síti, na které se mají zaměřit počítačové programy a zpeněžit je.

Jsou určité věci, které s čistým svědomím lidem neděláte. S daty můžete dělat, co se vám zlíbí.

Život jako databáze

Od zveřejnění „Ošklivého“ se Bosworth od argumentu, který memorandum předkládá, distancoval. Nyní tvrdí, že chtěl pouze „vynést problémy na povrch“ a že s ní, poněkud neuvěřitelně, „nesouhlasil, ani když ji psal“. Mark Zuckerberg dodal, že i on s memorandem silně nesouhlasí: „Nikdy jsme nevěřili, že účel světí prostředky.“

Čas od času však rozhodnutí Facebooku odhalují, že propojování lidí je považováno za de facto dobro téměř ve všech případech. Proto Zuckerberg v nedávném rozhovoru pro Recode obhajoval rozhodnutí povolit příspěvky popíračů střelby v Sandy Hook i holocaustu tím, že si prostě „věci pletou“.

S Facebookem se „život mění v databázi“, píše technolog Jaron Lanier ve své knize You Are Not a Gadget z roku 2010. Kultura Silicon Valley přijala za jisté, píše Lanier, že „celá realita, včetně lidí, je jeden velký informační systém“. Tato jistota podle něj dává nejmocnějším lidem technologického světa „nový druh manifestního osudu“. Dává jim „poslání, které mají splnit“.

Přijetí tohoto poslání je pro Facebook výhodné. Díky němu je co nejrychlejší škálování morálním imperativem. Z tohoto pohledu platí, že čím větší Facebook je, tím lepší je tato společnost pro svět. Náhodou je to pro ni také způsob, jak vydělat nejvíce peněz.

Problém, říká Lanier, spočívá v tom, že v tomto informačním systému není na lidech nic zvláštního. S každým datovým bodem se zachází stejně, bez ohledu na to, jak ho lidé vnímají. „Nenávist k Židům“ je stejnou reklamní kategorií jako „maminky, které běhají“. Všechno jsou to data. Pokud má skupina A na Facebooku větší zastoupení než skupina B, budiž, i když se skupina A snaží ponižovat nebo organizovat násilí proti skupině B. Realita je ovšem taková, že lidé jsou každý jiný a nelze je redukovat na data.

Zkuste to říct skupině bílých hochů z Ivy League, kteří založili Facebook jako webovou stránku pro horké nebo ne a vymysleli soudek na rozpoznávání obličejů.

Co to znamená myslet si

Omyl Facebooku není nový. Obecně se věci zvrtnou, když obrovské a mocné organizace neberou ohled na lidskost ostatních. Nyní budeme mluvit o nacistech.

Nejlepší analýzu intelektuálního selhání Facebooku přináší politická teoretička Hannah Arendtová ve své knize Eichmann v Jeruzalémě. Kniha je popisem procesu s Adolfem Eichmannem z roku 1961. Eichmann, nacistický úředník střední úrovně, byl za druhé světové války zodpovědný především za logistiku násilných transportů Židů do koncentračních táborů.

Eichmann byl dopaden v Argentině a předveden před izraelský soud, aby vysvětlil své zločiny. Všichni přítomní očekávali, že to bude sadistický šílenec, zvráceně posedlý touhou zničit židovský národ.

Místo toho se ukázal jako šašek a kariérista. Tvrdil, že zapomněl detaily významných politických událostí, zatímco si jasně pamatoval, který z jeho kolegů dostal vytoužené povýšení. Podle Arendtové jeden izraelský soudní psychiatr, který Eichmanna vyšetřoval, prohlásil, že je to „zcela normální člověk, každopádně normálnější než já po jeho vyšetření“.

Arendtovou pronásledovala otázka, jak je možné, že tak „normální“ člověk hrál hlavní roli v masovém vraždění. Eichmann vědomě poslal tisíce Židů na jistou smrt.

Arendtová došla k závěru, že to nebyl sadismus ani nenávist, co Eichmanna vedlo ke spáchání těchto historických zločinů. Byla to neschopnost vůbec přemýšlet o druhých lidech jako o lidech.

„Rozhodující“ vadou jeho charakteru, píše Arendtová, byla jeho „neschopnost kdykoli se na cokoli podívat z pohledu druhého člověka“.

Jak to, že Eichmann a stovky dalších nacistů neměli základní pochopení pro posvátnost lidského života? Odpověď spočívá v Eichmannově víře ve velkolepý historický projekt nastolení rasově čisté „utopie“. Tento projekt přesahoval lidské životy a činil je druhořadými. Jeden život nebo milion životů byly malou cenou za příslib nastolení „tisícileté Říše“.

Eichmannova neschopnost myslet na utrpení druhých vyplývala z jeho internalizace nejvyššího významu velkého projektu, uzavírá Arendtová. Protože projekt musí být dokončen bez ohledu na cenu, vše, co jej podporuje, je de facto dobré. Tato logika může narušit společenské normy, které považujeme za samozřejmé, a dokonce převrátit něco tak zásadního jako „vražda je špatná“ na „vražda těch, kteří stojí v cestě projektu, je správná“.

Taková dementní logika neobstojí ani při sebemenším zkoumání. Eichmann se však stejně jako jeho okolí chránil před realitou svých činů pomocí abstrakcí bez emocí. „Klišé, ustálené fráze, dodržování konvenčních, standardizovaných pravidel vyjadřování a chování mají společensky uznávanou funkci chránit nás před realitou,“ napsala Arendtová v eseji nazvaném „Myšlení“, který vyšel v časopise The New Yorker patnáct let po Eichmannově knize. Události a fakta světa by měly neustále naléhat na naši „myslící pozornost“, píše, a nutit nás přehodnocovat naše chování a přesvědčení.

„Eichmann se od nás ostatních lišil,“ uzavírá, pouze tím, že mezi realitou a jeho myšlenkovým procesem neexistovalo žádné spojení. Místo toho slepě následoval pokřivenou morálku, která se v jeho kruzích stala konvenční. A kvůli tomu zemřely miliony lidí.

To nás přivádí zpět k Facebooku. Má svůj vlastní velkolepý projekt – proměnit lidský svět v jeden velký informační systém. Je samozřejmé, že to není zdaleka tak strašné jako projekt tisícileté Říše. Základní problém je však stejný: neschopnost podívat se na věci z pohledu druhého člověka, nesoulad mezi lidskou realitou a velkým projektem.

Sestupný oblouk historického projektu

Arendt nám pomáhá vidět, jak spolu všechny různé přešlapy Facebooku souvisejí. Zde je příklad, který je sice drobný, ale ilustruje tuto myšlenku.

Loni Mark Zuckerberg zveřejnil video, v němž představil Spaces, novou platformu virtuální reality společnosti Facebook. Představuje ho v něm lesklá, velkohlavá, usměvavá, počítačem vygenerovaná verze jeho samého.

Tato Zuckova karikatura je nejprve vidět venku, na střeše sídla Facebooku. Poté vytáhne jakousi kouli. Říká, že koule obsahuje 360° video Portorika pořízené krátce po ničivém hurikánu Maria. Tato koule je umístěna před kamerou. Najednou se Zuck – spolu s avatarem Rachel Franklinové, vedoucí sociální virtuální reality ve společnosti Facebook – „teleportuje“ na scénu. Tyto dvě postavy jsou nyní vidět, jak „projíždějí náklaďákem“ zničenými čtvrtěmi a „stojí“ ve stopách záplavové vody.

Aha, zapomněli se zmínit, jak je tato technologie skvělá, takže si přestanou plácnout.

„Připadá mi, jako bychom byli opravdu tady v Portoriku,“ říká digi-Zuck (nezapomeňte, že je to celé v nekvalitní počítačové grafice). Pár minut skáčou do různých katastrofických scén. „Dobře, takže se chceš teleportovat někam jinam?“ „Ne. Další koule a jsou odneseni pryč, zpátky do Kalifornie.

Pro ty z nás, kteří stojí mimo velkolepý projekt Facebooku, bylo tohle video zjevně příšerný nápad. Zpravodajské kanály se mu vysmívaly jako hluchému a nevkusnému. Přesto video prošlo mnoha schvalovacími vrstvami Facebooku. Skutečnost, že mu lidé na Facebooku dali palec nahoru, i když problémy videa byly pro diváky zvenčí tak jasné, svědčí o tom, do jaké míry se hodnotový systém Facebooku odchýlil od hodnotového systému zbytku společnosti – výsledek jeho krátkozrakého zaměření na propojení všech, jak jen to je možné, ať jsou následky zatraceny.

Vzhledem k tomu začíná být zřejmé, jaká nit se táhne četnými katastrofami Facebooku v oblasti vztahů s veřejností. Jeho neustálé odmítání aktivistů ze Srí Lanky a Myanmaru, kteří ho prosili, aby něco udělal s podněcováním k násilí. Odmítá odstranit materiály, které označují masakr v Sandy Hook za „podvod“ a vyhrožují rodičům zavražděných dětí. Jeho zavádějící jazyk ohledně ochrany soukromí a postupů shromažďování údajů.

Facebook se zdá být slepý k možnosti, že by mohl být zneužit ke špatným účelům. V nedávném rozhovoru Zuckerberga s Karou Swisherovou z Recode se zmiňuje o setkání s produktovými manažery pro Facebook Live. Ti podle ní vypadali „skutečně překvapeně“, když navrhla, že by mohl být používán k vysílání vražd, šikany a sebevražd. „Zdálo se, že se na to orientují méně než na pozitivitu toho, co by se na platformě mohlo stát,“ říká.“

Ty nejhorší scénáře se skutečně staly, jak názorně ukazuje video s Antoniem Perkinsem. Ne proto, že by Facebook chtěl, aby se někomu něco stalo. Vše proto, že se v určitém okamžiku chránil před lidskou realitou počítačovým programátorským žargonem, klišé o svobodě projevu a frázemi na skladě, které ujišťovaly o „pozitivitě“ techno-utopie, která by v případě realizace měla příjemný vedlejší efekt v podobě generování spousty peněz.

Facebook se stal obětí základního omylu Arendtové.

Přemýšlejte sami

Zuckerberg ve skutečnosti naznačuje toto čtení neúspěchů své společnosti v manifestu o 6 000 slovech, který napsal loni v únoru o budoucích ambicích Facebooku. Asi ve 4 500 slovech přiznává, že Facebook udělal chyby, a říká, že „často souhlasí“ s kritiky. (Neříká, v čem konkrétně.) Ale dodává: „Tyto chyby téměř nikdy nejsou způsobeny tím, že bychom zastávali ideologické postoje v rozporu s komunitou, ale jde spíše o provozní problémy při škálování.“

Je pravda, že Facebook zřídkakdy zastává „ideologické postoje v rozporu s komunitou“. Protože je Facebook banální, obvykle postrádá ideologické postoje vůbec k čemukoli. Sociálně-mediální platforma se dlouho snažila vystupovat jako bašta neutrality, platforma pro cizí myšlenky, pasivní kanál. Když Swisherová vyzvala Zuckerberga, aby umožnil popíračům Sandy Hook šířit své poselství, řekl: „Podívejte se, jakkoli může být některý z těchto obsahů odporný, myslím, že se dostáváme k tomuto principu dát lidem hlas.“

Ale organizace s tak velkým vlivem nemusí být ideologicky proti společnosti, aby škodila. Stačí, aby přestala myslet na lidi, aby se cítila pohodlně a odmítala náboženské násilí, etnickou diskriminaci, nenávistné projevy, osamělost, věkovou diskriminaci a smrt v přímém přenosu jako „operativní problémy se škálováním“. Přemýšlet o sebevraždě jako o „use case“ pro Facebook Live.

V těchto dnech může být lákavé tvrdit, že Facebook je na správné cestě. V loňském roce bylo změněno poslání společnosti, aby se snížil význam „spojení“. Místo „učinit svět otevřeným a propojeným“ je nyní jejím cílem „sblížit svět“. V červenci Facebook oznámil, že v některých zemích začne odstraňovat příspěvky, které vyzývají k fyzickému násilí.

To zdaleka nestačí. Nové poslání stále nedokáže splnit to, co Arendtová říká, že musí. Stále staví Facebook, platformu, nad lidi, kteří ji používají. Sblížení světa může znamenat usnadnění prodeje pečiva a čtení Bible, ale také sjednocení Ku-klux-klanu a skinheadů. V programovém prohlášení není nic o rozdílech mezi nimi.

Facebook se musí naučit myslet sám za sebe. Jeho vlastní bezpečnostní důstojník Alex Stamos to uvedl ve svém odcházejícím memorandu, které rovněž získal BuzzFeed. „Musíme být ochotni vybrat si stranu, když existují jasné morální nebo humanitární problémy,“ píše. To je to, co Eichmann nikdy neudělal.

Řešením není, aby se Facebook stal morální policií internetu a rozhodoval o tom, zda má být povolen každý jednotlivý příspěvek, video a fotografie. Přesto nemůže ustoupit ze své linie neutrální platformy, která je stejně vhodná pro lásku i nenávist. Arendtová říkala, že realita si vždy žádá pozornost našich myšlenek. Stále se dozvídáme o nových skutečnostech o světě; ty je třeba vzít v úvahu a začlenit je do našeho pohledu na svět. Uznávala však, že neustálé podléhání tomuto požadavku by bylo vyčerpávající. Rozdíl oproti Eichmannovi byl v tom, že on se nikdy nepoddal, protože jeho myšlení bylo zcela odděleno od reality.

Řešením tedy je, aby Facebook změnil své myšlení. Doposud i pozitivní kroky Facebooku – jako stažení příspěvků podněcujících k násilí nebo dočasné zakázání konspiračního teoretika Alexe Jonese – nebyly výsledkem zkoumání duše, ale silného tlaku veřejnosti a PR dopadů. Facebook dělá správné věci, jen když je k tomu donucen. Místo toho musí být ochoten obětovat cíl totálního propojení a růstu, když tento cíl má lidskou cenu; vytvořit rozhodovací proces, který bude od vedoucích představitelů Facebooku vyžadovat, aby svůj instinktivní technologický optimismus porovnávali s realitou lidského života.

Bez lidských ohledů bude Facebook i nadále přinášet světu bezmyšlenkovité, banální škody. Dvě a půl miliardy lidí, kteří ho používají jako součást svého skutečného života, se s tím nebudou smiřovat věčně.