2016 júniusában Antonio Perkins akaratlanul a saját halálát közvetítette a világnak. Ez egy napsütéses nap volt Chicagóban, és ő a Facebook Live-on osztotta meg, a videók valós idejű terjesztésére szolgáló, alig néhány hónappal korábban megjelent platformon.

A videó hosszú. Perkins hétköznapi nyári dolgokat csinál benne. Álldogál a járdán. Panaszkodik a hőségre. Körülbelül hat perc elteltével hirtelen pisztolylövések hallatszanak. A kamera eszeveszetten mozog, majd a földre esik. Még aznap Perkins-t halottnak nyilvánították.

A videót közel egymillióan látták.

A csúnya

Másnap a Facebookon belül köröztek egy “A csúnya” című feljegyzést. Szerzője Andrew Bosworth, a vállalat egyik alelnöke és központi döntéshozója.

“Gyakran beszélünk a munkánk jó és rossz oldaláról” – kezdődik a feljegyzés, amelyet a BuzzFeed márciusban szerzett meg. “Én a csúnya dolgokról szeretnék beszélni.” Folytatódik:

Embereket kapcsolunk össze… Lehet, hogy egy életbe kerül, ha valakit kiteszünk a zaklatóknak. Talán valaki meghal egy, az eszközeinkkel koordinált terrortámadásban. És mégis összekötjük az embereket. A csúnya igazság az, hogy olyan mélyen hiszünk az emberek összekapcsolásában, hogy bármi, ami lehetővé teszi számunkra, hogy több embert gyakrabban kapcsoljunk össze, de facto jó.

A feljegyzés nem említi Perkinst. Lehetséges, hogy Bosworth nem tudott az esetről. Elvégre a Facebook Live-on nem olyan ritkák a valós idejű tragédiák.

De Perkins élőben közvetített halála a “Csúnya” egyik legjobb példája. Bár halála tragikus, a videó nem sérti a vállalat absztrúz közösségi szabványait, mivel nem “dicsőíti az erőszakot”, és nem “ünnepli mások szenvedését vagy megalázását”. A videó fent hagyása pedig azt jelenti, hogy még többen kapcsolódnak majd Perkinshez és a Facebookhoz, így a videó marad. Elvégre egymillió megtekintése van.

A döntés egyike a Facebook számos közelmúltbeli intézkedésének, amelyek rossz szájízt hagyhattak maguk után. A vállalat tudtán kívül megengedte Donald Trump elnökválasztási kampányának, hogy amerikaiak millióiról gyűjtsön személyes adatokat. Nem vette észre Oroszországnak a 2016-os választások befolyásolására tett kísérleteit; elősegítette az etnikai és vallási erőszakot több országban; és lehetővé tette, hogy a hirdetők olyan nemes fogyasztói kategóriákat célozzanak meg, mint a “zsidógyűlölők”. Arról nem is beszélve, hogy álhírek, összeesküvés-elméletek és égbekiáltó hazugságok bővelkednek a platformon.

A Facebook nem akarta, hogy mindez megtörténjen. Csak össze akarta kapcsolni az embereket. De van egy szál, amely Perkins halálától a mianmari vallási erőszakig és a vállalat félszeg próbálkozásaiig az álhírek elleni küzdelemben. A Facebook tényleg gonosz. Nem szándékosan. A banális módon.

A Facebook összes baklövése mögött a valódi emberek iránti bambuló feledékenység húzódik meg. A vállalatnak az “emberek összekapcsolására” való egyedüli összpontosítása lehetővé tette számára, hogy meghódítsa a világot, lehetővé téve az emberi kapcsolatok hatalmas hálózatának létrehozását, az ismeretek és a figyelem forrását, amely a hirdetők és a befektetők nyálát csorgatja.

Az “emberek összekapcsolásának” imperatívuszából azonban hiányzik az az egy összetevő, amely elengedhetetlen a jó állampolgársághoz: Az egyes emberi lények szentként való kezelése. A Facebook számára a világ nem egyénekből, hanem a közöttük lévő kapcsolatokból áll. A több milliárd Facebook-fiók nem “emberekhez”, hanem “felhasználókhoz” tartozik, adatpontok gyűjteményei, amelyek egy hatalmas közösségi hálózaton más adatpont-gyűjteményekhez kapcsolódnak, és amelyeket számítógépes programok céloznak és pénzzé tesznek.

Vannak bizonyos dolgok, amelyeket jó lelkiismerettel nem teszünk meg emberekkel. Az adatokkal azt tehetsz, amit csak akarsz.

Az élet mint adatbázis

A “The Ugly” nyilvános megjelenése óta Bosworth elhatárolódott a feljegyzésben szereplő érveléstől. Most azt mondja, hogy csupán “felszínre akart hozni kérdéseket”, és hogy – meglehetősen hihetetlen módon – “még akkor sem értett vele egyet, amikor megírta”. Mark Zuckerberg hozzátette, hogy ő is határozottan nem ért egyet a feljegyzéssel, mondván: “Soha nem hittünk abban, hogy a cél szentesíti az eszközt.”

A Facebook döntéseiből azonban újra és újra kiderül, hogy az emberek összekapcsolását szinte minden esetben de facto jónak tekintik. Ez az oka annak, hogy Zuckerberg a Recode-nak adott legutóbbi interjújában megvédte azt a döntést, hogy engedélyezte a Sandy Hook-i lövöldözés és a holokauszt tagadóinak posztjait, mondván, hogy ők csak “félreértik a dolgokat.”

A Facebookon “az élet egy adatbázissá válik” – írja Jaron Lanier technológus 2010-ben megjelent You Are Not a Gadget című könyvében. A Szilícium-völgyi kultúra már biztosra veszi, írja Lanier, hogy “az egész valóság, beleértve az embereket is, egyetlen nagy információs rendszer”. Szerinte ez a bizonyosság a technológiai világ legbefolyásosabb embereinek “egy újfajta manifeszt végzetet” ad. Ez ad nekik “egy küldetést, amit teljesíteniük kell.”

A küldetés elfogadása kényelmes a Facebook számára. A lehető leggyorsabb skálázódást erkölcsi paranccsá teszi. Ebben a nézetben minél nagyobb a Facebook, annál jobb a vállalat a világ számára. Történetesen ez a módja annak is, hogy a legtöbb pénzt keresse.

A probléma az – mondja Lanier -, hogy ebben az információs rendszerben nincs semmi különleges az emberekben. Minden adatpontot egyformán kezelnek, függetlenül attól, hogy az ember hogyan éli meg. A “zsidógyűlölők” ugyanolyan hirdetési kategória, mint a “kocogó anyukák”. Ez mind adat. Ha az A csoportnak nagyobb a jelenléte a Facebookon, mint a B csoportnak, hát legyen, még akkor is, ha az A csoport megpróbálja lealacsonyítani vagy erőszakot szervezni a B csoport ellen. Persze a valóság az, hogy az emberek mind különbözőek, és nem lehet őket adatokra redukálni.

Próbáld meg ezt elmondani annak az Ivy League-es fehér fiúkból álló csoportnak, akik a Facebookot egy dögös vagy nem dögös weboldalként indították, és feltalálták az arcfelismerő kegytárgyat.

Mit jelent gondolkodni

A Facebook hibája nem új. Általában csúnyán elfajulnak a dolgok, amikor hatalmas, hatalmas szervezetek nem veszik figyelembe mások emberségét. Most a nácikról fogunk beszélni.

A Facebook szellemi kudarcának legjobb elemzését Hannah Arendt politikai teoretikus írja Eichmann Jeruzsálemben című könyvében. A könyv Adolf Eichmann 1961-es peréről szól. Eichmann egy középszintű náci bürokrata volt, aki a második világháború alatt elsősorban a zsidók koncentrációs táborokba való erőszakos elszállításának logisztikájáért volt felelős.

Eichmannt Argentínában fogták el, és egy izraeli bíróság elé állították, hogy magyarázatot adjon bűneire. Minden jelenlévő arra számított, hogy egy szadista őrült lesz, aki perverz módon a zsidó nép elpusztításának megszállottja.

Ehelyett bohócnak és karrieristának mutatkozott. Azt állította, hogy elfelejtette a fontosabb politikai események részleteit, miközben tisztán emlékezett arra, hogy melyik társa kapta meg az áhított előléptetést. Arendt szerint az egyik izraeli bírósági pszichiáter, aki Eichmannt vizsgálta, kijelentette, hogy “teljesen normális ember volt, mindenesetre normálisabb, mint amilyen én vagyok a vizsgálata után.”

A kérdés, amely Arendtet kísértette, az volt, hogy egy ilyen “normális” ember hogyan játszhatott főszerepet tömeggyilkosságokban. Eichmann tudatosan küldött zsidók ezreit a biztos halálba.

Arendt arra a következtetésre jut, hogy Eichmanntot nem szadizmus vagy gyűlölet vezérelte e történelmi bűnök elkövetésére. Hanem az, hogy egyáltalán nem tudott más emberekre emberként gondolni.

A jellemének “döntő” hibája, írja Arendt, az volt, hogy “képtelen volt valaha is bármit is a másik ember szemszögéből nézni.”

Hogyan lehetett az, hogy Eichmann és több száz más náci nem rendelkezett az emberi élet szentségének alapvető megértésével? A válasz abban rejlik, hogy Eichmann hitt egy nagy, történelmi projektben, amely egy fajilag tiszta “utópia” létrehozására irányult. Ez a terv túllépett az emberi életeken, másodlagossá téve azokat. Egy élet vagy egymillió élet csekély ár volt az “ezeréves birodalom” megvalósításának ígéretéért.”

Az, hogy Eichmann képtelen volt mások szenvedésére gondolni, abból fakadt, hogy bensővé tette a nagy projekt legfőbb fontosságát, állapítja meg Arendt. Mivel a projektet minden áron be kell fejezni, minden, ami azt előmozdítja, de facto jó. Ez a logika képes eltorzítani az általunk természetesnek vett társadalmi normákat, még az olyan alapvető dolgokat is megfordítva, mint hogy “a gyilkosság helytelen”, “azoknak a meggyilkolása, akik a projekt útjában állnak, helyes.”

Ez az őrült logika a legcsekélyebb vizsgálatnak sem állja meg a helyét. De Eichmann, akárcsak a körülötte lévők, érzelemmentes absztrakciókkal védte magát tettei valóságától. “A kliséknek, a sablonos kifejezéseknek, a konvencionális, szabványosított kifejezési és viselkedési kódokhoz való ragaszkodásnak megvan az a társadalmilag elismert funkciója, hogy megvédjen minket a valóságtól” – írta Arendt a The New Yorkerben 15 évvel az Eichmann-könyv megjelenése után megjelent “Gondolkodás” című esszéjében. A világ eseményeinek és tényeinek mindig nyomást kell gyakorolniuk “gondolkodó figyelmünkre”, írja, arra kényszerítve minket, hogy átértékeljük viselkedésünket és meggyőződéseinket.

“Eichmann csak abban különbözött a többiektől”, állapítja meg, hogy nem volt kapcsolat a valóság és az ő gondolkodási folyamata között. Ehelyett vakon követte azt a kiforgatott erkölcsöt, amely a köreiben konvencionálissá vált. És milliók haltak meg emiatt.

Ez visszavezet minket a Facebookhoz. Megvan a saját nagy terve – az emberi világot egyetlen nagy információs rendszerré alakítani. Ez, mondanom sem kell, közel sem olyan szörnyű, mint az ezeréves Birodalom projektje. De az alapvető probléma ugyanaz: a képtelenség, hogy a dolgokat a másik ember szemszögéből nézzük, a kapcsolat megszakadása az emberi valóság és a nagy projekt között.

A történelmi projekt lefelé ívelő íve

Arendt segít meglátni, hogyan függ össze a Facebook különböző tévedései. Íme egy példa, amely bár jelentéktelen, de jól szemlélteti a lényeget.

Tavaly Mark Zuckerberg közzétett egy videót, amelyben bemutatta a Spaces-t, a Facebook új virtuális valóságplatformját. Ebben őt egy fényes, nagyfejű, mosolygós, számítógép által generált változata ábrázolja.

Ezt a Zuck-karikatúrát először kívül, a Facebook központjának tetején láthatjuk. Ezután elővesz valamilyen gömböt. A gömb, mint mondja, egy 360-as videót tartalmaz Puerto Ricóról, amely nem sokkal a Maria hurrikán pusztítása után készült. Ezt a gömböt a kamera elé helyezi. Hirtelen Zuck – Rachel Franklin, a Facebook közösségi virtuális valóságért felelős vezetőjének avatárjával együtt – “teleportál” a jelenetbe. Ez a két figura most egy teherautón “utazik” a romos városrészeken keresztül, és “áll” a méteres árvízben.

Oh, elfelejtették megemlíteni, milyen király ez a technológia, ezért megállnak, hogy pacsizzanak.

“Olyan, mintha tényleg itt lennénk Puerto Ricóban” – mondja digi-Zuck (ne feledjük, hogy mindez gyenge minőségű CG-ben történik). Pár percig ugrálnak a különböző katasztrófajelenetek között. “Rendben, szóval nem akarsz teleportálni valahova máshova?” Még egy gömb, és már el is suhannak, vissza Kaliforniába.

A Facebook nagyszabású projektjén kívül állók számára ez a videó nyilvánvalóan szörnyű ötlet volt. A hírcsatornák kigúnyolták, mint hangzatos és ízléstelen. Ennek ellenére a videó átjutott a Facebook több rétegű jóváhagyásán. Az a tény, hogy a Facebooknál az emberek felemelték a hüvelykujjukat, amikor a videó problémái a külső szemlélők számára is nyilvánvalóak voltak, jól mutatja, hogy a Facebook értékrendje mennyire eltért a társadalom többi részének értékrendjétől – ez az eredménye annak a rövidlátó összpontosításnak, hogy mindenkit összekapcsoljon, ahogy csak lehet, a következményekre való tekintet nélkül.

Ezt szem előtt tartva kezd világossá válni a Facebook számos PR-katasztrófáján végigvonuló szál. A Srí Lanka-i és mianmari aktivisták folyamatos elutasítása, akik arra kérik, hogy tegyen valamit az erőszakra való felbujtás ellen. Nem hajlandó eltávolítani azokat az anyagokat, amelyek a Sandy Hook-i mészárlást “átverésnek” nevezik, és a meggyilkolt gyermekek szüleit fenyegetik. Az adatvédelemmel és adatgyűjtési gyakorlattal kapcsolatos félrevezető megfogalmazásai.

Úgy tűnik, a Facebook nem látja annak lehetőségét, hogy rosszra is felhasználható. Zuckerberg nemrég a Recode Kara Swisherrel készített interjújában megemlíti, hogy találkozott a Facebook Live termékmenedzserekkel. Azt mondta, “őszintén meglepettnek” tűntek, amikor felvetette, hogy gyilkosság, zaklatás és öngyilkosság közvetítésére lehetne használni. “Úgy tűnt, hogy kevésbé orientálódtak ezen, mint azon, hogy mi történhet a platformon” – mondja.”

Ezek a legrosszabb forgatókönyvek valóban megtörténtek, amint azt az Antonio Perkinsről készült videó szemléletesen mutatja. Nem azért, mert a Facebook azt akarta, hogy bárkinek is baja essen. Mindezt azért, mert egy bizonyos ponton megvédte magát az emberi valóságtól a számítógépes programozási zsargonnal, a szólásszabadságról szóló közhelyekkel és a techno-utópia “pozitivitását” bizonygató raktári mondatokkal, amelyek megvalósulása esetén az lenne a kellemes mellékhatás, hogy rengeteg pénzt termelnének.

A Facebook áldozatul esett Arendt alapvető hibájának.

Gondolkodj magadon

Zuckerberg valójában utal a cége kudarcainak erre az olvasatára egy 6000 szavas kiáltványban, amelyet tavaly februárban írt a Facebook jövőbeli ambícióiról. Körülbelül 4500 szóval beljebb elismeri, hogy a Facebook hibákat követett el, és azt mondja, hogy “gyakran egyetért” a kritikusokkal. (Nem mondja meg, hogy konkrétan miről.) De hozzáteszi: “Ezek a hibák szinte soha nem azért vannak, mert a közösséggel ellentétes ideológiai álláspontot képviselünk, hanem inkább működési méretezési problémák.”

Az igaz, hogy a Facebook ritkán képvisel “a közösséggel ellentétes ideológiai álláspontot”. Mivel a Facebook banális, jellemzően nincsenek ideológiai álláspontjai semmiről sem. A közösségi médiaplatform régóta próbálja magát a semlegesség bástyájaként, mások gondolatainak platformjaként, passzív csatornaként pozícionálni. Amikor Swisher kihívta Zuckerberget azzal kapcsolatban, hogy a Sandy Hookot tagadóknak lehetővé teszi az üzenetük terjesztését, azt mondta: “Nézze, bármennyire is visszataszító lehet néhány ilyen tartalom, úgy gondolom, hogy ez az elv, hogy hangot adjunk az embereknek, a lényeg.”

De egy ekkora befolyással rendelkező szervezetnek nem kell ideológiailag szemben állnia a társadalommal ahhoz, hogy kárt okozzon. Csak abba kell hagynia az emberekről való gondolkodást, hogy kényelmesen el tudja utasítani a vallási erőszakot, az etnikai megkülönböztetést, a gyűlöletbeszédet, a magányt, az életkor szerinti megkülönböztetést és az élőben közvetített halált, mint “működési skálázási problémákat”. Hogy az öngyilkosságra a Facebook Live “használati eseteként” gondoljunk.”

Ezekben a napokban csábító lehet azt állítani, hogy a Facebook jó úton jár. A vállalat küldetésnyilatkozatát tavaly megváltoztatták, hogy csökkentsék a “kapcsolatok” fontosságát. A “tegyük nyitottá és összekapcsoltá a világot” helyett most az a célja, hogy “közelebb hozza egymáshoz a világot”. Júliusban a Facebook bejelentette, hogy egyes országokban elkezdi eltávolítani azokat a bejegyzéseket, amelyek fizikai erőszakra szólítanak fel.

Ez közel sem elég. Az új küldetés még mindig nem teszi meg azt, amit Arendt szerint meg kell tennie. A Facebookot, a platformot még mindig az azt használó emberek fölé helyezi. A világ közelebb hozása jelentheti a süteményárusítás és a bibliaolvasás megkönnyítését; jelentheti a KKK és a skinheadek egyesítését is. A küldetésnyilatkozat nem szól a kettő közötti különbségekről.

A Facebooknak meg kell tanulnia, hogy saját magára gondoljon. A saját biztonsági tisztje, Alex Stamos is ezt mondta távozó feljegyzésében, amelyet szintén a BuzzFeed szerzett meg. “Hajlandónak kell lennünk arra, hogy állást foglaljunk, ha egyértelmű erkölcsi vagy humanitárius kérdések merülnek fel” – írja. Ez az, amit Eichmann soha nem tett meg.”

A megoldás nem az, hogy a Facebook az internet erkölcsrendőrévé válik, és eldönti, hogy minden egyes poszt, videó és fotó engedélyezhető legyen. Mégsem dőlhet vissza arra az álláspontjára, hogy semleges platform, amely egyformán alkalmas a szeretetre és a gyűlöletre. Arendt azt mondta, hogy a valóság mindig követeli gondolataink figyelmét. Mindig új tények jutnak tudomásunkra a világról; ezeket figyelembe kell vennünk és be kell építenünk a világképünkbe. De elismerte, hogy ennek az igénynek állandóan engedni kimerítő lenne. A különbség Eichmannal szemben az volt, hogy ő soha nem engedett, mert a gondolkodása teljesen elszakadt a valóságtól.

A megoldás tehát az, hogy a Facebook megváltoztatja a gondolkodásmódját. Eddig még a Facebook pozitív lépései – mint például az erőszakra buzdító posztok eltávolítása vagy az összeesküvés-elméleteket hangoztató Alex Jones ideiglenes kitiltása – nem a lelkifurdalás, hanem az intenzív nyilvános nyomás és a PR-következmények eredményeként születtek. A Facebook csak akkor cselekszik helyesen, ha erre kényszerítik. Ehelyett hajlandónak kell lennie arra, hogy feláldozza a teljes összekapcsoltság és növekedés célját, amikor ennek a célnak emberi ára van; olyan döntéshozatali folyamatot kell létrehoznia, amely megköveteli a Facebook vezetőitől, hogy ösztönös technológiai optimizmusukat összevessék az emberi élet realitásaival.

Emberi megfontolások hiányában a Facebook továbbra is meggondolatlan, banális károkat fog okozni a világnak. Az a 2,5 milliárd ember, aki a valós életük részeként használja, nem fogja ezt örökké eltűrni.