În iunie 2016, Antonio Perkins și-a difuzat în mod neintenționat propria moarte în lume. Era o zi însorită în Chicago, iar el o împărtășea pe Facebook Live, o platformă pentru distribuirea de videoclipuri în timp real, lansată cu doar câteva luni mai devreme.

Video-ul este lung. Îl prezintă pe Perkins făcând lucruri banale de vară. Stând în picioare pe trotuar. Plângându-se de căldură. După aproximativ șase minute, deodată, se aud focuri de armă. Camera se mișcă frenetic, apoi cade la pământ. Mai târziu în acea zi, Perkins a fost declarat mort.

Video-ul are aproape un milion de vizualizări.

The Ugly

În ziua următoare, un memoriu numit „The Ugly” a fost distribuit intern la Facebook. Autorul acestuia, Andrew Bosworth, unul dintre vicepreședinții companiei și unul dintre factorii centrali de decizie.

„Vorbim des despre binele și răul muncii noastre”, începe memo-ul, obținut de BuzzFeed în martie. „Vreau să vorbesc despre partea urâtă”. Acesta continuă:

Noi conectăm oamenii…Poate că ne costă o viață expunând pe cineva la bătăuși. Poate că cineva moare într-un atac terorist coordonat pe instrumentele noastre. Și totuși noi conectăm oameni. Adevărul urât este că noi credem atât de profund în conectarea oamenilor încât orice lucru care ne permite să conectăm mai mulți oameni mai des este de facto bun.

Memoriul nu îl menționează pe Perkins. Este posibil ca Bosworth să nu fi fost la curent cu incidentul. La urma urmei, tragediile în timp real nu sunt atât de rare pe Facebook Live.

Dar moartea lui Perkins transmisă în direct este un prim exemplu de „Urât”. Deși moartea sa este tragică, videoclipul nu încalcă standardele comunitare absconse ale companiei, deoarece nu „glorifică violența” și nici nu „celebrează suferința sau umilirea altora”. Și lăsându-l sus înseamnă că mai mulți oameni se vor conecta la Perkins, și la Facebook, așa că videoclipul rămâne. Are un milion de vizualizări, la urma urmei.

Declarația este una dintre multele acțiuni recente ale Facebook care s-ar putea să vă fi lăsat un gust neplăcut în gură. Compania a permis, fără să știe, campaniei prezidențiale a lui Donald Trump să colecteze date personale despre milioane de americani. Nu a observat încercările Rusiei de a influența alegerile din 2016; a facilitat violența etnică și religioasă în mai multe țări; și a permis agenților de publicitate să vizeze categorii nobile de consumatori, cum ar fi „cei care urăsc evreii”. Ca să nu mai vorbim de faptul că știrile false, teoriile conspirației și minciunile flagrante abundă pe platformă.

Facebook nu a intenționat ca nimic din toate acestea să se întâmple. A vrut doar să conecteze oamenii. Dar există un fir care pornește de la moartea lui Perkins la violența religioasă din Myanmar și la încercările pe jumătate eșuate ale companiei de a combate știrile false. Facebook chiar este rău. Nu în mod intenționat. Într-un mod banal.

În spatele tuturor greșelilor lui Facebook se află o uitare împiedicată față de oamenii reali. Concentrarea singulară a companiei pe „conectarea oamenilor” i-a permis să cucerească lumea, făcând posibilă crearea unei vaste rețele de relații umane, o sursă de informații și de ochi care îi face pe agenții de publicitate și pe investitori să saliveze.

Dar imperativului de a „conecta oamenii” îi lipsește singurul ingredient esențial pentru a fi un bun cetățean: Tratarea ființelor umane individuale ca fiind sacrosancte. Pentru Facebook, lumea nu este formată din indivizi, ci din conexiuni între ei. Miliardele de conturi Facebook nu aparțin „oamenilor”, ci „utilizatorilor”, colecții de puncte de date conectate la alte colecții de puncte de date într-o vastă Rețea Socială, pentru a fi direcționate și monetizate de programe de calculator.

Există anumite lucruri pe care nu le poți face cu bună știință oamenilor. Cu datele, poți să faci tot ce vrei.

Viața ca bază de date

De la lansarea publică a „Urâtului”, Bosworth s-a distanțat de argumentul pe care îl prezintă memoriul. El spune acum că a vrut doar să „scoată la suprafață problemele” și că, destul de incredibil, „nu a fost de acord cu el nici când l-a scris”. Mark Zuckerberg a adăugat că și el nu a fost deloc de acord cu memo-ul, spunând: „Nu am crezut niciodată că scopul justifică mijloacele.”

Din nou și din nou, totuși, alegerile Facebook au dezvăluit că conectarea oamenilor este considerată un bine de facto în aproape toate cazurile. Acesta este motivul pentru care Zuckerberg, într-un interviu recent cu Recode, a apărat decizia de a permite postări de la cei care neagă atât împușcăturile de la Sandy Hook, cât și Holocaustul, spunând că aceștia doar „înțeleg lucrurile greșit.”

Cu Facebook, „viața este transformată într-o bază de date”, scrie tehnologul Jaron Lanier în cartea sa din 2010 You Are Not a Gadget. Cultura Silicon Valley a ajuns să accepte ca certitudine, scrie Lanier, că „toată realitatea, inclusiv oamenii, este un mare sistem informațional”. Această certitudine, spune el, le oferă celor mai puternici oameni din lumea tehnologiei „un nou tip de destin manifest”. Le oferă „o misiune de îndeplinit.”

Acceptarea acestei misiuni este convenabilă pentru Facebook. Face ca extinderea cât mai rapidă posibil să fie un imperativ moral. Din acest punct de vedere, cu cât Facebook este mai mare, cu atât compania este mai bună pentru lume. Aceasta se întâmplă să fie, de asemenea, modalitatea prin care poate face cei mai mulți bani.

Problema, spune Lanier, este că nu există nimic special despre oameni în acest sistem informațional. Fiecare punct de date este tratat în mod egal, indiferent de modul în care oamenii îl experimentează. „Evreii care urăsc evreii” este la fel de mult o categorie publicitară ca și „mamele care fac jogging”. Toate sunt date. Dacă grupul A are o prezență mai mare pe Facebook decât grupul B, așa să fie, chiar dacă grupul A încearcă să înjosească sau să organizeze violențe împotriva grupului B. Bineînțeles, realitatea este că oamenii sunt cu toții diferiți și nu pot fi reduși la date.

Încercați să spuneți asta grupului de băieți albi din Ivy League care au început Facebook ca un site web fierbinte sau nu și au inventat un butoi de recunoaștere facială.

Ce înseamnă să gândești

Greșeala lui Facebook nu este nouă. În general, lucrurile devin urâte atunci când organizațiile masive și puternice nu reușesc să ia în considerare umanitatea celorlalți. Acum vom vorbi despre naziști.

Cea mai bună analiză a eșecului intelectual al Facebook vine de la teoreticiana politică Hannah Arendt în cartea sa Eichmann la Ierusalim. Cartea este o relatare a procesului din 1961 al lui Adolf Eichmann. Birocrat nazist de nivel mediu, Eichmann a fost principalul responsabil pentru logistica transportului forțat al evreilor către lagărele de concentrare în timpul celui de-al doilea război mondial.

Eichmann a fost capturat în Argentina și adus în fața unui tribunal israelian pentru a-și explica crimele. Toți cei prezenți se așteptau ca el să fie un nebun sadic, obsedat în mod pervers de distrugerea poporului evreu.

În schimb, s-a dovedit a fi un bufon și un carierist. A pretins că a uitat detaliile evenimentelor politice majore, în timp ce își amintea clar care dintre colegii săi a obținut o promovare pe care o râvnea. Potrivit lui Arendt, un psihiatru al tribunalului israelian care l-a examinat pe Eichmann l-a declarat „un om complet normal, mai normal, în orice caz, decât sunt eu după ce l-am examinat.”

Întrebarea care o bântuia pe Arendt era cum de un om atât de „normal” a jucat un rol major în crimele în masă. Eichmann a trimis cu bună știință mii de evrei la moarte sigură.

Arendt concluzionează că nu a fost nici sadismul, nici ura care l-a împins pe Eichmann să comită aceste crime istorice. A fost un eșec de a se gândi la ceilalți oameni ca la niște oameni.

Un defect „decisiv” al caracterului său, scrie Arendt, a fost „incapacitatea sa de a privi vreodată ceva din punctul de vedere al celuilalt.”

Cum se face că Eichmann, și sute de alți naziști, nu au reușit să posede o înțelegere de bază a sfințeniei vieții umane? Răspunsul se află în credința lui Eichmann într-un mare proiect istoric de a stabili o „utopie” rasială pură. Acest proiect a transcendat viețile umane, făcându-le secundare. O viață, sau un milion de vieți, erau prețuri mici de plătit pentru promisiunea de a aduce un „Reich de o mie de ani.”

Incapacitatea lui Eichmann de a se gândi la suferința altora a apărut din interiorizarea importanței supreme a unui proiect măreț, conchide Arendt. Deoarece proiectul trebuie finalizat indiferent de costuri, orice lucru care îl promovează este de facto bun. Această logică poate distorsiona normele sociale pe care le considerăm de la sine înțelese, inversând chiar și ceva atât de fundamental precum „crima este greșită” în „uciderea celor care stau în calea proiectului este corectă.”

O astfel de logică dementă nu rezistă nici măcar la cea mai mică analiză. Dar Eichmann, ca și cei din jurul său, s-a protejat de realitatea acțiunilor sale folosind abstracțiuni lipsite de emoții. „Clișeele, frazele standard, aderarea la coduri convenționale, standardizate de exprimare și de conduită au funcția social recunoscută de a ne proteja împotriva realității”, scria Arendt într-un eseu intitulat „Thinking”, publicat în The New Yorker la 15 ani după cartea lui Eichmann. Evenimentele și faptele lumii ar trebui să fie mereu apăsătoare asupra „atenției noastre gânditoare”, scrie ea, forțându-ne să ne reevaluăm comportamentele și credințele.

„Eichmann se deosebea de noi toți”, conchide ea, doar prin faptul că nu exista nicio legătură între realitate și procesul său de gândire. În schimb, el a urmat orbește moralitatea întortocheată care devenise convențională în cercurile sale. Și milioane de oameni au murit din această cauză.

Acest lucru ne aduce înapoi la Facebook. Acesta are propriul său proiect măreț – de a transforma lumea umană într-un mare sistem informațional. Acest lucru este, este de la sine înțeles, nici pe departe la fel de teribil ca proiectul Reich-ului de o mie de ani. Dar problema fundamentală este aceeași: incapacitatea de a privi lucrurile din punctul de vedere al celuilalt, o deconectare între realitatea umană și marele proiect.

Arcul înclinat în jos al proiectului istoric

Arendt ne ajută să vedem cum sunt legate toate diferitele pași greșiți ai lui Facebook. Iată un exemplu care, deși minor, ilustrează ideea.

Anul trecut, Mark Zuckerberg a lansat un videoclip în care prezenta Spaces, noua platformă de realitate virtuală a Facebook. În acesta, el este reprezentat de o versiune strălucitoare, cu cap mare, zâmbitoare, generată pe calculator a sa.

Această caricatură a lui Zuck este văzută mai întâi afară, pe acoperișul sediului central al Facebook. El scoate apoi un fel de glob. Globul, spune el, conține o înregistrare video la 360 de grade din Puerto Rico, realizată la scurt timp după devastarea provocată de uraganul Maria. Acest glob este plasat în fața camerei. Dintr-o dată, Zuck – împreună cu avatarul lui Rachel Franklin, șefa departamentului de realitate virtuală socială de la Facebook – se „teleportează” în scenă. Aceste două figuri sunt acum văzute „călărind un camion” prin cartierele ruinate și „stând” în picioare în metri de apă de inundație.

Oh, au uitat să menționeze cât de mișto este această tehnologie, așa că se opresc să bată palma.

„Se simte ca și cum am fi cu adevărat aici, în Puerto Rico”, spune digi-Zuck (amintiți-vă că totul este în CG sub așteptări). Ei sar la diverse scene de dezastru timp de câteva minute. „În regulă, deci vrei să ne teleportăm în altă parte?” Încă o sferă și ei sunt purtați departe, înapoi în California.

Pentru cei din afara marelui proiect al Facebook, acest videoclip a fost în mod evident o idee teribilă. Agențiile de știri l-au ridiculizat ca fiind lipsit de ton și de prost gust. Chiar și așa, videoclipul și-a croit drum prin numeroasele straturi de aprobare ale Facebook. Faptul că oamenii de la Facebook i-au dat undă verde atunci când problemele videoclipului erau atât de clare pentru spectatorii din afară este un indiciu al măsurii în care sistemul de valori al Facebook a deviat de cel al restului societății – rezultatul concentrării mioape asupra conectării tuturor în orice mod posibil, fără a ține cont de consecințe.

Din acest punct de vedere, firul care traversează numeroasele dezastre de relații publice ale Facebook începe să devină clar. Respingerea sa continuă a activiștilor din Sri Lanka și Myanmar care îi implorau să facă ceva în legătură cu incitările la violență. Refuzul său de a elimina materialele care numesc masacrul de la Sandy Hook o „farsă” și amenință părinții copiilor uciși. Limbajul său înșelător cu privire la practicile de confidențialitate și de colectare a datelor.

Facebook pare să fie orb la posibilitatea că ar putea fi folosit în rău. În interviul recent al lui Zuckerberg cu Kara Swisher de la Recode, menționează că s-a întâlnit cu managerii de produs pentru Facebook Live. Aceștia păreau „cu adevărat surprinși”, a spus ea, atunci când a sugerat că ar putea fi folosit pentru a transmite crimă, hărțuire și sinucidere. „Păreau mai puțin orientați spre asta decât spre pozitivitatea a ceea ce s-ar putea întâmpla pe platformă”, spune ea.

Aceste scenarii din cel mai rău caz s-au întâmplat, așa cum demonstrează grafic videoclipul lui Antonio Perkins. Nu pentru că Facebook ar fi vrut ca cineva să fie rănit. Totul pentru că, la un moment dat, s-a protejat de realitatea umană cu jargonul de programare a computerelor, clișee despre libertatea de exprimare și fraze de arhivă care afirmau „pozitivitatea” unei tehno-utopii care, dacă s-ar fi realizat, ar fi avut efectul secundar plăcut de a genera o grămadă de bani.

Facebook a căzut pradă erorii fundamentale a lui Arendt.

Gândește pentru tine însuți

Zuckerberg, de fapt, face aluzie la această lectură a eșecurilor companiei sale într-un manifest de 6.000 de cuvinte pe care l-a scris în februarie anul trecut despre ambițiile viitoare ale Facebook. În aproximativ 4.500 de cuvinte, el recunoaște că Facebook a făcut greșeli, spunând că „adesea este de acord” cu criticii. (Nu spune cu privire la ce anume.) Dar, adaugă el, „Aceste greșeli nu sunt aproape niciodată din cauză că avem poziții ideologice în dezacord cu comunitatea, ci sunt mai degrabă probleme de scalare operațională.”

Este adevărat că Facebook rareori are „poziții ideologice în dezacord cu comunitatea”. Deoarece Facebook este banal, de obicei nu are poziții ideologice cu privire la absolut nimic. Platforma social-media a încercat mult timp să se poziționeze ca un bastion al neutralității, o platformă pentru ideile altora, un canal pasiv. Când Swisher l-a provocat pe Zuckerberg cu privire la faptul că le-a permis negaționiștilor de la Sandy Hook să își răspândească mesajul, acesta a spus: „Uite, oricât de detestabil ar putea fi o parte din acest conținut, cred că se reduce la acest principiu de a le da oamenilor o voce.”

Dar o organizație cu atât de multă influență nu trebuie să se opună ideologic societății pentru a face rău. Trebuie doar să nu se mai gândească la oameni, să se simtă confortabil să respingă violența religioasă, discriminarea etnică, discursul de ură, singurătatea, discriminarea pe criterii de vârstă și moartea transmisă în direct ca fiind „probleme de scalare operațională”. Să se gândească la sinucidere ca la un „caz de utilizare” pentru Facebook Live.

În aceste zile, ar putea fi tentant să susținem că Facebook este pe calea cea bună. Declarația de misiune a companiei a fost modificată anul trecut pentru a reduce importanța „conexiunilor”. În loc de „a face lumea deschisă și conectată”, obiectivul său este acum „a aduce lumea mai aproape”. În iulie, Facebook a anunțat că va începe să retragă postările care îndeamnă la violență fizică în unele țări.

Acestea nu sunt nici pe departe suficiente. Noua misiune încă nu reușește să facă ceea ce Arendt spune că trebuie să facă. Aceasta pune în continuare Facebook, platforma, mai presus de oamenii care o folosesc. Apropierea lumii poate însemna facilitarea vânzărilor de prăjituri și a lecturilor biblice; poate însemna, de asemenea, unirea KKK și a skinheads. Declarația de misiune nu are nimic de spus despre diferențele dintre cele două.

Facebook trebuie să învețe să gândească pentru sine. Propriul său ofițer de securitate, Alex Stamos, a spus acest lucru în memoriul său de plecare, de asemenea achiziționat de BuzzFeed. „Trebuie să fim dispuși să alegem taberele atunci când există probleme morale sau umanitare clare”, scrie el. Asta este ceea ce Eichmann nu a făcut niciodată.

Soluția nu este ca Facebook să devină poliția morală a internetului, hotărând dacă fiecare postare, video și fotografie individuală ar trebui să fie permisă sau nu. Cu toate acestea, nu poate cădea înapoi pe linia sa de a fi o platformă neutră, la fel de potrivită atât pentru dragoste, cât și pentru ură. Arendt spunea că realitatea solicită mereu atenția gândurilor noastre. Întotdeauna devenim conștienți de noi fapte despre lume; acestea trebuie luate în considerare și încorporate în viziunea noastră asupra lumii. Dar ea a recunoscut că a da constant curs acestei cereri ar fi epuizant. Diferența față de Eichmann a fost că el nu a cedat niciodată, deoarece gândirea sa era în întregime separată de realitate.

Soluția, deci, este ca Facebook să își schimbe mentalitatea. Până acum, chiar și pașii pozitivi ai Facebook – cum ar fi scoaterea postărilor care incită la violență sau interzicerea temporară a teoreticianului conspiraționistului Alex Jones – nu au venit ca urmare a unei căutări sufletești, ci a unei presiuni publice intense și a consecințelor de PR. Facebook face ceea ce trebuie doar atunci când este forțat să o facă. În schimb, trebuie să fie dispusă să sacrifice obiectivul de conectare și creștere totală atunci când acest obiectiv are un cost uman; să creeze un proces de luare a deciziilor care îi obligă pe liderii Facebook să își verifice optimismul tehnologic instinctiv în raport cu realitățile vieții umane.

În lipsa considerațiilor umane, Facebook va continua să aducă lumii un rău banal și necugetat. Cei 2,5 miliarde de oameni care îl folosesc, ca parte a vieții lor reale, nu vor suporta asta la nesfârșit.

.