I juni 2016 sände Antonio Perkins oavsiktligt sin egen död till världen. Det var en solig dag i Chicago och han delade den på Facebook Live, en plattform för att distribuera video i realtid som släppts bara några månader tidigare.

Videon är lång. Den visar Perkins som gör vardagliga sommarsaker. Står runt på trottoaren. Klagar på värmen. Ungefär sex minuter in i filmen hörs plötsligt skottlossning. Kameran rör sig frenetiskt och faller sedan till marken. Senare samma dag förklarades Perkins död.

Videon har nästan en miljon visningar.

The Ugly

Dagen därpå cirkulerade ett memo med namnet ”The Ugly” internt på Facebook. Författaren är Andrew Bosworth, en av företagets vicepresidenter och centrala beslutsfattare.

”Vi pratar ofta om det goda och det dåliga i vårt arbete”, börjar memot som BuzzFeed fick tillgång till i mars. ”Jag vill prata om det fula”. Det fortsätter:

Vi kopplar samman människor… Kanske kostar det ett liv att utsätta någon för mobbning. Kanske dör någon i en terroristattack som samordnas med våra verktyg. Och ändå kopplar vi samman människor. Den fula sanningen är att vi tror så starkt på att koppla samman människor att allt som gör det möjligt för oss att koppla samman fler människor oftare de facto är bra.

Perkins nämns inte i memot. Det är möjligt att Bosworth inte kände till händelsen. När allt kommer omkring är tragedier i realtid inte så ovanliga på Facebook Live.

Men Perkins livestreamade död är ett utmärkt exempel på ”The Ugly”. Även om hans död är tragisk bryter videon inte mot företagets abstrusa samhällsstandarder, eftersom den inte ”förhärligar våld” eller ”hyllar andras lidande eller förnedring”. Att låta den ligga kvar innebär att fler människor kommer att ansluta sig till Perkins och till Facebook, så videon får ligga kvar. Den har trots allt en miljon visningar.

Beslutet är en av många åtgärder som Facebook nyligen vidtagit och som kan ha lämnat en dålig smak i munnen. Företaget tillät utan att veta det Donald Trumps presidentkampanj att samla in personuppgifter om miljontals amerikaner. Det misslyckades med att uppmärksamma Rysslands försök att påverka valet 2016, underlättade etniskt och religiöst våld i flera länder och tillät annonsörer att rikta in sig på så ädla kategorier av konsumenter som ”judehatare”. För att inte tala om att falska nyheter, konspirationsteorier och uppenbara lögner finns i överflöd på plattformen.

Facebook hade inte för avsikt att något av detta skulle hända. Den ville bara koppla samman människor. Men det finns en röd tråd från Perkins död till religiöst våld i Myanmar och företagets halvhjärtade försök att bekämpa falska nyheter. Facebook är verkligen ondskefullt. Inte med avsikt. På ett banalt sätt.

Under alla Facebooks misstag ligger en stumt oblyghet för riktiga människor. Företagets unika fokus på att ”koppla samman människor” har gjort det möjligt för det att erövra världen och göra det möjligt att skapa ett enormt nätverk av mänskliga relationer, en källa till insikter och ögon som får annonsörer och investerare att dregla.

Men det imperativa kravet på att ”koppla samman människor” saknar den enda ingrediensen som är nödvändig för att vara en god medborgare: Att behandla enskilda människor som okränkbara. För Facebook består världen inte av individer utan av förbindelser mellan dem. De miljarder Facebook-konton tillhör inte ”människor” utan ”användare”, samlingar av datapunkter som är kopplade till andra samlingar av datapunkter i ett enormt socialt nätverk, som kan riktas in på och tjäna pengar med hjälp av datorprogram.

Det finns vissa saker som man inte med gott samvete kan göra mot människor. Med data kan man göra vad man vill.

Livet som en databas

Sedan offentliggörandet av ”The Ugly” har Bosworth tagit avstånd från det argument som framförs i memot. Han säger nu att han bara ville ”ta upp frågor till ytan” och att han, ganska otroligt nog, ”inte höll med om det ens när han skrev det”. Mark Zuckerberg tillade att även han inte höll med om memot och sade: ”Vi har aldrig trott att ändamålet helgar medlen.”

Tidigare och senare har dock Facebooks val avslöjat att det i nästan alla fall anses vara en faktisk nytta att koppla samman människor. Det är därför Zuckerberg i en intervju med Recode nyligen försvarade beslutet att tillåta inlägg från förnekare av både Sandy Hook-skjutningen och Förintelsen genom att säga att de bara ”får saker och ting fel”.

Med Facebook ”förvandlas livet till en databas”, skriver teknikern Jaron Lanier i sin bok You Are Not a Gadget från 2010. Kulturen i Silicon Valley har kommit att acceptera som säkert, skriver Lanier, att ”hela verkligheten, inklusive människor, är ett enda stort informationssystem”. Han menar att denna säkerhet ger teknikvärldens mäktigaste personer ”en ny sorts ödesbestämmelse”. Den ger dem ”ett uppdrag att utföra”.

Att acceptera detta uppdrag är bekvämt för Facebook. Det gör skalning så snabbt som möjligt till ett moraliskt krav. Enligt detta synsätt är ju större Facebook är, desto bättre är företaget för världen. Detta råkar också vara sättet för företaget att tjäna mest pengar.

Problemet, menar Lanier, är att det inte finns något speciellt med människor i detta informationssystem. Varje datapunkt behandlas lika, oavsett hur människor upplever den. ”Judehatare” är lika mycket en annonskategori som ”mammor som joggar”. Det är bara data. Om grupp A har en större närvaro på Facebook än grupp B, så är det så, även om grupp A försöker förnedra eller organisera våld mot B:arna. Naturligtvis är verkligheten att människor är alla olika, och kan inte reduceras till data.

Varsågod och säg det till den grupp vita pojkar från Ivy League som startade Facebook som en het-eller-inte-webbplats och uppfann en korg med ansiktsigenkänning.

Vad det innebär att tänka

Facebooks misstag är inte nytt. I allmänhet blir det illa när massiva, mäktiga organisationer misslyckas med att ta hänsyn till andras mänsklighet. Vi ska prata om nazister nu.

Den bästa analysen av Facebooks intellektuella misslyckande kommer från den politiska teoretikern Hannah Arendt i hennes bok Eichmann in Jerusalem. Boken är en redogörelse för rättegången mot Adolf Eichmann 1961. Eichmann var en nazistisk byråkrat på mellannivå och huvudansvarig för logistiken för tvångstransporter av judar till koncentrationsläger under andra världskriget.

Eichmann tillfångatogs i Argentina och ställdes inför en israelisk domstol för att förklara sina brott. Alla närvarande förväntade sig att han skulle vara en sadistisk galning, perverst besatt av att förgöra det judiska folket.

Istället visade han sig vara en pajas och en karriärist. Han hävdade att han hade glömt detaljerna i viktiga politiska händelser samtidigt som han tydligt kom ihåg vem av sina kamrater som fick en befordran som han eftertraktade. Enligt Arendt förklarade en israelisk domstolspsykiater som undersökte Eichmann att han var ”en helt normal man, mer normal i alla fall än vad jag är efter att ha undersökt honom.”

Frågan som hemsökte Arendt var hur en sådan ”normal” man hade kunnat spela en viktig roll i ett massmord. Eichmann skickade medvetet tusentals judar till den säkra döden.

Arendt drar slutsatsen att det varken var sadism eller hat som drev Eichmann att begå dessa historiska brott. Det var en oförmåga att tänka på andra människor som människor överhuvudtaget.

En ”avgörande” brist i hans karaktär, skriver Arendt, var hans ”oförmåga att någonsin betrakta något ur den andres synvinkel”.

Hur kunde det komma sig att Eichmann, och hundratals andra nazister, misslyckades med att ha en grundläggande förståelse för det mänskliga livets okränkbarhet? Svaret ligger i Eichmanns tro på ett storslaget, historiskt projekt för att upprätta en rasligt ren ”utopi”. Detta projekt översteg människoliv och gjorde dem sekundära. Ett liv, eller en miljon liv, var små priser att betala för löftet om att åstadkomma ett ”tusenårigt rike”.

Eichmanns oförmåga att tänka på andras lidande berodde på att han internaliserade den suveräna betydelsen av ett storslaget projekt, konstaterar Arendt. Eftersom projektet måste slutföras oavsett vad det kostar är allt som främjar det de facto bra. Denna logik kan förvränga de sociala normer som vi tar för givna, och till och med vända något så grundläggande som ”mord är fel” till ”mord på dem som står i vägen för projektet är rätt”

En sådan vansinnig logik håller inte ens för den minsta granskning. Men Eichmann, liksom de som fanns runt omkring honom, skyddade sig från verkligheten i sina handlingar med hjälp av känslolösa abstraktioner. ”Klichéer, standardfraser, följsamhet till konventionella, standardiserade uttrycks- och uppförandekoder har den socialt erkända funktionen att skydda oss mot verkligheten”, skrev Arendt i en essä med titeln ”Thinking”, som publicerades i The New Yorker 15 år efter Eichmann-boken. Världens händelser och fakta bör alltid trycka på vår ”tänkande uppmärksamhet”, skriver hon, och tvinga oss att omvärdera våra beteenden och övertygelser.

”Eichmann skilde sig från resten av oss”, avslutar hon, endast genom att det inte fanns något samband mellan verkligheten och hans tankeprocess. I stället följde han blint den förvridna moral som hade blivit konventionell i hans kretsar. Och miljoner dog på grund av det.

Detta för oss tillbaka till Facebook. Det har sitt eget stora projekt – att förvandla den mänskliga världen till ett enda stort informationssystem. Detta är, det säger sig självt, inte alls lika fruktansvärt som det tusenåriga rikets projekt. Men det grundläggande problemet är detsamma: en oförmåga att se saker och ting ur den andres synvinkel, ett avstånd mellan den mänskliga verkligheten och det stora projektet.

Det historiska projektets nedåtgående båge

Arendt hjälper oss att se hur alla Facebooks olika felsteg hänger ihop. Här är ett exempel som, även om det är litet, illustrerar poängen.

Förra året släppte Mark Zuckerberg en video där han visade upp Spaces, Facebooks nya plattform för virtuell verklighet. I videon representeras han av en glänsande, storhuvad, smilande, datorgenererad version av sig själv.

Denna Zuck-karikatyr syns först utomhus, på taket till Facebooks huvudkontor. Han tar sedan fram något slags klot. Orbben, säger han, innehåller en 360-video av Puerto Rico som togs strax efter orkanen Marias förödelse. Detta klot placeras framför kameran. Plötsligt ”teleporterar” Zuck – tillsammans med en avatar av Rachel Franklin, chef för social virtuell verklighet på Facebook – in i scenen. Dessa två figurer ses nu ”köra en lastbil” genom förstörda kvarter och ”stå” i meterhögt översvämningsvatten.

Oh, de glömde att nämna hur häftig den här tekniken är, så de stannar till för att ge varandra en high-five.

”Det känns som om vi verkligen är här i Puerto Rico”, säger digi-Zuck (kom ihåg att det här är i undermålig CG). De hoppar runt till olika katastrofscener i ett par minuter. ”Okej, vill du teleportera dig någon annanstans?” Ytterligare ett klot och de är förflyttade tillbaka till Kalifornien.

För de av oss som står utanför Facebooks stora projekt var den här videon uppenbarligen en fruktansvärd idé. Nyhetsbyråerna förlöjligade den som tondöv och smaklös. Trots detta tog sig videon igenom Facebooks många lager av godkännande. Det faktum att folk på Facebook gav den tummen upp när videons problem var så uppenbara för utomstående tittare är en indikation på i vilken utsträckning Facebooks värdesystem har avvikit från resten av samhället – ett resultat av dess kortsiktiga fokus på att koppla ihop alla på alla sätt som är möjligt, oavsett konsekvenserna.

Med detta i åtanke börjar den röda tråden som löper genom Facebooks många katastrofer i fråga om PR att bli tydlig. Facebooks fortsatta avfärdande av aktivister från Sri Lanka och Myanmar som vädjade till Facebook om att göra något åt uppviglingar till våld. Facebook vägrar att ta bort material som kallar Sandy Hook-massakern för en ”bluff” och hotar föräldrarna till mördade barn. Deras vilseledande språk om integritet och datainsamling.

Facebook verkar vara blind för möjligheten att det kan användas för att skada någon. I Zuckerbergs senaste intervju med Kara Swisher från Recode nämner hon ett möte med produktchefer för Facebook Live. De verkade ”genuint förvånade”, sa hon, när hon föreslog att det skulle kunna användas för att sända mord, mobbning och självmord. ”De verkade mindre inriktade på det än på det positiva i vad som skulle kunna hända på plattformen”, säger hon.

De värsta scenarierna inträffade, vilket videon med Antonio Perkins grafiskt visar. Inte för att Facebook ville att någon skulle skadas. Allt för att Facebook vid någon tidpunkt skyddade sig från den mänskliga verkligheten med hjälp av datorprogrammeringsjargong, klichéer om yttrandefrihet och fraser där man hävdar det ”positiva” i en teknikutopi som, om den förverkligades, skulle ha den trevliga bieffekten att den genererade massor av pengar.

Facebook har fallit offer för Arendts grundläggande fel.

Tänk själv

Zuckerberg antyder faktiskt denna tolkning av sitt företags misslyckanden i ett manifest på 6 000 ord som han skrev i februari förra året om Facebooks framtida ambitioner. Efter cirka 4 500 ord erkänner han att Facebook har gjort misstag och säger att han ”ofta håller med” kritikerna. (Men han tillägger: ”Dessa misstag beror nästan aldrig på att vi har ideologiska ståndpunkter som står i strid med samhället, utan är i stället operativa skalningsproblem.”

Det är sant att Facebook sällan har ”ideologiska ståndpunkter som står i strid med samhället”. Eftersom Facebook är banalt saknar Facebook typiskt sett ideologiska ståndpunkter om någonting överhuvudtaget. Plattformen för sociala medier har länge försökt positionera sig som en bastion av neutralitet, en plattform för andras idéer, en passiv kanal. När Swisher utmanade Zuckerberg om att tillåta Sandy Hook-förnekare att sprida sitt budskap sa han: ”Titta, hur avskyvärt en del av det här innehållet än kan vara så tror jag att det handlar om den här principen att ge människor en röst.”

Men en organisation med så mycket inflytande behöver inte vara ideologiskt motsatt till samhället för att orsaka skada. Den behöver bara sluta tänka på människor, för att känna sig bekväm med att avfärda religiöst våld, etnisk diskriminering, hatpropaganda, ensamhet, åldersdiskriminering och livestreamad död som ”operativa skalningsfrågor”. Att tänka på självmord som ett ”användningsfall” för Facebook Live.

I dessa dagar kan det vara frestande att hävda att Facebook är på rätt väg. Företagets uppdragsbeskrivning ändrades förra året för att minska betydelsen av ”anslutningar”. Istället för att ”göra världen öppen och uppkopplad” är dess mål nu att ”föra världen närmare varandra”. I juli meddelade Facebook att man kommer att börja ta bort inlägg som uppmanar till fysiskt våld i vissa länder.

Det är långt ifrån tillräckligt. Det nya uppdraget misslyckas fortfarande med att göra det som Arendt säger att det måste göra. Facebook, plattformen, står fortfarande över människorna som använder den. Att föra världen närmare varandra kan innebära att underlätta bakförsäljning och bibelläsning, men det kan också innebära att förena KKK och skinheads. Uppdragsbeskrivningen har inget att säga om skillnaderna mellan de två.

Facebook måste lära sig att tänka själv. Dess egen säkerhetsansvarige, Alex Stamos, sa detta i sitt avgångsmemo, som också förvärvats av BuzzFeed. ”Vi måste vara villiga att välja sida när det finns tydliga moraliska eller humanitära frågor”, skriver han. Det är vad Eichmann aldrig gjorde.

Lösningen är inte att Facebook blir internets moralpolis och bestämmer om varje enskilt inlägg, video och foto ska tillåtas. Ändå kan Facebook inte falla tillbaka på sin linje att vara en neutral plattform, lika lämpad för både kärlek och hat. Arendt sade att verkligheten alltid kräver våra tankars uppmärksamhet. Vi blir alltid medvetna om nya fakta om världen; dessa måste beaktas och införlivas i vår världsbild. Men hon erkände att det skulle vara utmattande att ständigt ge efter för detta krav. Skillnaden med Eichmann var att han aldrig gav efter, eftersom hans tänkande var helt separerat från verkligheten.

Lösningen är alltså att Facebook ändrar sitt tankesätt. Hittills har till och med Facebooks positiva steg – som att ta ner inlägg som uppmanar till våld eller tillfälligt förbjuda konspirationsteoretikern Alex Jones – inte kommit som ett resultat av självrannsakan, utan av intensivt offentligt tryck och PR-utfall. Facebook gör bara det rätta när det tvingas till det. Istället måste man vara villig att offra målet om total uppkoppling och tillväxt när detta mål har en mänsklig kostnad; att skapa en beslutsprocess som kräver att Facebooks ledare kontrollerar sin instinktiva teknikoptimism mot människolivets realiteter.

Om det inte finns mänskliga överväganden kommer Facebook att fortsätta att tillföra tanklös, banal skada i världen. De 2,5 miljarder människor som använder Facebook, som en del av deras verkliga liv, kommer inte att finna sig i det för alltid.