Kesäkuussa 2016 Antonio Perkins lähetti tahattomasti oman kuolemansa maailmalle. Oli aurinkoinen päivä Chicagossa, ja hän jakoi sen Facebook Livessä, videon reaaliaikaiseen levittämiseen tarkoitetussa alustassa, joka oli julkaistu vain muutamaa kuukautta aiemmin.

Video on pitkä. Siinä Perkins tekee arkisia kesäisiä asioita. Seisoskelee jalkakäytävällä. Valittamassa kuumuudesta. Noin kuuden minuutin kohdalla yhtäkkiä kuullaan laukauksia. Kamera liikkuu kuumeisesti ja putoaa sitten maahan. Myöhemmin samana päivänä Perkins julistettiin kuolleeksi.

Videolla on lähes miljoona katselukertaa.

The Ugly

Seuraavana päivänä Facebookissa levitettiin sisäisesti muistio nimeltä ”The Ugly”. Sen kirjoittaja, Andrew Bosworth, yksi yhtiön varatoimitusjohtajista ja keskeisistä päätöksentekijöistä.

”Puhumme usein työmme hyvistä ja huonoista puolista”, BuzzFeedin maaliskuussa käsiinsä saama muistio alkaa. ”Haluan puhua rumasta.” Se jatkuu:

Me yhdistämme ihmisiä…Ehkä se maksaa hengen paljastamalla jonkun kiusaajille. Ehkä joku kuolee työkaluillamme koordinoidussa terrori-iskussa. Ja silti me yhdistämme ihmisiä. Ruma totuus on, että uskomme ihmisten yhdistämiseen niin syvästi, että kaikki, mikä antaa meille mahdollisuuden yhdistää enemmän ihmisiä useammin, on de facto hyvä asia.

Muistiossa ei mainita Perkinsiä. On mahdollista, että Bosworth ei ollut tietoinen tapauksesta. Loppujen lopuksi reaaliaikaiset tragediat eivät ole kovin harvinaisia Facebook Live -palvelussa.

Mutta Perkinsin live-streamattu kuolema on malliesimerkki ”Rumasta”. Vaikka hänen kuolemansa on traaginen, video ei riko yhtiön abstrakteja yhteisöstandardeja, sillä se ei ”ihannoi väkivaltaa” tai ”juhli muiden kärsimystä tai nöyryytystä”. Ja sen jättäminen näkyviin tarkoittaa, että useammat ihmiset ottavat yhteyttä Perkinsiin ja Facebookiin, joten video pysyy. Onhan sillä miljoona katselukertaa.

Päätös on yksi monista viimeaikaisista Facebookin toimista, jotka ovat saattaneet jättää pahan maun suuhun. Yhtiö antoi tietämättään Donald Trumpin presidentinvaalikampanjan kerätä miljoonien amerikkalaisten henkilötietoja. Se jätti huomaamatta Venäjän yritykset vaikuttaa vuoden 2016 vaaleihin, helpotti etnistä ja uskonnollista väkivaltaa useissa maissa ja salli mainostajien kohdistaa mainoksia sellaisiin jaloihin kuluttajaryhmiin kuin ”juutalaisvihaajat”. Puhumattakaan siitä, että väärennettyjä uutisia, salaliittoteorioita ja räikeitä valheita on alustalla runsaasti.

Facebook ei tarkoittanut, että mitään näistä tapahtuisi. Se halusi vain yhdistää ihmisiä. Perkinsin kuolemasta kulkee kuitenkin punainen lanka Myanmarin uskonnolliseen väkivaltaan ja yhtiön puolivillaisiin yrityksiin torjua valeuutisia. Facebook on todella paha. Ei tarkoituksella. Banaalilla tavalla.

Kaikkien Facebookin mokien taustalla on kömpelö tietämättömyys todellisista ihmisistä. Yhtiön ainutlaatuinen keskittyminen ”ihmisten yhdistämiseen” on sallinut sen valloittaa maailman, mahdollistanut valtavan ihmissuhdeverkoston luomisen, oivallusten ja silmäpallojen lähteen, joka saa mainostajat ja sijoittajat kuolaamaan.

Mutta ”ihmisten yhdistämisen” välttämättömyydestä puuttuu yksi ainesosa, joka on olennainen, jotta voisi olla hyvä kansalainen: Yksittäisten ihmisten kohtelu pyhinä ja koskemattomina. Facebookin mielestä maailma ei koostu yksilöistä vaan niiden välisistä yhteyksistä. Miljardit Facebook-tilit eivät kuulu ”ihmisille” vaan ”käyttäjille”, datapisteiden kokoelmille, jotka ovat yhteydessä toisiin datapisteiden kokoelmiin valtavassa sosiaalisessa verkostossa, johon tietokoneohjelmat voivat kohdistaa tietoja ja käyttää niitä rahana.

On tiettyjä asioita, joita ei hyvällä omallatunnolla tehdä ihmisille. Datalle voi tehdä mitä vain.

Elämä tietokantana

”The Ugly” -kirjan julkistamisen jälkeen Bosworth on ottanut etäisyyttä muistion väitteeseen. Hän sanoo nyt, että hän halusi vain ”tuoda asioita pintaan” ja että hän, melko uskomatonta kyllä, ”ei ollut samaa mieltä siitä edes kirjoittaessaan sitä”. Mark Zuckerberg lisäsi, että hänkin oli vahvasti eri mieltä muistiosta: ”Emme ole koskaan uskoneet, että tarkoitus pyhittää keinot.”

Kerta toisensa jälkeen Facebookin valinnat ovat kuitenkin paljastaneet, että ihmisten yhdistämistä pidetään de facto hyvänä asiana lähes kaikissa tapauksissa. Siksi Zuckerberg puolusteli Recoden äskettäisessä haastattelussa päätöstä sallia Sandy Hookin ammuskelun ja holokaustin kieltäjien viestit sanomalla, että he vain ”ymmärtävät asioita väärin.”

Facebookin avulla ”elämästä tehdään tietokanta”, kirjoittaa teknologi Jaron Lanier vuonna 2010 ilmestyneessä kirjassaan You Are Not a Gadget. Piilaakson kulttuuri on tullut hyväksymään varmana, Lanier kirjoittaa, että ”koko todellisuus, ihmiset mukaan lukien, on yksi suuri tietojärjestelmä”. Hänen mukaansa tämä varmuus antaa teknologiamaailman vaikutusvaltaisimmille ihmisille ”uudenlaisen manifestin kohtalon”. Se antaa heille ”tehtävän suoritettavaksi.”

Tämän tehtävän hyväksyminen on kätevää Facebookille. Se tekee mahdollisimman nopeasta skaalautumisesta moraalisen välttämättömyyden. Tämän näkemyksen mukaan mitä suurempi Facebook on, sitä parempi yritys on maailman kannalta. Näin se sattuu myös tienaamaan eniten rahaa.

Ongelma on Lanierin mukaan se, että tässä tietojärjestelmässä ihmisessä ei ole mitään erityistä. Jokaista datapistettä kohdellaan tasavertaisesti riippumatta siitä, miten ihminen sen kokee. ”Juutalaisvihaajat” on yhtä lailla mainoskategoria kuin ”lenkkeilevät äidit”. Kaikki on dataa. Jos ryhmä A on Facebookissa enemmän esillä kuin ryhmä B, niin olkoon, vaikka ryhmä A yrittäisi halventaa tai järjestää väkivaltaa B:tä vastaan. Todellisuus on tietysti se, että ihmiset ovat kaikki erilaisia, eikä heitä voi pelkistää dataksi.

Kokeile kertoa tämä sille ryhmälle valkoisia Ivy League -poikia, jotka perustivat Facebookin hot-or-not -sivustoksi ja keksivät kasvontunnistuskärryn.

Mitä tarkoittaa ajatella

Facebookin moka ei ole uusi. Yleensä asiat muuttuvat rumiksi, kun massiiviset, vaikutusvaltaiset organisaatiot eivät ota huomioon toisten ihmisten inhimillisyyttä. Puhumme nyt natseista.

Paras analyysi Facebookin älyllisestä epäonnistumisesta tulee poliittiselta teoreetikolta Hannah Arendtilta hänen kirjassaan Eichmann Jerusalemissa. Kirja on kertomus Adolf Eichmannin oikeudenkäynnistä vuonna 1961. Keskitason natsibyrokraatti Eichmann oli toisen maailmansodan aikana päävastuussa juutalaisten pakkokuljetusten logistiikasta keskitysleireille.

Eichmann otettiin kiinni Argentiinassa ja tuotiin israelilaisen tuomioistuimen eteen selittämään rikoksiaan. Kaikki läsnäolijat odottivat hänen olevan sadistinen hullu, jolla oli perverssi pakkomielle juutalaisten tuhoamisesta.

Sen sijaan hän paljastui pelleksi ja uranuurtajaksi. Hän väitti unohtaneensa tärkeiden poliittisten tapahtumien yksityiskohdat, mutta muisti selvästi, kuka hänen ikätovereistaan sai himoitsemansa ylennyksen. Arendtin mukaan eräs Eichmannia tutkinut israelilainen oikeuspsykiatri julisti Eichmannin ”täysin normaaliksi mieheksi, joka tapauksessa normaalimmaksi kuin minä olen häntä tutkittuani.”

Arendtia ahdisti kysymys, miten tällainen ”normaali” mies oli voinut olla merkittävässä roolissa joukkomurhissa. Eichmann lähetti tietoisesti tuhansia juutalaisia varmaan kuolemaan.

Arendt päätyy siihen, ettei ollut sadismi eikä viha, joka ajoi Eichmannin tekemään nämä historialliset rikokset. Kyse oli kyvyttömyydestä ajatella muita ihmisiä ylipäätään ihmisinä.

Arendt kirjoittaa, että hänen luonteensa ”ratkaiseva” puute oli hänen ”kyvyttömyytensä katsoa koskaan mitään toisen ihmisen näkökulmasta.”

Miten Eichmannilla ja sadoilla muilla natseilla ei ollut perustavaa laatua olevaa ymmärrystä ihmiselämän pyhyydestä? Vastaus piilee Eichmannin uskossa suureen, historialliseen projektiin luoda rodullisesti puhdas ”utopia”. Tämä hanke ylitti ihmiselämät ja teki niistä toissijaisia. Yksi henki tai miljoona henkeä olivat pieni hinta lupauksesta saada aikaan ”tuhatvuotinen valtakunta.”

Eichmannin kyvyttömyys ajatella toisten kärsimystä johtui siitä, että hän oli sisäistänyt suuren projektin ylimmän merkityksen, Arendt päättelee. Koska hanke on saatava päätökseen hinnalla millä hyvänsä, kaikki, mikä edistää sitä, on de facto hyvää. Tämä logiikka voi vääristää itsestäänselvyyksinä pitämiämme sosiaalisia normeja, jopa kääntää niinkin perustavanlaatuisen asian kuin ”murha on väärin” muotoon ”projektin tiellä olevien murhaaminen on oikein.”

Tällainen dementoitunut logiikka ei kestä pienintäkään tarkastelua. Mutta Eichmann, kuten muutkin hänen ympärillään, suojasi itseään tekojensa todellisuudelta käyttämällä tunteettomia abstraktioita. ”Kliseillä, vakiolausekkeilla, konventionaalisten, standardoitujen ilmaisu- ja käyttäytymissääntöjen noudattamisella on yhteiskunnallisesti tunnustettu tehtävä suojella meitä todellisuudelta”, Arendt kirjoitti esseessään ”Thinking”, joka julkaistiin The New Yorker -lehdessä 15 vuotta Eichmann-kirjan ilmestymisen jälkeen. Maailman tapahtumien ja tosiasioiden pitäisi aina painostaa ”ajattelevaa huomiotamme”, hän kirjoittaa, pakottaen meidät arvioimaan uudelleen käyttäytymistämme ja uskomuksiamme.

”Eichmann erosi meistä muista”, hän päättelee, vain siinä, että todellisuuden ja hänen ajatteluprosessinsa välillä ei ollut yhteyttä. Sen sijaan hän noudatti sokeasti kieroutunutta moraalia, josta oli tullut hänen piireissään tavanomainen. Ja miljoonat kuolivat sen takia.

Tästä pääsemme takaisin Facebookiin. Sillä on oma suuri hankkeensa – muuttaa ihmisten maailma yhdeksi suureksi tietojärjestelmäksi. Se ei ole, sanomattakin on selvää, läheskään yhtä kauhea kuin tuhatvuotisen valtakunnan projekti. Mutta perusongelma on sama: kyvyttömyys tarkastella asioita toisen näkökulmasta, inhimillisen todellisuuden ja suuren projektin välinen epäsuhta.

Historiallisen projektin alaspäin suuntautuva kaari

Arendt auttaa meitä näkemään, miten kaikki Facebookin erilaiset virheaskeleet liittyvät toisiinsa. Tässä on esimerkki, joka on pieni, mutta havainnollistaa asiaa.

Viime vuonna Mark Zuckerberg julkaisi videon, jossa hän esitteli Spacesia, Facebookin uutta virtuaalitodellisuusalustaa. Siinä häntä esittää kiiltävä, isopäinen, hymyilevä, tietokoneella luotu versio itsestään.

Tämä Zuckin karikatyyri nähdään ensin ulkona, Facebookin pääkonttorin katolla. Sitten hän vetää esiin jonkinlaisen pallon. Pallo sisältää hänen mukaansa 360-videon Puerto Ricosta, joka on otettu pian hurrikaani Marian tuhojen jälkeen. Tämä pallo asetetaan kameran eteen. Yhtäkkiä Zuck – yhdessä Facebookin sosiaalisen virtuaalitodellisuuden johtajan Rachel Franklinin avatarin kanssa – ”teleporttaa” paikalle. Nämä kaksi hahmoa nähdään nyt ”ajamassa kuorma-autolla” raunioituneiden asuinalueiden läpi ja ”seisomassa” metrin tulvavedessä.

Oh, he unohtivat mainita, kuinka hienoa tämä teknologia on, joten he pysähtyvät ja lyövät kättä päälle.

”Tuntuu kuin olisimme oikeasti täällä Puerto Ricossa”, digi-Zuck sanoo (muistakaa, että tämä kaikki on ala-arvoisessa CG:ssä). He hyppivät eri katastrofikohtauksiin parin minuutin ajan. ”Hyvä on, haluatko teleportata jonnekin muualle?” Vielä yksi pallo, ja heidät viedään pois, takaisin Kaliforniaan.

Meille, jotka eivät ole mukana Facebookin suurhankkeessa, tämä video oli ilmeisen huono idea. Uutistoimistot pilkkasivat sitä sävykkääksi ja mauttomaksi. Siitä huolimatta video selvitti tiensä Facebookin monien hyväksymiskerrosten läpi. Se, että Facebookissa annettiin peukut pystyyn, vaikka videon ongelmat olivat niin selviä ulkopuolisille katsojille, on osoitus siitä, missä määrin Facebookin arvomaailma on erkaantunut muun yhteiskunnan arvomaailmasta – se on seurausta sen lyhytnäköisestä keskittymisestä siihen, että kaikki pyritään yhdistämään toisiinsa kaikin mahdollisin keinoin seurauksista piittaamatta.

Näin ollen Facebookin lukuisat PR-katastrofit alkavat hahmottua. Se hylkäsi jatkuvasti Sri Lankan ja Myanmarin aktivistit, jotka pyysivät Facebookia tekemään jotain väkivaltaan yllyttämiselle. Facebook kieltäytyy poistamasta materiaalia, jossa Sandy Hookin verilöylyä kutsutaan ”huijaukseksi” ja jossa uhkaillaan murhattujen lasten vanhempia. Sen harhaanjohtava kielenkäyttö yksityisyyden suojasta ja tiedonkeruukäytännöistä.

Facebook näyttää olevan sokea sille mahdollisuudelle, että sitä voidaan käyttää pahaan. Zuckerbergin tuoreessa haastattelussa Recoden Kara Swisherin kanssa hän mainitsee tapaavansa Facebook Live -tuotepäälliköitä. He vaikuttivat hänen mukaansa ”aidosti yllättyneiltä”, kun hän ehdotti, että sitä voitaisiin käyttää murhien, kiusaamisen ja itsemurhien lähettämiseen. ”He eivät näyttäneet olevan niinkään kiinnostuneita siitä kuin siitä, mitä alustalla voisi tapahtua”, hän sanoo.

Pahimmat skenaariot todella toteutuivat, kuten Antonio Perkinsin video havainnollisesti osoittaa. Ei siksi, että Facebook olisi halunnut kenenkään loukkaantuvan. Kaikki siksi, että jossain vaiheessa se suojeli itseään inhimilliseltä todellisuudelta tietokoneohjelmointijargonilla, sananvapautta koskevilla kliseillä ja varastolauseilla, joissa vakuutetaan tekno-utopian ”positiivisuutta”, joka toteutuessaan tuottaisi mukavana sivuvaikutuksena venelasteittain rahaa.

Facebook on joutunut Arendtin perustavanlaatuisen virheen uhriksi.

Ajattele itse

Zuckerberg itse asiassa vihjaa tähän lukutapaan yrityksensä epäonnistumisista 6 000 sanan manifestissa, jonka hän kirjoitti viime helmikuussa Facebookin tulevaisuuden tavoitteista. Noin 4 500 sanan kohdalla hän myöntää, että Facebook on tehnyt virheitä, ja sanoo olevansa ”usein samaa mieltä” arvostelijoiden kanssa. (Hän ei sano, mistä nimenomaan.) Mutta hän lisää: ”Nämä virheet eivät lähes koskaan johdu siitä, että meillä on ideologisia kantoja, jotka ovat ristiriidassa yhteisön kanssa, vaan ne ovat toiminnallisia skaalautumisongelmia.”

On totta, että Facebookilla on harvoin ”ideologisia kantoja, jotka ovat ristiriidassa yhteisön kanssa”. Koska Facebook on banaali, sillä ei tyypillisesti ole ideologisia kantoja yhtään mistään. Sosiaalisen median alusta on pitkään yrittänyt asemoida itsensä puolueettomuuden linnakkeeksi, toisten ihmisten ajatusten alustaksi, passiiviseksi kanavaksi. Kun Swisher haastoi Zuckerbergin siitä, että hän sallii Sandy Hookin kieltäjien levittää sanomaansa, Zuckerberg sanoi: ”Kuule, niin vastenmielistä kuin osa tästä sisällöstä voikin olla, uskon, että kyse on periaatteesta, jonka mukaan ihmisille on annettava ääni.”

Mutta organisaation, jolla on näin paljon vaikutusvaltaa, ei tarvitse olla ideologisesti yhteiskunnan vastainen aiheuttaakseen vahinkoa. Sen tarvitsee vain lakata ajattelemasta ihmisiä, tunteakseen olonsa mukavaksi hylätä uskonnollinen väkivalta, etninen syrjintä, vihapuhe, yksinäisyys, ikäsyrjintä ja suorana lähetettävä kuolema ”toiminnallisina skaalaongelmina”. Ajatella itsemurhaa Facebook Liven ”käyttötapauksena”.

Tänä päivänä voi olla houkuttelevaa väittää, että Facebook on oikealla tiellä. Yhtiön toiminta-ajatusta muutettiin viime vuonna ”yhteyksien” merkityksen vähentämiseksi. Sen sijaan, että ”teemme maailmasta avoimen ja yhdistetyn”, sen tavoitteena on nyt ”tuoda maailma lähemmäs toisiaan”. Heinäkuussa Facebook ilmoitti, että se alkaa poistaa viestejä, joissa kehotetaan fyysiseen väkivaltaan joissakin maissa.

Se ei riitä läheskään. Uusi tehtävä ei edelleenkään tee sitä, mitä Arendtin mukaan pitäisi. Se asettaa Facebookin, alustan, edelleen sitä käyttävien ihmisten yläpuolelle. Maailman tuominen lähemmäksi toisiaan voi tarkoittaa leivonnaismyyntien ja raamatunlukuhetkien helpottamista; se voi myös tarkoittaa KKK:n ja skinheadien yhdistämistä. Toiminta-ajatuksessa ei sanota mitään näiden kahden välisestä erosta.

Facebookin on opittava ajattelemaan itse. Sen oma turvallisuuspäällikkö Alex Stamos sanoi saman lähtevässä muistiossaan, jonka myös BuzzFeed sai haltuunsa. ”Meidän on oltava valmiita valitsemaan puolemme, kun on kyse selkeistä moraalisista tai humanitaarisista kysymyksistä”, hän kirjoittaa. Tätä Eichmann ei koskaan tehnyt.

Ratkaisu ei ole se, että Facebookista tulee internetin moraalipoliisi, joka päättää, pitäisikö jokainen yksittäinen postaus, video ja kuva sallia. Se ei kuitenkaan voi turvautua linjaansa olla neutraali alusta, joka soveltuu yhtä hyvin sekä rakkaudelle että vihalle. Arendt sanoi, että todellisuus vaatii aina ajatustemme huomiota. Saamme aina uusia tosiasioita maailmasta, ja ne on otettava huomioon ja sisällytettävä maailmankuvaamme. Mutta hän myönsi, että tälle vaatimukselle jatkuva antautuminen olisi uuvuttavaa. Erona Eichmanniin oli se, että hän ei koskaan antanut periksi, koska hänen ajattelunsa oli täysin irrallaan todellisuudesta.

Ratkaisu on siis se, että Facebook muuttaa ajattelutapaansa. Tähän mennessä jopa Facebookin myönteiset askeleet – kuten väkivaltaan yllyttävien postausten poistaminen tai salaliittoteoreetikko Alex Jonesin tilapäinen kieltäminen – eivät ole tulleet sielunmaiseman tuloksena vaan voimakkaan julkisen painostuksen ja PR-haittojen seurauksena. Facebook tekee oikein vain silloin, kun sen on pakko. Sen sijaan sen on oltava valmis uhraamaan täydellisen yhteenkuuluvuuden ja kasvun tavoite silloin, kun sillä on inhimillinen hinta; luoda päätöksentekoprosessi, joka vaatii Facebookin johtajia tarkistamaan vaistomaisen teknologisen optimisminsa ihmiselämän realiteetteja vasten.

Ilman inhimillisiä näkökohtia Facebook jatkaa ajattelematonta, banaalia vahinkoa maailmalle. Ne 2,5 miljardia ihmistä, jotka käyttävät sitä osana todellista elämäänsä, eivät siedä sitä ikuisesti.