Stephen Hawking har et sidste budskab til menneskeheden: Hvis robotter ikke får os, vil klimaændringerne få os.

Hawking, der døde i en alder af 76 år af en degenerativ neurologisk sygdom tidligere på året, giver sine sidste tanker i en posthumt udgivet bog med titlen Brief Answers To The Big Questions, som udkommer tirsdag. Det er et budskab, der er værd at lytte til fra en mand, der nok er den mest anerkendte videnskabsmand siden Einstein, og som er bedst kendt for sin opdagelse af, hvordan sorte huller fungerer. Hawkings bog A Brief History of Time blev solgt i mere end 10 millioner eksemplarer og behandlede så store spørgsmål som “Hvordan begyndte universet?” og “Hvad vil der ske, når det slutter?” i et sprog, der er enkelt nok til den almindelige læser.

I et uddrag, der blev offentliggjort i Times of London i weekenden, er han sjov og optimistisk, selv om han advarer os om, at kunstig intelligens sandsynligvis vil overliste os, at de rige vil udvikle sig til en overmenneskelig art, og at planeten styrter mod total ubeboelighed.

Hawkings bog er i sidste ende en dom over menneskehedens fremtid. Ved første øjekast er dommen, at vi er dødsdømt. Men hvis man graver dybere, er der også noget andet her, nemlig en tro på, at menneskelig visdom og innovation vil forhindre vores egen undergang, selv når vi synes opsat på at skabe den.

Robotterne kommer måske efter os

Hawkings største advarsel handler om fremkomsten af kunstig intelligens: Det vil enten være det bedste, der nogensinde er sket for os, eller det vil være det værste, der nogensinde er sket for os. Hvis vi ikke er forsigtige, kan det meget vel blive det sidste.

Kunstig intelligens rummer store muligheder for menneskeheden og omfatter alt fra Googles algoritmer til selvkørende biler og software til ansigtsgenkendelse. Den AI, vi har i dag, er dog stadig på et primitivt stadie. Eksperter er bekymrede for, hvad der vil ske, når denne intelligens overhaler os. Eller som Hawking udtrykker det: “Mens den kortsigtede virkning af AI afhænger af, hvem der kontrollerer den, afhænger den langsigtede virkning af, om den overhovedet kan kontrolleres.”

Dette lyder måske som science fiction, men Hawking siger, at det ville være en fejl at afvise det som sådan “og potentielt vores værste fejltagelse nogensinde.”

Sammenlignet med robotter er vi mennesker temmelig klodsede. Begrænset af det langsomme udviklingstempo tager det os generationer at iterere. Robotter kan derimod forbedre deres eget design meget hurtigere, og snart vil de sandsynligvis være i stand til at gøre det uden vores hjælp. Hawking siger, at dette vil skabe en “intelligenseksplosion”, hvor maskinerne kan overgå vores intelligens “mere end vores overgår sneglenes intelligens.”

Mange mennesker mener, at truslen fra AI er centreret om, at den bliver ondskabsfuld snarere end velvillig. Hawking afkræfter os denne bekymring og siger, at “den virkelige risiko med AI er ikke ondskab, men kompetence”. I bund og grund vil AI være meget god til at nå sine mål; hvis mennesker kommer i vejen, kan vi få problemer.

“Du er sikkert ikke en ond myrehader, der træder på myrer af ondskab, men hvis du står i spidsen for et vandkraftprojekt for grøn energi, og der er en myretue i det område, der skal oversvømmes, så er det synd for myrerne. Lad os ikke sætte menneskeheden i disse myrers situation,” skriver Hawking.

For dem, der stadig ikke er overbeviste, foreslår han en anden metafor. “Hvorfor er vi så bekymrede for AI? Mennesker er vel altid i stand til at trække stikket ud?” spørger en hypotetisk person ham.

Hawking svarer: “Folk spurgte en computer: “Er der en Gud? Og computeren svarede: ‘Det er der nu’, og smed stikket ud.”

Enden på livet på jorden?

Hvis det ikke er robotterne, er det “næsten uundgåeligt, at enten en atomkonfrontation eller en miljøkatastrofe vil lamme Jorden på et tidspunkt i løbet af de næste 1.000 år”, skriver Hawking.

Hans advarsel kommer i kølvandet på sidste uges alarmerende rapport fra Det Mellemstatslige Panel om Klimaændringer (IPCC), der advarer om, at vi kun har 12 år til at foretage ændringer, der er massive nok til at holde den globale opvarmning på et moderat niveau. Uden sådanne ændringer vil længerevarende tørkeperioder, hyppigere tropiske storme og stigende vandstand i havene kun være begyndelsen.

De ukontrollerede klimaændringer er den største trussel mod vores planet, siger han, og vi handler med “hensynsløs ligegyldighed over for vores fremtid på planeten Jorden”.

Faktisk har vi måske slet ikke nogen fremtid, siger han og advarer os mod at lægge alle vores æg “i én kurv”. Og ja, den kurv er planeten Jorden. Selv hvis menneskene finder ud af at flygte, vil “de millioner af arter, der bebor jorden” være dødsdømt, siger han. “Og det vil vi få på vores samvittighed som race.”

En anden advarsel er ikke mindre truende. Vi er på vej ind i en ny fase af “selvdesignet evolution”. Denne fase betyder, at vi snart vil være i stand til at smide den traditionelle udviklings kæder og begynde at ændre og forbedre vores eget DNA nu – ikke om hundredtusindvis af år.

Som med AI rummer evnen til at redigere vores eget DNA potentialet til at løse menneskehedens største problemer. Først, og sandsynligvis ikke i en fjern fremtid, vil vi være i stand til at reparere genetiske defekter og redigere gener for ting som muskeldystrofi og amyotrofisk lateralsklerose eller ALS, den sygdom, som han blev diagnosticeret med i 1963. Hawking siger, at vi inden for dette århundrede vil være i stand til at redigere intelligens, hukommelse og levetid. Og så kan tingene blive rigtig komplicerede.

Hawking kalder de mennesker, der vil gøre dette, for “supermennesker”, og de vil sandsynligvis være verdens velhavende eliter. Almindelige gamle mennesker vil ikke være i stand til at konkurrere og vil sandsynligvis “dø ud eller blive ubetydelige”. Samtidig vil supermennesker sandsynligvis “kolonisere andre planeter og stjerner.”

Hvis det hele lyder temmelig deprimerende, så er det det også. Men selv om Hawking serverer en apokalyptisk prognose for planeten og alle på den, kommer hans form for optimisme igennem. Han tror på, at “vores geniale race vil have fundet en måde at slippe ud af Jordens sure bånd og derfor vil overleve katastrofen.”

Han mener endda, at disse muligheder i stedet for at være skræmmende er spændende, og at det “i høj grad øger chancerne for at inspirere den nye Einstein. Uanset hvor hun måtte befinde sig.”

Den mulighed for at finde en vej væk fra planeten Jorden, og måske endda fra solsystemet, er en mulighed for at gøre det, som månelandingerne gjorde: “løfte menneskeheden, bringe folk og nationer sammen, indlede nye opdagelser og nye teknologier.”

Abonner på Future Perfect-nyhedsbrevet. To gange om ugen får du en oversigt over idéer og løsninger til at tackle vores største udfordringer: forbedring af folkesundheden, mindskelse af menneskers og dyrs lidelser, mindskelse af katastrofale risici og – for at sige det enkelt – at blive bedre til at gøre noget godt.