Stephen Hawking heeft een laatste boodschap voor de mensheid: Als robots ons niet te pakken krijgen, doet de klimaatverandering dat wel.

Hawking, die eerder dit jaar op 76-jarige leeftijd overleed aan een degeneratieve neurologische ziekte, biedt zijn afscheidsgedachten aan in een postuum gepubliceerd boek genaamd Brief Answers To The Big Questions, dat dinsdag uitkomt. Het is een boodschap die de moeite waard is om in acht te nemen van een man die waarschijnlijk de meest gerenommeerde wetenschapper is sinds Einstein, het best bekend voor zijn ontdekking van hoe zwarte gaten functioneren. Hawking’s boek A Brief History of Time verkocht meer dan 10 miljoen exemplaren en behandelde vragen zo groot als “Hoe is het universum begonnen?” en “Wat zal er gebeuren wanneer het eindigt?” in taal eenvoudig genoeg voor de gemiddelde lezer.

In een uittreksel dat dit weekend in de Times of London is gepubliceerd, is hij grappig en optimistisch, zelfs als hij ons waarschuwt dat kunstmatige intelligentie ons waarschijnlijk te slim af zal zijn, dat de rijken zich gedoemd zijn te ontwikkelen tot een bovenmenselijke soort, en dat de planeet afstevent op totale onbewoonbaarheid.

Hawking’s boek is uiteindelijk een oordeel over de toekomst van de mensheid. Op het eerste gezicht is het oordeel dat we gedoemd zijn. Maar graaf dieper en er is iets anders hier ook, een geloof dat de menselijke wijsheid en innovatie zal onze eigen vernietiging te dwarsbomen, zelfs wanneer we lijken vastbesloten om het te bewerkstelligen.

De robots kunnen komen voor ons

Hawking’s grootste waarschuwing is over de opkomst van kunstmatige intelligentie: Het zal ofwel het beste zijn dat ons ooit is overkomen, of het zal het ergste zijn. Als we niet oppassen, kan het heel goed het laatste zijn.

Kunstmatige intelligentie biedt grote mogelijkheden voor de mensheid, en omvat alles van Google’s algoritmen tot zelfrijdende auto’s tot gezichtsherkenningssoftware. De AI die we vandaag hebben, is echter nog in zijn primitieve stadia. Deskundigen maken zich zorgen over wat er zal gebeuren als die intelligentie ons voorbijstreeft. Of, zoals Hawking het zegt: “Terwijl de kortetermijnimpact van AI afhangt van wie het controleert, hangt de langetermijnimpact af van de vraag of het überhaupt kan worden gecontroleerd.”

Dit klinkt misschien als sciencefiction, maar Hawking zegt dat het afdoen als zodanig “een vergissing zou zijn, en mogelijk onze ergste vergissing ooit.”

Vergeleken met robots, zijn wij mensen behoorlijk onhandig. Beperkt door het trage tempo van de evolutie, kost het ons generaties om te itereren. Robots daarentegen kunnen hun eigen ontwerp veel sneller verbeteren, en binnenkort zullen ze dat waarschijnlijk ook zonder onze hulp kunnen doen. Hawking zegt dat dit zal leiden tot een “intelligentie-explosie” waarin machines onze intelligentie zouden kunnen overtreffen “meer dan de onze die van slakken overtreft.”

Veel mensen denken dat de dreiging van AI zich concentreert op het kwaadaardig worden in plaats van goedaardig. Hawking ontkracht deze bezorgdheid door te zeggen dat “het echte risico van AI niet boosaardigheid is, maar bekwaamheid”. In principe zal AI heel goed zijn in het bereiken van zijn doelen; als de mens in de weg loopt, kunnen we in de problemen komen.

“Je bent waarschijnlijk geen kwaadaardige mierenhater die uit boosaardigheid op mieren stapt, maar als je de leiding hebt over een hydro-elektrisch groen-energieproject en er ligt een mierenhoop in de regio die onder water gezet moet worden, jammer dan voor de mieren. Laten we de mensheid niet in de positie van die mieren plaatsen,” schrijft Hawking.

Voor degenen die nog steeds niet overtuigd zijn, stelt hij een andere metafoor voor. “Waarom zijn we zo bezorgd over AI? Mensen zijn toch altijd in staat om de stekker eruit te trekken?” vraagt een hypothetisch persoon hem.

Hawking antwoordt: “Mensen vroegen een computer: ‘Is er een God?’ En de computer zei: ‘Die is er nu,’ en fuseerde de stekker.”

Het einde van het leven op aarde?

Als het niet de robots zijn, is het “bijna onvermijdelijk dat ofwel een nucleaire confrontatie ofwel een milieucatastrofe de Aarde zal verlammen op een bepaald punt in de komende 1000 jaar,” schrijft Hawking.

Zijn waarschuwing komt op de hielen van het alarmerende Intergovernmental Panel on Climate Change (IPCC) rapport van vorige week, waarin wordt gewaarschuwd dat we slechts 12 jaar hebben om veranderingen door te voeren die groot genoeg zijn om de opwarming van de aarde op gematigde niveaus te houden. Zonder dergelijke veranderingen zullen langere droogtes, frequentere tropische stormen en een stijgende zeespiegel slechts het begin zijn.

Ontspannende klimaatverandering is de grootste bedreiging voor onze planeet, zegt hij, en we handelen met “roekeloze onverschilligheid voor onze toekomst op de planeet Aarde.”

In feite hebben we misschien wel helemaal geen toekomst, zegt hij, en waarschuwt ons om niet al onze eieren “in één mandje” te doen. En ja, dat mandje is de planeet Aarde. Zelfs als mensen een manier vinden om te ontsnappen, zullen “de miljoenen soorten die de aarde bevolken” gedoemd zijn, zegt hij. “En dat zullen wij als ras op ons geweten hebben.”

Een andere waarschuwing is niet minder dreigend. We gaan een nieuwe fase in van “zelfontworpen evolutie.” Deze fase betekent dat we binnenkort in staat zullen zijn om de ketenen van de traditionele evolutie af te werpen en nu te beginnen met het veranderen en verbeteren van ons eigen DNA – niet pas over honderdduizenden jaren.

Net als bij AI heeft het vermogen om ons eigen DNA te bewerken het potentieel om de grootste problemen van de mensheid op te lossen. Ten eerste, en waarschijnlijk niet in de verre toekomst, zullen we in staat zijn om genetische defecten te repareren, het bewerken van genen voor zaken als spierdystrofie en amyotrofische laterale sclerose, of ALS, de ziekte die hij werd gediagnosticeerd in 1963. Hawking zegt dat binnen deze eeuw, we in staat zullen zijn om intelligentie, geheugen en de lengte van het leven te bewerken. En dat is wanneer de dingen echt ingewikkeld kunnen worden. Hawking noemt de mensen die dit zullen doen “supermensen,” en zij zullen waarschijnlijk de rijke elites van de wereld zijn. Gewone oude mensen zullen niet kunnen concurreren, en zullen waarschijnlijk “uitsterven, of onbelangrijk worden.” Tegelijkertijd zullen supermensen waarschijnlijk “andere planeten en sterren koloniseren.”

Als dat allemaal behoorlijk deprimerend klinkt, dan is dat ook zo. Maar zelfs als Hawking een apocalyptische prognose voor de planeet en iedereen erop serveert, is hij toch ook optimistisch. Hij heeft er vertrouwen in dat “ons vindingrijke ras een manier zal hebben gevonden om te ontsnappen aan de norse banden van de Aarde en daarom de ramp zal overleven.”

Hij gelooft zelfs dat, in plaats van angstaanjagend te zijn, deze mogelijkheden opwindend zijn en dat het “de kansen om de nieuwe Einstein te inspireren enorm vergroot. Waar ze ook moge zijn.”

Het vinden van een manier om van de planeet Aarde af te komen, en misschien zelfs van het zonnestelsel, is een kans om te doen wat de maanlandingen deden: “De mensheid verheffen, mensen en naties samenbrengen, nieuwe ontdekkingen en nieuwe technologieën inluiden.”

Teken in op de nieuwsbrief van Future Perfect. Tweemaal per week krijgt u een overzicht van ideeën en oplossingen voor het aanpakken van onze grootste uitdagingen: het verbeteren van de volksgezondheid, het verminderen van menselijk en dierlijk lijden, het verlichten van catastrofale risico’s, en – om het eenvoudig te zeggen – beter worden in goed doen.