Stephen Hawking má pro lidstvo poslední poselství:

Hawking, který letos zemřel ve věku 76 let na degenerativní neurologické onemocnění, nabízí své myšlenky na rozloučenou v posmrtně vydané knize Brief Answers To The Big Questions, která vychází v úterý. Je to poselství, kterému stojí za to věnovat pozornost od muže, který je pravděpodobně nejznámějším vědcem od dob Einsteina, známého především díky svému objevu fungování černých děr. Hawkingovy knihy Stručná historie času se prodalo více než 10 milionů výtisků a řešila tak velké otázky jako „Jak vznikl vesmír?“ a „Co se stane, až skončí?“ jazykem dostatečně jednoduchým pro běžného čtenáře.

V úryvku, který o víkendu zveřejnily londýnské Timesy, je vtipný a optimistický, i když nás varuje, že umělá inteligence nás pravděpodobně přechytračí, že z bohatých lidí se určitě vyvine nadlidský druh a že planeta spěje k úplné neobyvatelnosti.

Hawkingova kniha je nakonec rozsudkem nad budoucností lidstva. Na první pohled je to verdikt, že jsme odsouzeni k zániku. Ale když se ponoříme hlouběji, najdeme zde i něco jiného – víru, že lidská moudrost a inovace zmaří naši vlastní zkázu, i když se zdá, že jsme si ji sami pekelně přivodili.

Roboti si možná přijdou pro nás

Hawkingovo největší varování se týká vzestupu umělé inteligence: Buď to bude to nejlepší, co nás kdy potkalo, nebo to bude to nejhorší. Pokud si nedáme pozor, dost možná to bude ta poslední věc.

Umělá inteligence skýtá pro lidstvo velké příležitosti a zahrnuje vše od algoritmů společnosti Google přes samořídící auta až po software pro rozpoznávání obličejů. Dnešní umělá inteligence je však stále v primitivním stádiu. Odborníci se obávají, co se stane, až nás tato inteligence předstihne. Nebo jak říká Hawking: „Zatímco krátkodobý dopad umělé inteligence závisí na tom, kdo ji bude ovládat, dlouhodobý dopad závisí na tom, zda ji vůbec bude možné ovládat.“

Může to znít jako sci-fi, ale Hawking říká, že odmítat ji jako takovou „by byla chyba, a to potenciálně naše nejhorší chyba vůbec.“

V porovnání s roboty jsme my lidé dost nemotorní. Jsme omezeni pomalým tempem evoluce, takže nám trvá generace, než se zdokonalíme. Roboti naproti tomu dokáží vylepšovat svůj vlastní design mnohem rychleji a brzy to pravděpodobně zvládnou i bez naší pomoci. Podle Hawkinga tak vznikne „exploze inteligence“, při níž by stroje mohly převýšit naši inteligenci „o více, než ta naše převyšuje inteligenci hlemýžďů“.

Mnoho lidí si myslí, že hrozba umělé inteligence se soustředí na to, že se stane spíše zlovolnou než laskavou. Hawking nás této obavy zbavuje a říká, že „skutečným rizikem v případě UI není zlovůle, ale kompetence“. V podstatě bude UI velmi dobrá v dosahování svých cílů; pokud se jí lidé postaví do cesty, můžeme mít problém.“

„Pravděpodobně nejste zlý mravokárce, který ze zlého úmyslu šlape po mravencích, ale pokud máte na starosti projekt ekologické vodní elektrárny a v oblasti, kterou je třeba zatopit, se nachází mraveniště, máte pro mravence smůlu. Nestavme lidstvo do pozice těchto mravenců,“ píše Hawking.

Pro ty, kteří stále nejsou přesvědčeni, navrhuje jinou metaforu. „Proč se tolik obáváme umělé inteligence? Jistě jsou lidé vždy schopni vytáhnout zástrčku?“ ptá se ho hypotetická osoba.

Hawking odpovídá: „Lidé se zeptali počítače: ‚Existuje Bůh? A počítač odpověděl: ‚Teď už je,‘ a zatavil zástrčku.“

Konec života na Zemi?“

Pokud to nebudou roboti, je „téměř nevyhnutelné, že někdy v příštích 1000 letech ochromí Zemi buď jaderná konfrontace, nebo ekologická katastrofa,“ píše Hawking.

Jeho varování přichází v návaznosti na alarmující zprávu Mezivládního panelu pro změnu klimatu (IPCC) z minulého týdne, která varuje, že máme pouze 12 let na to, abychom provedli dostatečně masivní změny, které by udržely globální oteplování na mírné úrovni. Bez těchto změn budou delší sucha, častější tropické bouře a stoupající hladina moří jen začátkem.

Podle jeho slov je největší hrozbou pro naši planetu bezohledná změna klimatu a my jednáme s „bezohlednou lhostejností k naší budoucnosti na planetě Zemi“.

V podstatě možná nebudeme mít vůbec žádnou budoucnost, říká a varuje nás, abychom nedávali všechna vejce „do jednoho košíku“. A ano, tím košíkem je planeta Země. I kdyby lidé přišli na způsob úniku, „miliony druhů, které obývají Zemi“, budou odsouzeny k zániku, říká. „A to budeme mít jako rasa na svědomí.“

Další varování není o nic méně hrozivé. Vstupujeme do nové fáze „samovolné evoluce“. Tato fáze znamená, že se brzy budeme moci zbavit okovů tradiční evoluce a začít měnit a vylepšovat svou vlastní DNA už teď – ne až za statisíce let.

Stejně jako v případě umělé inteligence má schopnost upravovat vlastní DNA potenciál vyřešit největší problémy lidstva. Nejprve, a pravděpodobně ne v daleké budoucnosti, budeme schopni opravovat genetické defekty, upravovat geny pro věci, jako je svalová dystrofie a amyotrofická laterální skleróza neboli ALS, nemoc, která mu byla diagnostikována v roce 1963. Hawking tvrdí, že během tohoto století budeme schopni upravovat inteligenci, paměť a délku života. A tehdy by se věci mohly opravdu zkomplikovat.

Hawking nazývá lidi, kteří to dokážou, „nadlidmi“ a pravděpodobně to budou bohaté světové elity. Obyčejní staří lidé nebudou schopni konkurovat a pravděpodobně „vymřou nebo se stanou nedůležitými“. Zároveň budou nadlidé pravděpodobně „kolonizovat jiné planety a hvězdy“.

Pokud to všechno zní dost depresivně, je to tak. Ale i když Hawking servíruje apokalyptickou prognózu pro planetu a všechny na ní, jeho značka optimismu se projevuje. Věří, že „naše vynalézavá rasa najde způsob, jak vyklouznout z nevrlých pout Země, a proto katastrofu přežije.“

Je dokonce přesvědčen, že namísto děsivosti jsou tyto možnosti vzrušující a že „výrazně zvyšují šance na inspiraci nového Einsteina. Ať už je kdekoli.“

Vyřešení cesty mimo planetu Zemi a možná i sluneční soustavu je příležitostí k tomu, co se podařilo při přistání na Měsíci: „

Přihlaste se k odběru newsletteru Future Perfect. Dvakrát týdně budete dostávat přehled nápadů a řešení, jak se vypořádat s našimi největšími výzvami: zlepšit veřejné zdraví, snížit utrpení lidí a zvířat, zmírnit katastrofická rizika a – jednoduše řečeno – zlepšit se v konání dobra.

.