Překlad prezentace „Jak přežít 21. století“ od Yuval Noah Harariho, kterou přednesl na Světovém ekonomickém fóru v Davosu dne 24.1.2020. Yuval Noah Harari je izraelský profesor historie a autor bestsellerů „Sapiens: od zvířete k božskému jedinci“ (2014), „Homo deus: stručné dějiny zítřka“ (2016) a „21 lekcí pro 21. století“ (2018) Yuval Noah Harari (1976).
Jak přežít 21. století
Jak vstupujeme do třetího desetiletí 21. století, tak lidstvo čelí tolika problémům a otázkám a je opravdu těžké vědět, na co se zaměřit. Takže bych rád využil následujících 20 minut, abychom nám pomohli soustředit se na všechny různé problémy, kterým čelíme. Tři problémy představují pro náš druh existenční výzvy. Těmito třemi existenčními výzvami jsou jaderná válka, ekologický kolaps a disruptivní technologie. Měli bychom se na ně zaměřit. Jaderná válka a ekologický kolaps jsou již známé hrozby. Dovolte mi tedy strávit nějaký čas vysvětlením méně známé hrozby, kterou představují disruptivní technologie.
V Davosu toho tolik slyšíme o obrovských příslibech technologie. A tyto sliby jsou určitě uskutečnitelné. Ale technologie může také narušit lidskou společnost i samotný smysl lidského života mnoha způsoby - od vytvoření globální zbytečné třídy, po vzestup datového kolonialismu a digitálních diktatur.
Nejprve bychom mohli čelit otřesům na sociální a ekonomické úrovni. Automatizace brzy eliminuje miliony pracovních míst. A přesto budou jistě vytvořena nová pracovní místa. Není jasné, zda se lidé budou moci dostatečně rychle naučit potřebné nové dovednosti. Předpokládejte, že jste 50tiletý řidič kamionu, a právě jste ztratili práci kvůli samořídícímu vozidlu. Nyní existují nové pracovní pozice v navrhování softwaru nebo ve výuce jógy pro inženýry. Ale jak se 50tiletý řidič kamionu znovu-zrealizuje jako softwarový inženýr nebo učitel jógy? A lidé to budou muset dělat nejen jednou, ale znovu a znovu po celý život, protože revoluce v automatizaci nebude jedinou událostí, po které se trh práce usadí v nějaké nové rovnováze.
Spíše to bude kaskáda stále větší disruptivních narušení, protože umělá inteligence nikde zdaleka nedosahuje svého plného potenciálu. Všechna pracovní místa zmizí. Nová pracovní místa se objeví. Ale pak se ta nová pracovní místa rychle změní a zmizí. Zatímco v minulosti lidé museli bojovat proti vykořisťování, tak v 21. století bude opravdu velký boj proti irelevanci. A je mnohem horší být irelevantní, než být vykořisťován. Ti, kteří selžou v boji proti irelevanci, budou představovat novou zbytečnou třídu. Lidé, kteří budou k ničemu, samozřejmě ne z pohledu přátel a rodiny, ale zbyteční z hlediska ekonomického a politického systému. A tato zbytečná třída bude oddělena stále rostoucím odstupem od stále silnější elity. Revoluce umělé inteligence může vytvořit bezprecedentní nerovnost nejen mezi třídami, ale také mezi zeměmi.
V 19. století se nejprve industrializovalo několik zemí jako Británie a Japonsko, které pokračovaly v dobývání a vykořisťování většiny světa. Pokud nebudeme opatrní, stane se totéž v 21. století díky umělé inteligenci. Už jsme uprostřed závodů ve zbrojení v umělé inteligenci, kdy v čele stojí Čína v USA a většina zemí zůstává daleko za nimi. Pokud nepřijmeme opatření k distribuci výhod a moci umělé inteligence mezi všechny lidi, umělá inteligence pravděpodobně vytvoří obrovské bohatství v několika high-tech centrech, zatímco jiné země buď zbankrotují nebo se stanou vykořisťovanými datovými koloniemi.
Nyní mluvíváme o sci-fi scénářích robotů bouřících se proti lidem. O čem mluvím, je ale mnohem primitivnější umělá inteligence, která však stačí k narušení globální rovnováhy. Jen si pomyslete, co se stane s rozvojovými ekonomikami, jakmile bude levnější vyrábět textilie nebo automobily v Kalifornii než v Mexiku. A co se stane s politikou ve vaší zemi za 20 let, když někdo v San Francisku nebo v Pekingu bude znát celou lékařskou a osobní historii každého politika, každého soudce a každého novináře ve vaší zemi, včetně všech sexuálních eskapád. Všechny jejich duševní slabosti ve všech jejich korupčních jednáních. Bude to stále nezávislá země nebo se z ní stane datová kolonie?
Když máte dostatek dat, nemusíte posílat vojáky, abyste ovládli zemi. Vedle nerovnosti je dalším velkým nebezpečím, kterému čelíme, vzestup digitální diktatury, která bude neustále sledovat všechny. Toto nebezpečí lze konstatovat ve formě jednoduchého vzorce, který považuji za definující vzorec života v 21. století - B x C x D = AHH, což znamená, že biologické znalosti vynásobené výpočetním výkonem vynásobené údaji se rovná schopnosti hacknout lidi.
Pokud znáte dostatek biologie a máte dostatek výpočetní síly a údajů, můžete hacknout mé tělo a můj mozek. A můj život. A můžete mi rozumět lépe než já sám. Můžete znát můj typ osobnosti, mé politické názory, moje sexuální preference, mé duševní slabosti, mé nejhlubší obavy a naděje. Vědět o mě víc než já sám o sobě a můžete to udělat nejen mně, ale všem. Systém, který nám rozumí lépe než my sami, dokáže předvídat naše pocity a rozhodnutí. Může manipulovat s pocity a rozhodnutími a nakonec může rozhodovat za nás.
V minulosti to chtělo udělat mnoho tyranů a vlád, ale nikdo dostatečně nerozuměl biologii a nikdo neměl dostatek výpočetního výkonu v datech, aby hacknul miliony lidí. Ani Gestapo, ani KGB to nedokázaly. Ale alespoň některé korporace a vlády budou brzy schopny systematicky hackovat všechny lidi.
My lidé bychom si měli zvyknout na myšlenku, že už nejsme záhadné duše. Nyní jsme hackovatelná zvířata. To je to, čím jsme. Tato moc, jak mohou být lidské bytosti samozřejmě použity i k dobrým účelům, jako je poskytování mnohem lepší zdravotní péče, tak ale pokud tato moc padne do rukou Stalina 21. století, tak výsledkem bude nejhorší totalitní režim v dějinách lidstva a již máme řadu uchazečů o toto zaměstnání v 21. století.
Jen si představte Severní Koreu za 20 let, kdy každý musí nosit biometrický náramek, který neustále sleduje váš krevní tlak, srdeční frekvenci a mozkovou aktivitu. 24 hodin denně. Posloucháte projev v rádiu velkého vůdce a oni vědí, co vlastně cítíte. Můžete tleskat rukama a usmívat se, ale pokud jste naštvaní, vědí to. A zítra ráno budete v gulagu.
A pokud dovolíme vznik takových režimů úplného sledování, nemyslete si, že bohatí a mocní v místech, jako je Davos, budou v bezpečí. Zeptejte se Jeffa Bezose. Ve Stalinově SSSR sledoval stát členy komunistické elity více než kohokoli jiného. Totéž bude platit i o budoucích režimech celkového dozoru. Čím výše budete v hierarchii, tím podrobněji budete sledováni.
Chcete, aby váš generální ředitel nebo prezident věděli, co si o nich opravdu myslíte? Takže je v zájmu všech lidí včetně elit, aby se zabránilo vzestupu takových digitálních diktatur. A do té doby, pokud dostanete podezřelou zprávu od nějakého prince, neotevírejte ji. Nyní i kdybychom skutečně zabránili zavedení digitální diktatury, tak schopnost hacknout člověka může ještě podtrhnout samotný význam lidské svobody. Protože jako lidé se budou spoléhat na umělou inteligenci, aby za ně stále více a více rozhodovala. Autorita přejde od lidí k algoritmům. A to se již dnes děje, když miliardy lidí, kteří důvěřují algoritmům Facebooku, aby jim řekli, co je nového. Algoritmům Google nám říká, co je pravda. Netflix nám říká, na co se dívat a algoritmy Amazonu a Alibaby nám říkají, co si koupit.
V ne tak vzdálené budoucnosti by nám podobné algoritmy mohly říci, kde máme pracovat a koho si vzít, a také rozhodnout, zda nás najmout na práci, zda nám půjčit a zda by centrální banka měla zvýšit úrokovou sazbu. A pokud se zeptáte, proč nedostanete půjčku nebo proč vám banka nezvýšila úrokovou sazbu, tak odpověď bude vždy stejná. Protože počítač říká ne. A protože omezený lidský mozek postrádá dostatečný výpočetní výkon a údaje o biologických znalostech, lidé prostě nebudou schopni porozumět rozhodnutím počítačů.
Takže i v údajně svobodných zemích lidé pravděpodobně ztratí kontrolu nad svými vlastními životy a také ztratí schopnost porozumět veřejné politice. Už teď kolik lidí vlastně skutečně rozumí finančnímu systému? Možná 1 % a to je velmi přehnané tvrzení. Za pár desetiletí bude počet lidí schopných porozumět finančnímu systému přesně nula. Nyní jsme my lidé zvyklí přemýšlet o životě jako o dramatu rozhodování. Jaký bude smysl lidského života, když bude většina rozhodnutí přijímána pomocí algoritmů. Nemáme ani filozofické modely k pochopení takové existence. Obvyklou diskusí mezi filozofy a politiky je, že filozofové mají spoustu fantazijních nápadů a politici trpělivě vysvětlují, že jim chyběly prostředky k realizaci těchto myšlenek.
Nyní jsme v opačné situaci a čelíme filozofickému bankrotu. Dvojitá revoluce v informačních technologiích a biotechnologiích nyní dává politikům a obchodníkům prostředky k vytváření nebe nebo pekla. Ale filozofové mají potíže s konceptualizací toho, jak bude vypadat nové nebe a nové peklo. A to je velmi nebezpečná situace. Pokud se nám nepodaří dostatečně rychle konceptualizovat nové nebe, mohli bychom být snadno sváděni naivními utopiemi. A pokud se nám nepodaří konceptualizovat nové peklo dost rychle, mohli bychom se ocitnout v pasti z které není cesta ven.
Nakonec technologie může narušit nejen naši ekonomiku, politiku a filozofii, ale také naši biologii. V nadcházejících desetiletích nám umělá inteligence a biotechnologie dají božské schopnosti změnit život a dokonce vytvořit zcela nové formy života.
Po čtyřech miliardách let organického života formovaného přirozeným výběrem se chystáme vstoupit do nové éry anorganického života formovaného inteligentním designem. Náš inteligentní design bude novou hnací silou evoluce života a při používání našich nových božských sil stvoření bychom mohli dělat chyby v kosmickém měřítku. Zejména vlády, korporace a zbrojařství pravděpodobně využijí technologií k posílení lidských dovedností, které potřebují, jako jsou inteligence a disciplína - při zanedbávání dalších lidských schopností, jako je soucit, umělecká citlivost a spiritualita.
Výsledkem by mohla být rasa lidí, kteří jsou velmi inteligentní a velmi disciplinovaní, ale postrádají soucit a duchovní hloubku. Samozřejmě to není proroctví. Jsou to jen možnosti. Technologie nikdy není deterministická. Ve 20. století lidé využívali průmyslovou technologii k budování velmi odlišných druhů společností - fašistické diktatury, komunistické režimy a liberální demokracie. Totéž se stane v 21. století.
Umělá inteligence a biotechnologie určitě změní svět, ale můžeme je použít k vytvoření velmi odlišných druhů společností. A pokud se bojíte některých možností, které jsem zmínil, můžete s tím něco udělat, ale abychom udělali něco efektivního, potřebujeme globální spolupráci. Všechny tři existenční výzvy, kterým čelíme v našich globálních problémech, vyžadují globální řešení.
Kdykoli kterýkoli vůdce řekne něco jako moje země jako první. Měli bychom tomuto vůdci připomenout, že žádný národ nemůže zabránit jaderné válce nebo zastavit ekologický kolaps sám. A žádný národ nemůže sám regulovat umělou inteligenci a bioinženýrství. Téměř každá země řekne: „Hej, my nechceme vyvíjet zabijácké roboty nebo geneticky upravovat lidské děti. My jsme ti dobří. Ale nemůžeme věřit svým soupeřům, že to nedělají. Takže to musíme udělat jako první.“
Pokud dovolíme, aby se takové závody ve zbrojení rozvíjely v oblastech, jako je umělá inteligence a bioinženýrství, nezáleží na tom, kdo závod ve zbrojení vyhraje. Poraženým bude lidstvo. Bohužel právě tehdy, když je globální spolupráce nezbytnější než kdy dříve, někteří z nejmocnějších vůdců a zemí na světě nyní záměrně narušují globální spolupráci.
Vůdci, jako třeba americký prezident, nám říkají, že mezi nacionalismem a globalismem je vrozený rozpor a že bychom si měli zvolit nacionalismus a odmítnout globalismus. Ale to je nebezpečná chyba. Mezi nacionalismem a globalismem není rozpor, protože nacionalismus není o nenávisti k cizincům. Nacionalismus znamená milovat své krajany. A v 21. století musíte v zájmu ochrany bezpečnosti svých krajanů spolupracovat s cizinci.
Takže v 21. století musí být dobří nacionalisté také globalisty. Nyní je globalismus vnímán jako nastolení globální vlády opouštějící všechny národní tradice nebo otevření hranic neomezenému přistěhovalectví. Spíše, ale globalismus znamená závazek k některým globálním pravidlům. Pravidlům, která nepopírají jedinečnost každého národa, ale regulují pouze vztahy mezi národy. A dobrým modelem je mistrovství světa ve fotbale. Mistrovství světa je soutěží mezi národy a lidé často projevují tvrdou loajalitu ke svému národnímu týmu. Ale zároveň je mistrovství světa také úžasným projevem globální harmonie. Francie nemůže hrát fotbal proti Chorvatsku, pokud se Francouzi a Chorvaté nedohodnou na stejných pravidlech hry. A to je globalismus v akci. Pokud máte rádi mistrovství světa, už jste globalistou.
Nyní by se snad národy mohly dohodnout na globálních pravidlech nejen pro fotbal, ale také pro to, jak zabránit ekologickému kolapsu. Jak regulovat nebezpečné technologie. A jak snížit globální nerovnost. Jak například zajistit, aby umělá inteligence byla přínosem i pro mexické pracovníky v textilu a nejen pro americké softwarové inženýry.
Teď to samozřejmě bude mnohem obtížnější než fotbal. Ale není to nemožné, protože nemožné dobro jsme již úspěšně dokázali. Už jsme unikli z násilné džungle, ve které jsme my lidé žili po celou historii. Po tisíce let žili lidé pod zákonem džungle ve stavu všudypřítomné války.
Zákon džungle říkal, že pro každé dvě blízké země existuje věrohodný scénář, že příští rok půjdou proti sobě bojovat. Podle tohoto zákona mír znamenal pouze dočasnou absenci války. Když byl mír mezi rozumnými Aténami a Spartou nebo Francií a Německem, znamenalo to, že nyní nejsou ve válce, ale příští rok by mohli být. A tisíce let lidé předpokládali, že je nemožné uniknout tomuto zákonu. Ale v posledních několika desetiletích se lidstvu podařilo udělat nemožné, aby porušili zákon a unikli z této džungle. Vybudovali jsme liberální globální řád založený na pravidlech, který navzdory mnoha nedokonalostem přesto vytvořil nejvíce prosperující a nejmírumilovnější éru v lidské historii.
Samotný význam slova mír se změnil. Mír už neznamená jen dočasnou absenci války. Mír nyní znamená i schopnost války. Existuje mnoho zemí na světě, které si jednoduše nedokážete představit, že by příští rok šly proti sobě. Jako Francie a Německo. V některé části světa stále existují války. Pocházím ze Středního východu, takže mi věřte, že to dobře znám. Ale nemělo by nás to zaslepit v celkovém vnímání globálního obrazu. Nyní žijeme ve světě, ve kterém válka zabije méně lidí než sebevraždy. A střelný prach je pro váš život mnohem méně nebezpečný než cukr.
Většina zemí s několika významnými výjimkami, jako je Rusko, ani nefantazíruje o dobývání a anexi svých sousedů. Proto si většina zemí může dovolit utratit možná jen asi 2 % HDP na obranu, zatímco mnohem více utratí za vzdělávání a zdravotní péči. To není džungle. Bohužel jsme si na tuto úžasnou situaci tak zvykli, že ji považujeme za samozřejmost. A stáváme se proto mimořádně neopatrnými. Místo toho, abychom udělali vše, co je v našich silách, abychom posílili křehký globální řád, který země zanedbávaly, a dokonce úmyslně podkopávaly. Globální řád je nyní jako dům, který všichni obývají a nikdo neopravuje. Vydrží ještě několik let, ale pokud budeme takto pokračovat, zhroutí se a ocitneme se zpět v džungli všudypřítomné války.
Zapomněli jsme, jaké to je. Ale věřte mi jako historikovi, že se tam nechcete vrátit. Je to mnohem horší, než jste si představovali. Ano náš druh se vyvinul v té džungli a žil a dokonce tam prosperoval tisíce let. Ale kdybychom se tam nyní vrátili s výkonnými novými technologiemi 21. století, tak náš druh se pravděpodobně sám zničí.
Samozřejmě i když zmizíme, nebude to konec světa. Něco nás přežije. Možná krysy nakonec převezmou vládu a obnoví civilizaci. Snad se pak krysy poučí z našich chyb. Ale velmi doufám, že se můžeme spolehnout na zde shromážděné vůdce, a ne na krysy.
Děkuji.
Publikováno: https://neviditelnypes.lidovky.cz/zahranici/esej-jak-prezit-21-stoleti.A210919_172533_p_zahranici_wag