Harari: Proč technologie upřednostňuje tyranii

Aktualizováno: 31. 12. 2020

Výňatky z článku Why Technology Favors Tyranny z října 2018 o tom, že hlavní znevýhodnění autoritářských režimů ve 20. století - touha soustředit veškeré informace a moc na jednom místě - se může stát díky technologickému pokroku jejich rozhodující výhodou v 21. století.

Umělá inteligence může vymazat mnoho praktických výhod demokracie a narušit ideály svobody a rovnosti. Pokud nebudeme podnikat kroky, abychom to zastavili, soustředí sílu mezi malou elitu.


Vznik liberálních demokracií je spojen s ideály svobody a rovnosti, které se mohou jevit jako samozřejmé a nezvratné. Ale tyto ideály jsou mnohem křehčí, než si myslíme. Jejich úspěch ve 20. století závisel na jedinečných technologických podmínkách, které se mohou ukázat jako pomíjivé.


Ve druhé dekádě 21. století začal liberalismus ztrácet důvěryhodnost. Otázky ohledně schopnosti liberální demokracie zajišťovat střední třídu byly stále hlasitější; politika se vyvíjela více kmenově; a ve stále více a více zemích vůdci projevují zálibu v demagogii a autokracii. Příčiny tohoto politického posunu jsou složité, ale zdá se, že jsou propojeny se současným technologickým vývojem. Technologie podporující demokracii se mění a jak se rozvíjí umělá inteligence, může se měnit dále.


Liberalismus smířil proletariát s buržoazií, věřící s ateisty, domorodce s přistěhovalci a Evropany s Asijci tím, že každému slíbil větší kousek koláče. S neustále rostoucím koláčem to bylo možné. A koláč mohl dobře růst. Hospodářský růst však nemusí řešit sociální problémy, které jsou nyní vytvářeny disruptivními technologiemi, protože takový růst je stále více předpokládán díky vynalézání dalších disruptivních technologií.


Obavy ze strojů, které vytlačují lidi z trhu práce, samozřejmě nejsou ničím novým a v minulosti se tyto obavy ukázaly jako neopodstatněné. Umělá inteligence se však liší od starých strojů. V minulosti stroje konkurovaly lidem především v manuálních dovednostech. Nyní s námi začínají soutěžit v kognitivních dovednostech. A my nevíme o žádném třetím druhu dovednosti - nad rámec manuálních a kognitivních - ve kterém budou mít lidé vždy výhodu.


To vše vede k jednomu velmi důležitému závěru: Automatizační revoluce nebude sestávat z jediné vlny událostí, po které se trh práce usadí v nějaké nové rovnováze. Spíše to bude kaskáda stále větších vln. Stará pracovní místa zmizí a nová pracovní místa se objeví, nová pracovní místa se však také rychle změní a zmizí. Lidé se budou muset rekvalifikovat a znovuobjevit sebe sama nejen jednou, ale mnohokrát.


Stejně jako ve 20. století vlády zavedly masivní vzdělávací systémy pro mladé lidi, v 21. století budou muset zavést masivní reedukační systémy pro dospělé. Ale bude to stačit? Změna je vždy stresující a hektický svět počátku 21. století způsobil globální epidemii stresu. Jak se zvyšuje volatilita zaměstnání, budou lidé schopni se s ní vypořádat? Do roku 2050 by se mohla objevit zbytečná třída, která by byla výsledkem nejen nedostatku pracovních míst nebo nedostatku příslušného vzdělání, ale také nedostatečné mentální vytrvalosti k dalšímu učení se novým dovednostem.


Tak jako mnoho lidí ztratí svoji ekonomickou hodnotu, mohou také přijít o svoji politickou moc. Stejné technologie, které by mohly učinit miliardy lidí ekonomicky irelevantními, by je také mohly snadno učinit monitorovanými a kontrolovatelnými. Umělá inteligence je jiný nástroj a zbraň než které lidé vyvinuli a téměř jistě umožní již tak mocným konsolidovat svou moc dále. Pokusy manipulovat s pocity voličů nejsou nové. Ale jakmile někdo (ať už v San Franciscu, Pekingu nebo Moskvě) získá technologickou schopnost manipulovat s lidským srdcem - spolehlivě, levně a dle měřítek - demokratická politika se promění v emocionální loutkohru.


Na konci 20. století demokracie obvykle překonaly diktatury, protože byly mnohem lepší ve zpracování informací. Máme sklon pohlížet na konflikt mezi demokracií a diktaturou jako na konflikt mezi dvěma různými etickými systémy, ale ve skutečnosti je to konflikt mezi dvěma různými systémy na zpracování dat. Demokracie rozděluje pravomoc zpracovávat informace a přijímat rozhodnutí mezi mnoho lidí a institucí, zatímco diktatura soustřeďuje informace a moc na jednom místě. Vzhledem k technologii 20. století bylo neefektivní soustředit příliš mnoho informací a síly na jednom místě. Nikdo neměl schopnost zpracovat všechny dostupné informace dostatečně rychle a učinit správná rozhodnutí. To je jeden z důvodů, proč Sovětský svaz učinil mnohem horší rozhodnutí než Spojené státy, a proč sovětská ekonomika zaostávala daleko za americkou ekonomikou.


Umělá inteligence však může pohnout kyvadlem do opačného směru. Umělá inteligence umožňuje centrálně zpracovávat obrovské množství informací. Ve skutečnosti by to mohlo zefektivnit více centralizované systémy než rozptýlené systémy, protože strojové učení funguje lépe, když má stroj více informací k analýze. Pokud neberete v úvahu všechny záležitosti týkající se ochrany osobních údajů a soustředíte všechny informace týkající se miliardy lidí do jedné databáze, skončíte s mnohem lepšími algoritmy, než když respektujete individuální soukromí a ve své databázi máte pouze částečné informace o milionu lidí. Autoritářská vláda, která nařizuje všem svým občanům, aby své DNA sekvencovali a sdíleli svá lékařská data s některými ústředními orgány, by získala obrovskou výhodu v genetice a lékařském výzkumu nad společnostmi, v nichž jsou zdravotnická data přísně soukromá. Hlavní znevýhodnění autoritářských režimů ve 20. století - touha soustředit veškeré informace a moc na jednom místě - se může stát jejich rozhodující výhodou v 21. století. Pamatujte, že i internet byl v prvních letech medializován jako libertariánský všelék, který osvobozuje lidi od všech centralizovaných systémů - ale nyní je připraven udělat centralizovanou autoritu silnější než kdykoli předtím.


Mohli bychom se dobrovolně vzdávat více a více autority nad našimi životy, protože se ze zkušenosti naučíme věřit algoritmům více než našim vlastním pocitům, a nakonec ztratíme naši schopnost dělat mnoho rozhodnutí sami za sebe. Jen pomyslete na to, jak za pouhé dvě desetiletí přešly miliardy lidí k tomu, aby vyhledávacímu algoritmu Google svěřily jeden z nejdůležitějších úkolů všech: hledání relevantních a důvěryhodných informací. Již dnes je „pravda“ definována nejlepšími výsledky vyhledávání Google. Tento proces také ovlivnil naše fyzické schopnosti, jako je navigační prostor. Lidé od Googlu žádají, aby nejen vyhledával informace, ale také je naváděl.


Liberální demokracie a kapitalismus na volném trhu vnímají jednotlivce jako autonomního agenta, který si neustále volí cestu světem.


Prakticky a bezprostředněji, chceme-li zabránit koncentraci veškerého bohatství a moci v rukou malé elity, musíme regulovat vlastnictví dat. Ve starověku bylo území nejdůležitější výhodou, takže politika byla bojem o kontrolu území. V moderní době se stroje a továrny staly důležitějšími než území, takže politické boje se zaměřovaly na ovládání těchto životně důležitých výrobních prostředků. V 21. století budou data překonávat jak území, tak strojní zařízení jako nejdůležitější aktivum, takže politika bude bojem o kontrolu toku dat. Bohužel nemáme mnoho zkušeností s regulací vlastnictví dat, což je ze své podstaty mnohem obtížnější úkol než regulace území nebo strojů. Data jsou všude a současně nikde, mohou se pohybovat rychlostí světla a můžete si vytvořit libovolný počet kopií. Patří data shromážděná o mé DNA, mém mozku a mém životě mně, vládě, korporaci nebo lidskému kolektivu?


Závod v oblasti shromažďování dat již probíhá a v současné době jej vedou obři jako Google a Facebook a v Číně Baidu a Tencent. Dosud mnoho z těchto společností fungovalo jako „obchodníci s pozorností“ - upoutají naši pozornost tím, že nám poskytnou bezplatné informace, služby a zábavu, a poté naši pozornost opětovně prodají inzerentům. Jejich skutečnou činností však není pouze prodej reklamy. Spíše tím, že upoutají naši pozornost, se jim podaří hromadit obrovské množství údajů o nás, které mají větší hodnotu než jakýkoli příjem z reklamy. Nejsme jejich zákazníci - jsme jejich produkt. Pro běžné lidi bude velmi obtížné odolat tomuto procesu. V současné době mnozí z nás rádi rozdávají naše nejcennější aktivum - naše osobní údaje - výměnou za bezplatné e-mailové služby a vtipná kočičí videa. Ale pokud se později obyčejní lidé rozhodnou pokusit se blokovat tok dat, budou s tím mít pravděpodobně potíže, zejména proto, že se díky tomu mohou spolehnout na síť, která jim pomáhá při rozhodování, a dokonce i pro jejich zdraví a fyzické přežití.


Znárodnění dat vládami by mohlo nabídnout jedno řešení; rozhodně by to omezilo moc velkých společností. Historie však naznačuje, že na tom nejsme nutně lépe v rukou mocných vlád. Raději bychom tedy měli vyzvat naše vědce, naše filozofy, naše právníky a dokonce i naše básníky, aby obrátili svou pozornost na tuto velkou otázku: Jak regulovat vlastnictví dat?


V současné době lidé riskují, že se stanou podobnými domestikovaným zvířatům. Chovali jsme poddajné krávy, které produkují obrovské množství mléka, ale jinak jsou mnohem horší než jejich divocí předci. Jsou méně pohybliví, méně zvědaví a méně vynalézaví. Nyní vytváříme krotké lidi, kteří produkují obrovské množství dat a fungují jako efektivní čipy v obrovském mechanismu zpracování dat, ale jen stěží maximalizují svůj lidský potenciál. Nebudeme-li opatrní, skončíme s degradovanými lidmi, kteří zneužívají upgradované počítače, aby nezpůsobili spoušť sami sobě a světu.


Pokud zjišťujete, že jsou tyto vyhlídky alarmující - pokud se vám nelíbí myšlenka žít v digitální diktatuře nebo nějaké podobně degradované formě společnosti - pak nejdůležitějším přínosem, který můžete udělat, je najít způsoby, jak zabránit tomu, aby se příliš mnoho údajů soustředilo do příliš malého počtu rukou a také najít způsoby, jak udržet distribuované zpracování dat efektivnější než centralizované zpracování dat. Toto nebudou snadné úkoly. Jejich dosažení však může být nejlepší zárukou demokracie.


Zdroj: https://www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/

7 zobrazení0 komentářů