Nevíme jistě, jestli je Stephen Hawking nejchytřejším člověkem na světě. Přinejmenším však víme, že mnoho jemu rovných tato planeta nenosí; při absenci toho, čemu běžně říkáme tělo, je to bytost doslova tvořená svým vlastním intelektem. Bill Gates je naproti tomu člověk nejbohatší, alespoň měřeno hodnotou majetku. Hledáme-li nějaký lidský průsečík obrovského intelektuálního potenciálu se stejně obrovským materiálním vlivem, brzy narazíme na jméno Elona Muska. A když se tihle tři lidé na něčem shodnou, většina z nás dobře udělá, když bude pozorně poslouchat.
Naneštěstí to, v čem se názory těchto výjimečných mužů shodují, není nic pěkného. Řeč je o tom, co může budoucnosti lidstva spískat rozvoj disciplíny zvané umělá inteligence (či AI, jak říkají ti, kteří se v branži považují za insidery). „Přese všechny své dobré úmysly mohli vědci snadno stvořit něco velmi škodlivého (…), zástup robotů obdařených umělou inteligencí, jež si vytkne za cíl zničení lidstva“ řekl Musk v únoru na Světovém vládním summitu v Dubaji.
Jde o rozhraní
Musk si pohrává s myšlenkou, že existuje způsob, jímž by bylo možné udržet lidstvo „aktualizované“ natolik, aby dokázalo nástupu takových zdivočelých robotů zabránit. Princip té záchrany podle něj tkví v podstatném, skokovém vylepšení „uživatelského rozhraní“ mezi lidským mozkem a computerizovaným světem. „Takové rozhraní již existuje, ale váš hlas nebo prsty na klávesnici jsou zoufale pomalé,“ řekl Musk později v rozhovoru pro časopis New Yorker. „Myslím, že jsme zhruba čtyři nebo pět let od okamžiku, kdy omezené, ale smysluplné rozhraní mezi mozkem a computerem vytvoříme“ dodal.
Jsou lidé, kteří tu vizi sdílejí, ale se zjevnou radostí. Excentrický futurista Ray Kurzweil předpovídá, že jsme 28 let od chvíle, kdy výkonnosti umělé inteligence daleko převýší výkonnost inteligence lidské. Lidé a produkty AI - obvykle začínající předponou „nano“ - poté vytvoří jediný šťastný hybrid. „Budeme vtipnější, muzikálnější, moudřejší“ popisuje ve své knize Singularita, jak bude země obydlena houfy Mozartů a Einsteinů, jejichž těla budou zevnitř spravovat nanoroboti. Pro dokreslení, Kurzweil bere na 90 různých pilulek denně, aby se udržel v provozu až do doby, kdy se bude moci podle vlastního scénáře stát kyborgem na plný úvazek.
Ray Kurzweil není sám. Spoluzakladatel Applu Steve Wozniak třeba usoudil, že lidé budou v nových domácnostech hrát roli domácích mazlíčků, pročež se začal lépe věnovat svému pejskovi. Může to znít bizarně, ale uvažme, že Wozniak má za sebou léta spolupráce se Stevem Jobsem, a třeba je tak pro komunikaci s inteligentními bytostmi nelidského původu dobře vybaven.
Horší než Hirošima
Jiní lidé, jako například právě Stephen Hawking, mají temnější představy. „Myslím, že vyvinutí umělé inteligence v plném rozsahu by znamenalo konec lidského pokolení“ řekl nebývale rozmáchlými pojmy v rozhovoru pro BBC. „AI je potenciálně nebezpečnější než jaderná katastrofa“ nechal se jindy v televizi slyšet další ze zmiňovaných velikánů Bill Gates. (Člověka napadne, že požadavek souběžného stisknutí kláves Ctrl + Alt + Del je samo o sobě nejlepším důkazem Gatesovy nedůvěry v jakoukoli inteligenci, ale to je jiný problém.)
Tyhle katastrofické úvahy probíhají podle dobře známého scénáře. Monstrum, ať již biologického, umělého, rovnou mimozemského, či jinak podivného původu - pomyslete na Ericha Dänikena, Jurský park, R. U. R., Isaaka Asimova, doktora Frankensteina a tak dále - se objeví v nejnevhodnější chvíli s jedinou utkvělou myšlenkou, totiž jak to natřít lidem. S různou měrou věrohodnosti pak takové monstrum končí, byvši hrdinně přemoženo či jinak důmyslně odrazeno od svého apokalyptického záměru. Lidská přirozenost, jakkoli vágně (pokud vůbec) definovaná, nakonec triumfuje; lidstvo, posíleno, směřuje ke světlým zítřkům.
Čtěte více o umělé inteligenci:
Facebook vypnul své roboty. Přestal jim rozumět
První skutečně chytrý robot bude prostitutka
Žádná zhouba. Umělá inteligence světu přinese biliony dolarů
Komentář: Umělá inteligence je hrozba, ale i příležitost
10 hororových scénářů konce lidstva
Hybatelem zde je neustále opakovaný protiklad zjevně nepěkného nelidského elementu a lidské nátury, která je stejně zjevně prima. Autor těchto řádek by tipoval, že je to důsledek křesťanského antropocentrismu; koneckonců Syn boží se z lásky stal člověkem, nikoli praještěrem, upírem nebo tunou železa s drápy. Ergo člověk vítězí, zatímco monstrum, nemajíc na své straně božskou autoritu, se přizpůsobí, nebo zdechne.
To je zhruba kurz, jehož se zmíněné umělecké vize obvykle drží a plus minus jej sledují i skeptikové stran AI v čele s triem Hawking, Musk, Gates. Jen s tou výhradou, že triumf lidské civilizace není zaručen. „Lze si představit scénáře, za nichž k obnově lidské civilizace nedojde“ říká k tomu Musk.
Nikoli bezdůvodně. „Vlastníte dům?“ položil řečnickou otázku redaktorům časopisu Wired Max Tegmark, profesor fyziky z MIT, jenž v Bostonu vede Ústav pro budoucnost života, který se vztahem lidí a AI zabývá, „když si lidé začali stavět domy a požáry jim je likvidovaly, vznikl mezi nimi konsenzus, že je zapotřebí mít doma hasicí přístroj a protipožární pojištění. Když jsme začali vyrábět příliš rychlá a silná auta, zjistilo se, že je zapotřebí mít semafory, airbagy a bezpečnostní pásy. Ale v případě AI se nechceme učit až z chyb, které uděláme, protože jejich následky mohou být nevratné.“
Tři měsíce, 96 mrtvých
Je to debata vznešená i vzrušená, v níž lze teoreticky tvrdit téměř cokoli a j e ž může snadno postavit jednoho rozumného člověka proti druhému. Argumenty létají mezi Muskovým sídlem v kalifornském Bel Air a bostonským MIT, jako když bičem mrská (či podstatně rychleji, jak by nám všem Musk vysvětlil). Mezitím mezi oběma pobřežími Spojených států leží ve státu Ohio město Cincinnati. Na tamní perverzně pojmenované Eden Avenue úřaduje lékařka Lakshmi Sammarcová, jež řeší problém jen zdánlivě nesouvisející.
V okrese Hamilton, kam Cincinnati spadá a jehož je Sammarcová koronerem, letos závratně stoupá již tak vysoký počet úmrtí následkem předávkování opiovými léky. Za první tři měsíce měla na stole šestadevadesát takových zemřelých, tedy více než jednoho denně. Je to v souladu s trendem, jenž se projevuje v chudších městech zhruba od Maine na samotném severovýchodě USA po jižanské Kentucky: lidé závislí na opiových drogách, často legálních, plní tamní nemocnice, márnice a hřbitovy.
Muž nalezen v garáži. Žena zhroucená na stole v obývacím pokoji. Muž nalezen v bytě své sestry s injekční stříkačkou v ruce. Ty zprávy jsou si navlas podobné a neustále jich přibývá.
Jak to, ptáte se, když přece proti předávkování jakoukoli drogou s opiovým základem dnes existuje účinný dostupný prostředek v podobě protiléku jménem naloxon? Což se o ty nešťastné oběti drog v Cincinnati nikdo nestará?
Problém je právě opačný: stará. Noviny po celé dotčené části USA přinášejí zprávy o tom, jak se z policistů stávají záchranáři, zdravotníci a sociální pracovníci, protože to jsou často právě oni, kdo ve zmiňovaných případech zasahují první. A záchrana v podobě injekce naloxonu není nikdy daleko.
Drahá pomoc
Problém je v tom, že to stojí obrovské peníze. Jedna dvojdávka přípravku Evzio, což je komerční název naloxonové injekce, stála ještě v roce 2014 „pouze“ 690 dolarů. Dnes se prodává za 4500 dolarů, šestapůlkrát dráž. Výrobce léku, firma Amphastar Pharmaceuticals, jedná podle jasné ekonomické logiky: roste poptávka, roste i cena. Když je kupujícím město (či v některých případech stát), lze pochopitelně tlačit ještě o to lépe.
A tak dochází na lámání příslovečného chleba. Z městských rad se stále častěji ozývají hlasy požadující, aby nějakou část ceny za naloxon platili spotřebitelé; zejména v případech, kdy využívají pomocné ruky opakovaně. Jak píše list The Washington Post, každá smrtelná oběť opiových drog absolvovala záchranu naloxonem šestkrát, než už bylo jednou pozdě.
Člověk vítězí, zatímco monstrum, nemajíc na své straně božskou autoritu, se přizpůsobí, nebo zdechne.
Kromě toho se stoupající účinností opiových drog - poledním hitem je údajně trankvilizér pro slony (!) - stoupá i náročnost léčby. Kde dříve stačila jediná injekce naloxonu, jsou dnes zhusta zapotřebí tři nebo čtyři. Není divu, že zachraňování závislých leze do peněz.
„Není to tak, že bychom nechtěli pomáhat obětem předávkování,“vysvětloval pro WP Daniel Picard, radní z ohijského města Middletown, jež kvůli tomu uvažuje o zvyšování daní. „Je to tak, že město si to prostě nemůže finančně dovolit,“ řekl.
A jsme rovnýma nohama v krutém dilematu: mají obyvatelé Middletownu platit paušálně vyšší daň a z ní hradit rostoucí řadu drahých injekcí, nebo mají pomoc účtovat samotným předávkovaným, a tedy ji často de facto odmítnout? Existují samozřejmě návrhy, jež dilema dílčím způsobem změkčují, od symbolické „spoluúčasti“ až po pravidlo třikrát a dost, kdy po prvních třech injekcích dotyčný nese stále vyšší podíl nákladů na lék; základní rozpor však zůstává a nikomu není jasné, co s ním.
Drogy jako migranti
Navrhovaná řešení jdou po starých známých liniích. Konzervativci nechávají po svém starozákonním způsobu vinu jednoznačně na bedrech lidí závislých na drogách, levičáci stejně předvídatelně ukazují prstem na Amphastar a jeho vyšroubované ceny. Kámen úrazu je samozřejmě v množství: kdyby mrtvých nebylo za čtvrt roku šestadevadesát, nýbrž jeden, byla by to věc soukromé tragédie, nikoli veřejných financí. Ačkoli princip by zůstal zachován, socialisty ani konzervativce by ani nenapadlo mluvit o něm jako o problému, jejž je třeba urgentně řešit.
Evropskému čtenáři to může připomínat to, co se v minulých letech dělo v souvislosti s blízkovýchodními a africkými uprchlíky. Dokud bude přijíždět k italským břehům pár desítek migrantů ročně, nikoho nenapadne upírat jim přístřeší. Když jich je milion a půl za rok, tlak na řešení najednou začne hrozit rozpadem Evropské unie.
Společným jmenovatelem obou situací - a našli bychom takových nespočet dalších - je fakt, že jsou nesnesitelné, ačkoli žádný z jejich aktérů nekoná jinak, než jak mu velí úzus. Křesťanský étos přikazuje silným podat pomocnou ruku člověku, jenž si v Middletownu píchne o dávku navíc, stejně jako tomu, jenž se pod tlakem okolností rozhodne odejít z Libye na Sicílii. Obchodní etika zase jednoznačně povoluje výrobci čehokoli upravovat ceny podle síly poptávky. Když se však z aktu milosrdenství stane pro jednu stranu akt nároku a pro druhou stranu zbytečná přítěž, vzniká situace, za níž suma individuálních rozhodnutí na obou stranách je pro všechny neúnosná.
Člověk horší monstra
Čtenář laskavě promine okliku, ale jsme konečně zpátky u potíže s umělou inteligencí a tím, jak ji velké mozky dneška vnímají. Jistě právem se obávají, že z laboratoří Googlu jednoho dne vyleze monstrum se všemocným virtuálním joystickem v ruce a zahluší všechno na světě, co není Google. Ale je to obava o mnoha neznámých, umístěná v budoucnosti, ať již ji můžeme čekat za pět let, jak říká Musk (a u vědomí Muskova zvyku zdržovat splnění vlastních plánů to třeba nebude tak horké), nebo za osmadvacet let, jak tvrdí Kurzweil, či snad ještě o mnoho let později.
Mezitím však máme na krku problém zcela současný: schopnost AI nikoli spiknout se proti člověku, nýbrž stát vjeho službách; posilovat a zefektivňovat jeho dnešní rozhodnutí. Jak vidíme na případech opiových nešťastníků z Appalačských hor či středomořských migrantů, naše individuální rozhodnutí umějí být dostatečně nesnesitelná již dnes, ve věku analogovém, z hlediska AI dřevěném.
Veškerá křesťanská etika stojí na předpokladu, že člověk jako jednotlivec je slabý; z toho plyne její konsenzuální duch, vyjádřený v praxi požadavkem monogamie. Na každého se dostane; i poslední český novinář sežene samičku, jež mu dá děti, a naplní tak jeho touhu po nesmrtelnosti, říká nám Pán (jakkoli to formuluje vznosněji). Pomoci slabým pěstovat jejich sílu nakonec posiluje i silné, jak praví globalizační motto, jež razí The Economist: je to vlna, jež má nadnášet všechny lodě.
Zkušenost ze světa dnes zpola ponořeného do dosud primitivních prvních záblesků AI však naneštěstí takový optimismus nepodporuje. Silní mají sklon sílit a slabí slábnout, ačkoli geografická kritéria přestala distribuci slabých a silných vázat. Jednotlivá rozhodnutí těch, kteří oněmi záblesky AI vládnou (třeba pánové Zuckerberg, Bezos a Page), přitom mají daleko větší dopad, než měla rozhodnutí jejich předchůdců v čele světového byznysu.
„Když stojíte na exponenciálně rostoucí křivce, vždycky vidíte za sebou rovinu a před sebou kolmý vzestup,“ říká Musk. Je možné, že AI skutečně dospěje k bodu, kdy lidé ztratí schopnost ji ovládat, jak šéf Tesly varuje. Ale také je možné, že v té době již může být svět natolik zahlcen výsledky parciálních úspěchů jednotlivých Zuckerbergů a Bezosů, že to může přijít jako úleva.
Přečtěte si další eseje autora:
Prezidentský knock-out. Trump podal nejhorší výkon v dějinách summitů
Esej: Hollande byl prezidentem, který nemohl uspět
Esej: Svatý grál na dosah
ČLÁNKY DO MAILU