Jeho průkopnický výzkum v oblasti hlubokého učení a neuronových sítí připravil půdu pro současné systémy umělé inteligence (AI), včetně chatbota ChatGPT. Nyní se ve svých pětasedmdesáti a po více než deseti letech strávených v Googlu rozhodl Geoffrey Hinton z branže odejít a začít si užívat důchodu. Ještě předtím ale v rozhovoru s novináři z New York Times prozradil, že své práce částečně lituje. Uvědomuje si totiž potenciální nebezpečí, která jsou s využitím zmíněné technologie spojena. „Utěšuji se normální výmluvou: kdybych to neudělal já, udělal by to někdo jiný,“ uvedl.
Ačkoli jako oficiální důvod odchodu uvedl britsko-kanadský kognitivní psycholog a počítačový vědec svůj věk, na Twitteru se později rozpovídal o tom, že podnětem k tomuto kroku byly i zmíněné obavy. „Vlastně jsem odešel, abych mohl mluvit o nebezpečích AI,“ napsal Hinton ve svém tweetu a dodal, že možný dopad na Google nezvažoval, třebaže ten se vždy k celé problematice prý stavěl velice zodpovědně.
Hloupější? Možná ne na dlouho
Někteří představitelé technologického průmyslu označují vynález umělé inteligence za podobně velký milník jako zavedení internetu na počátku 90. let. Technologie podle nich může nalézt využití v celé řadě oblastí – od výzkumu léčiv až po vzdělávání, kde by mohla vést k dosud nevídaným průlomům. Mnoho zasvěcených pracovníků se však současně obává potenciálních rizik, která údajně rozhodně nejsou malá.
Bojíte se toho, že vás v práci během příštích pěti let nahradí umělá inteligence?
Umělá inteligence může například posloužit jako nástroj pro šíření dezinformací a ohrozit mnohá pracovní místa. Vůbec největší obavu však představuje její potenciální dopad na lidstvo. „Je těžké si představit, jak zabráníte zlým aktérům, aby ji používali ke špatným věcem,“ upřesnil Hinton. Pro BBC se následně nechal slyšet, že ačkoli AI zatím inteligentnější než lidé není, v blízké budoucnosti by se tak klidně stát mohlo.
Před možným nebezpečím v otevřeném dopise varovalo i 19 současných a bývalých vedoucích představitelů Asociace pro rozvoj umělé inteligence. K této skupině přitom patřil také Eric Horvitz, vědecký ředitel společnosti Microsoft, která nasadila technologii OpenAI v celé řadě produktů, včetně vyhledávače Bing.
Sám Hinton dopis nepodepsal, protože nechtěl veřejně kritizovat Google ani jiné společnosti. A co víc, na osobním přesvědčení o důležitosti umělé inteligence založil celou svou kariéru. V roce 1972 se totiž jako postgraduální student na univerzitě v Edinburghu chopil myšlenky týkající se neuronové sítě, které v té době věřilo jen malé množství výzkumníků. A tato myšlenka se nakonec stala jeho životním dílem.
O 40 let později Hinton spolu se dvěma svými studenty jednu neuronovou síť skutečně vytvořil. Jako taková byla schopna analyzovat tisíce fotografií a identifikovat běžné objekty typu květin, psů či automobilů. Za akvizici společnosti, kterou vědec se studenty založil, Google následně zaplatil 44 milionů dolarů.
Až příliš chytří roboti
Nový systém postupně vedl k vytvoření stále výkonnějších technologií, včetně nových chatbotů, jako jsou ChatGPT a Google Bard. Když Google i zmíněná OpenAI začaly budovat neuronové sítě, které se učily z obrovského množství digitálního textu, domníval se Hinton, že je to pro stroje účinný způsob, jak porozumět jazyku a zároveň s ním efektivně pracovat. Vědec současně věřil, že je technologie v tomto ohledu stále na nižší úrovni než lidská mysl.
Jeho názor se změnil v momentě, kdy obě zmíněné společnosti loni vytvořily systémy využívající mnohem větší množství dat než doposud. „Možná, že to, co se děje v těchto systémech, je ve skutečnosti mnohem lepší než to, co se děje v mozku,“ řekl s tím, že jak firmy své systémy zdokonalují, stávají se stále nebezpečnějšími.
„Podívejte se, jak to bylo před pěti lety a jak je to teď. Vezměte si ten rozdíl a propagujte ho dopředu. Je to děsivé,“ zdůraznil. Až do loňského roku dle něj Google k této technologii přistupoval jako její ,řádný správce‘ a dával pozor, aby nezveřejnil něco, co by mohlo způsobit škodu. Nyní, když konkurenční Microsoft rozšířil o chatbota svůj vyhledávač Bing, však společnost sama usiluje o co nejrychlejší nasazení stejného druhu technologie. Jinými slovy, soupeřící giganti rozpoutali soutěž, kterou pravděpodobně nebude možné zastavit.
Bezprostřední obavou Hintona aktuálně zůstává internet zaplavený falešnými fotografiemi, videi i texty, kdy běžný člověk nebude schopen poznat, co je pravda a co nikoli. Problém dle něj představuje také automatizace, jež má potenciál naprosto převrátit trh práce. Protože zatímco dnes umělá inteligence lidské pracovníky jen doplňuje, do budoucna by mohla nahradit všechny profese, jež vykonávají rutinní úkoly.
Nereálný mu pak nepřijde ani scénář, který zatím známe jen ze sci-fi knih a filmů. Vzhledem k tomu, že se technologie učí i neočekávanému chování, mohou se zabijáčtí roboti skutečně jednoho dne stát realitou. Problém nastane v momentě, až jednotlivé osoby a společnosti umožní systémům umělé inteligence nejen generovat vlastní počítačový kód, ale také tento kód i samostatně spouštět. „Že by tyto věci mohly být skutečně chytřejší než lidé? Pár lidí tomu věřilo, většina věřila, že je to daleko od pravdy. I já jsem si myslel, že je to vzdálené 30 až 50 let. Teď už si to samozřejmě nemyslím,“ uzavřel s tím, že je potřeba umělou inteligenci dostatečně regulovat.
