Při vyslovení anglického výrazu „deepfake“ si většina lidí nejspíš jako první vybaví video s nějakým světovým lídrem nebo celebritou, kteří říkají a dělají věci, jež zní a vypadají až neuvěřitelně. Stačí si vzpomenout například na populární „televizní projev“ bývalého prezident USA Barracka Obamy, v němž důrazně varuje právě před nebezpečím v podobě těchto deepfaků, nebo nedávné tiktokové příspěvky hollywoodské hvězdy Toma Cruise, totiž jeho imitátora Milese Fishera.
Taková videa mohou čistě teoreticky způsobit události, o kterých je raději lepší vůbec nepřemýšlet. Stejně tak nebezpečná ale může být i zdánlivě nevinnější „zábava“, a sice zkreslování satelitních snímků krajiny a zastavěných oblastí.
Jen si to zkusme představit: požáry a záplavy tam, kde žádné nejsou. Nebo naopak možná ještě hůř: žádné požáry ani záplavy tam, kde se ve skutečnosti aktuálně vyskytují. A nemusí nutně jít pouze o přírodní katastrofy. Pomocí umělé inteligence, jež si pohraje se satelitními snímky, se dají dobře maskovat i přesuny bojové techniky, nově budovaná zařízení na obohacování uranu či třeba existující vězeňské tábory pro nepohodlné občany.
Jednou ze zemí, která si v uplynulých letech problematiku počítačového falšování satelitních snímků osvojila téměř dokonale, je Čína. Myslí si to alespoň analytik americké vládní agentury NGIA Todd Myers.
„Číňané jsou daleko před námi, není to žádné tajemství,“ uvedl před časem pro server Defenceone.com. „Navrhli vlastní generativní kontradiktorní síť (GAN), aby mohli přesouvat pixely v rámci snímku a vytvářet tak věci sloužící k nekalým účelům.“
Svůj postřeh Myers ukázal na případu mostu – stavby, která se na první pohled může zdát jako zcela obyčejný objekt. Nikoliv však z vojenského hlediska: „Představte si, že svým vojákům v rámci taktického plánování nařídíte, aby šli konkrétní cestou, směrem k mostu, který tam vlastně není. Takže když tam dorazíte, čeká na vás překvapení.“
Když umělá inteligence soupeří se sama se sebou
Historie GAN je relativně krátká. Jedná se o technologii, která je založena na principu strojového učení a kterou v roce 2014 navrhl americký výzkumný pracovník Ian Goodfellow se svými kolegy. Dvě neuronové sítě spolu soupeří a snaží se na základě stejného statistického základu (například fotografie reálného obličeje nebo nějakého konkrétního objektu) vytvořit zcela nová data. Jedna síť konečný portrét sestavuje, druhá jej hodnotí. Přitom se samy sebe snaží obelstít. Výsledná fotografie, respektive vygenerovaný portrét je pak natolik věrohodný, že běžný smrtelník nemá téměř žádnou šanci rozpoznat, že jde o podvrh.
Na rozdíl od deepfake videí, které se prostřednictvím sociálních sítí šíří až neuvěřitelnou rychlostí, se o falešných satelitních snímcích zas až tolik nemluví. Což je špatně, myslí si odborný asistent Bo Zhao z Washingtonské univerzity. Ve snaze na problém upozornit proto před časem spolu se svým týmem zveřejnil studii, v níž výzkumníci popsali, jak snadno lze podobné fotografie vytvořit.
Cílem je „vyvrátit mýtus toho, že satelitní snímky jsou naprosto spolehlivé, a upozornit veřejnost na to, jaké dalekosáhlé důsledky může „deepfakeová geografie“ mít,“ vysvětlil pro web The Verge.
„Mnoho uživatelů geografických informačních systémů deep learning a další typy umělé inteligence schopné řešit nejrůznější geografické problémy oslavuje, jen pár z nich se ale veřejně zmínilo o tom, jaké potenciální hrozby tyto deepfakes v oblasti geografie i mimo ni mohou mít,“ uvádí studie.
Nic nového pod sluncem?
Ačkoliv falšování satelitních snímků za pomoci popsaných technologií se zdá být zcela novým fenoménem, problematika zkreslování geografických údajů je mnohem starší. Jen byla dříve prováděna méně sofistikovaným způsobem.
Stačí si vzpomenout na snahy našich předků, kteří záměrně překreslovali mapy a doplňovali do nich smyšlené údaje. Tu a tam tak mohl vzniknout nový dům, ulice, nebo třeba rovnou celá neexistující zátoka. Tyto mapy pak podsouvali nepřátelům.
„Jde o fenomén, který je starý stovky let,“ potvrdil Zhao. Přesto je podle něj nyní potřeba k problematice přistupovat s daleko větší obezřetností. „Nové je to v tom, že zfalšované satelitní snímky jsou až neuvěřitelně realistické. Netrénované oči by je snadno mohly považovat za autentické.“
To má dle Zhaa co dočinění především s tím, že jsou zpravidla publikovány vládami jednotlivých zemí nebo profesionálními organizacemi, kterým lidé povětšinou důvěřují. I proto hodlá spolu se svými kolegy ve své práci pokračovat a nadále na problém takzvané „deepfakeové geografie“ upozorňovat.
ČLÁNKY DO MAILU