Některé prostory pražské pobočky nejstarší IT firmy na světě, 111leté IBM, podléhají nejpřísnějšímu utajení. Kdo by se sem chtěl dostat, musí projít přes několik dveří opatřených bezpečnostními zámky s implementovanou umělou inteligencí a vlastnit bezpečnostní prověrku. „Když tu děláme na projektech pro armádu a policii, tak sem nesmí ani můj nadřízený,“ říká šéf IBM pro střední a východní Evropu Martin Švík, zatímco sedí na židli před jedním z počítačů, který se používá pro trénování a aplikaci umělé inteligence (AI).
IBM celosvětově produkuje na 10 tisíc patentů za rok. Její vynálezy přitom zahrnují nejen průlomy v oblasti AI a kvantových počítačů, jako jsou virtuální asistenti, bezpečností systémy a algoritmy, které se učí v přeneseném smyslu psát diktáty, ale právě i projekty pro silové složky různých států. „Armáda a policie si samy regulují, kdo s nimi může spolupracovat. Pro těsné partnerství potřebujete prověrku od Národního bezpečnostního úřadu,“ popisuje Švík.
Navázaní spolupráce trvá dlouho a podléhá výběrovým řízením: „Některé projekty spočívají v tom, že je vzděláváme ohledně našich technologií, aby věděli, jak je mohou sami používat. Pak si je odnesou, nainstalují u sebe a pracují s daty sami. My ve většině případů nevíme, jakým způsobem technologii používají. Je i těžké řešit podporu, protože problémy se těžko reprodukují. V těchto případech pracujeme jen s testovacími daty, o těch ostrých nikdy nevíme.“
Obecně mívají ozbrojené síly zájem především o analytické nástroje a bezpečnostní softwarová řešení, což znamená například aplikaci statistických modelů a AI na strukturovaná i nestrukturovaná data. V praxi to může být třeba obecný vyhledávač na analýzu textů (v přirozeném jazyce), na vyhledávání ve fotografiích, zvukových záznamech nebo i videích.
„V rámci Evropy jsme dělali například projekt pro armádní složku, která měla vojáky na cizím území, kdy jsme používali umělou inteligenci na vyhledávání automobilů a dalších objektů ze satelitních snímků. Oni to jinak prováděli manuálně – mají oddělení, kde desítky lidí procházejí málo osídlené oblasti manuálně a hledají na fotkách podezřelé věci. My jsme testovali umělou inteligenci, která s vysokou mírou přesnosti objekty najde a dramaticky zkrátí čas potřebný na analýzu a k dohledání veškerých cizích automobilů, které mohou armádu na výjezdech ohrozit. Měli jsme málo trénovacích dat, a proto jsme spolupracovali s firmami, které programují letecké simulátory, a spoustu dat jsme museli také augmentovat,“ vypráví manažer.
Bez umělé inteligence ani ránu
Umělá inteligence je dnes zabudována de facto ve všem. Nachází se v algoritmech sociálních sítí, máme ji v mobilech ve formě hlasového vyhledávání a majitelé chytré domácnosti s ní doslova i bydlí. Najdeme ji na téměř každé zákaznické podpoře, jelikož organizace se snaží být zákazníkům k dispozici 24 hodin denně sedm dní v týdnu. Což by žádný z operátorů zahlcených opakujícími se dotazy bez újmy na duševním zdraví skutečně nevydržel.
„Téměř jakákoli činnost, kterou lidé opakují stále dokola podle popsatelného vzorce, bude pravděpodobně nahrazena umělou inteligencí,“ myslí si Švík. Například v call centrech slouží roboty k tomu, aby bez propojení s lidským pracovníkem odbavily jednoduché otázky, což specialistovi umožní se věnovat komplikovaným problémům. Případně mu počítač na základě analýzy hlasu napoví, jakou má zákazník náladu a který produkt z těch, co si zatím nezakoupil, by mohl potřebovat.
Že je čtení myšlenek lidí a generalizování jejich uvažování podle náhodně sesbíraných datasetů z etického hlediska kontroverzní? Záleží na úhlu pohledu. Faktem každopádně je, že tak s trochou nadsázky činí každý druhý startup, který vytrénoval robota na specializovanou oblast. „My ale jdeme dál. Máme oddělení na etiku v AI, kde se věnujeme trasování způsobu, na základě něhož se umělá inteligence rozhoduje, jakým způsobem to bylo natrénováno a jestli jsou trénovací data správně zastoupena, abychom odstranili zkreslení,“ prozrazuje Švík.
„Největší problém pro byznysově orientované lidi je obecně moment, kdy jim předáte černou skříňku, která se nějak rozhoduje a oni nejsou schopni vyhodnotit proč a jak. Proto k AI měli na začátku hodně velký odpor a i proto se stále více uplatňují nástroje pro transparentnost rozhodování a validaci trénovacích dat,“ dodává.
Přehnaná očekávání
Jako příklad kauzy, jež zakořenila v lidech pocit, že od umělé inteligence hrozí nebezpečí, zmiňuje Švík algoritmus na rozpoznávání tváří od nejmenovaného softwarového giganta. Ten využil veřejně dostupné profilové obrázky z Facebooku a dalších sociálních platforem a nechal na nich neuronovou síť trénovat. Nikdo si však nevšiml, že mezi fotografiemi se objevuje minimum žen tmavé pleti. Počítač tyto osoby nebyl schopen vůbec rozpoznat.
„To byl přesně ten typ úlohy, kdy si někdo myslel, že v tak obrovském množství dat budou určitě zastoupeny všechny národnosti a bude to fungovat. Nefungovalo. Proto nad modely získáváme kontrolu trasováním a transparentností, zabýváme se komplexní správou takovýchto modelů a etablujeme se v této oblasti (MLOpps),“ zdůrazňuje manažer IBM.
„Donedávna se dělo, že zákazník vypsal výběrové řízení, určil si kritéria, ale nikdo nestudoval, jak je AI natrénovaná. Jediným požadavkem byla přesnost, která však byla popsána příliš vágně,“ pokračuje Švík. Teď jsou prý největším problémem stále přehnaná očekávání klientů a přesvědčení, že AI pomůže vyřešit vše nedořešené. Mnoho zákazníků také začíná narážet na problém nemožnosti jednoduše spravovat tyto modely z jednoho místa, sdílení a přepoužití modelů v rámci celé organizace. Umělá inteligence sice zvládá řešit často i miliony interakcí denně, ale jen sbírání dat a trénink zaberou týmu během její implementace značné množství času. Komplexita a rozsah řešení pak navíc značně ovlivňuje i její cenu.
Existují kupříkladu jednoduché opensource programy, jež dokážou vygenerovat odpověď na otázku a firmy si je zvládnou implementovat i bez asistence IBM. A pak jsou tu zakázky typu virtuálního asistenta v internetovém bankovnictví George od České spořitelny.
„V případě, že se člověk přihlásí, virtuální asistent s ním komunikuje přirozeným jazykem a snaží se vyřešit dotazy zákazníka. Nejsofistikovanější asistenti, které jsme implementovali, mají integrace do backendových systémů a umějí pomoci s automatizací. Největší implementace zvládají tisíce interakcí naráz a například jedna z největších francouzských bank již dokáže díky naší automatizaci odbavit 30 procent veškerých kontaktů se zákazníkem pomocí AI,“ vyjmenovává.
Naučit robota česky
Švíkovy týmy v Česku asistenta přímo nevytvářely, ale spolupodílely se na různých jazykových mutacích – vývojová centra firmy o 300 tisících chytrých hlavách a obratu v hodnotě 73,6 miliardy dolarů ročně leží v jiných zemích. Na pražském Chodově se nachází centrum se stovkami zaměstnanců, kteří se starají o distribuci, škálování a implementace IBM produktů ve střední a východní Evropě. V praxi to znamená, že mají přístup ke všem softwarovým i hardwarovým produktům IBM, které se snaží nasazovat sami nebo s obchodními partnery dle požadavků zákazníků.
„V rámci lokálního týmu teď pracujeme například na zakázce pro umělou inteligenci, která počítá krabice na paletě, protože klientovi se ztrácelo zboží. Jedné bulharské bance zase pomáháme s automatizací procesů a zkracujeme tak čas potřebný ke zpracování hypotečních úvěrů. Digitalizujeme, zbavujeme firmy papírů a řešíme i například bezpečnostní systémy, které monitorují diskuzní fóra hackerů, a zároveň porovnáváme bezpečnostní opatření ve firmách, abychom ihned upozornili na blížící se hrozby,“ vypočítává Švík.
Pro společnost, která určuje trendy ve světě informačních technologií od dob psacích strojů, pracuje šestnáctým rokem a o budoucnosti má zcela jasno: „Čeká nás nejen masivní nasazení AI, ale i kvantových počítačů, kterým IBM nyní věnuje značnou pozornost a připravuje na ně IT odborníky.“
