S rozmachem umělé inteligence přichází i nový fenomén, takzvaný AI washing, jenž by se dal vysvětlit jako přeceňování systémů umělé inteligence (AI), které mnohdy nefungují tak sofistikovaně, jak daná firma deklaruje. Startupy i zavedené společnosti zkrátka jen chtějí jít s dobou a prezentují se jako průkopníci AI řešení. Mnohdy je ale teprve testují nebo pouze napojují své firemní systémy na ChatGPT, Gemini a podobné nástroje.
Používání AI technologie musel nedávno podle BBC obhajovat například Amazon, který ve svých kamenných prodejnách s potravinami instaloval technologii „Just Walk Out“ pro automatické vystavení účtenky bez nutnosti využití pokladen. Brzy se ale ukázalo, že téměř tři čtvrtiny nákupů ručně kontrolovalo zhruba tisíc zaměstnanců v Indii. Společnost se sice hájila tím, že lidé systém založený na umělé inteligenci pouze revidovali, ale přesto je možné její postupy považovat za praktiky AI washingu.
Myslíte si, že umělá inteligence v budoucnu zcela nahradí některé profese?
„Případ Amazonu, který poslední dobou rezonuje médii, se jeví spíše jako marketingový tah s vidinou ‚fake it till you make it‘ (v překladu předstírej to, dokud to sám nezvládneš – pozn. red.). Není se ovšem čemu divit, takovýto manuální nebo semi automatický provoz může sloužit k validaci obchodního modelu, vytvoření pilotního řešení a datové množiny pro trénování modelu,“ vysvětlil redakci Euro.cz Petr Hotovec, šéf společnosti Soft Vision.
Čím víc umělé inteligence, tím lepší firma?
Umělá inteligence je velkým trendem, a to zejména ve světě technologií. Z dat britsko-finského investičního fondu OpenOcean vyplývá, že v roce 2022 využívalo AI jen 10 procent startupů, zatímco loni už to byla více než čtvrtina a letos by měl jejich podíl překročit jednu třetinu. Otázkou ale zůstává, zda jde jen o prezentaci navenek, nebo o skutečně funkční řešení, které má ekonomický dopad.
„Zdá se, že některé firmy se domnívají, že pokud AI nezmíní ve své prezentaci, může je to znevýhodnit, bez ohledu na roli, kterou hraje v jejich řešení,“ řekl BBC jeden ze členů týmu OpenOcean Sri Ayangar a dodal, že jejich analýza ukazuje značné rozdíly mezi společnostmi, které umělou inteligenci využívají, a těmi s opravdu reálnými výsledky.
Analýza technologické investiční společnosti MMC Ventures z roku 2019 pak poukazuje na fakt, že až 40 procent firem, jež se označují jako AI startupy, umělou inteligenci téměř vůbec nevyužívá. „Tento problém přetrvává dodnes a objevují se i další úskalí,“ popsal generální partner zmínění firmy Simon Menashy s tím, že umělá inteligence je nyní dostupná pro každou společnost a dá se koupit za cenu standardního softwaru. Produkt bez AI tak většinou stačí jen nasadit na rozhraní chatbota.
Potřeba jasné definice a regulace
Objevují se názory, že zavádějícím informacím o implementaci a využívání AI nahrává příliš široká definice tohoto pojmu. Myslí si to například Douglas Dick, vedoucí oddělení rizik pro vznikající technologie v KPMG ve Velké Británii. „Kdybych se zeptal lidí v této místnosti, jaká je definice AI, každý by odpověděl jinak,“ zdůraznil s tím, že je pro zavedení jasné a jednotné definice.
AI washing přitom může mít pro podniky velmi nepříznivé dopady, protože vede k přeplácení technologií a znesnadňuje plnění provozních cílů, což by mělo být díky umělé inteligenci naopak jednodušší. Navíc takové praktiky nevrhají dobré světlo ani na AI startupy, které přinášejí skutečně přelomová řešení. Jinými slovy, trh se neobejde bez regulací, které například v rámci Evropské unie už existují. Ovšem ani takzvaný AI Act nebylo bez přesně dané definice snadné vytvořit.
„Ke složitosti situace přispívá také to, že často není jasné, co AI je a co není. Zjevné to bylo i při vytváření unijní regulace AI. Osobně tedy raději používám pojem strojové učení, což je podmnožina umělé inteligence,“ uzavřel Hotovec.
