Zapojení umělé inteligence do byznysu se v dnešní moderní době pomalu, ale jistě stává tak trochu nutností. Toho si je vědoma i společnost Rohlik Group, která zmíněnou technologii aktuálně trénuje pro svoji síť internetových supermarketů. A to včetně české značky Rohlik.cz.
Potíž je, že postavit interní jazykové modely (LLM), které jsou jako generativní umělá inteligence běžně označovány, není jen tak – mimo jiné to vyžaduje optimalizovanou IT infrastrukturu. A zatímco většina startupů stále spoléhá na kapacity veřejných cloudů, Rohlik Group vsadila na privátní. Konkrétně na ten od české technologické společnosti ČMIS, jež na poli hostingu patří k největším hráčům u nás. „ČMIS je naším spolehlivým IT partnerem, který nám v této situaci potvrdil svoji schopnost rychle sehnat a postavit výkonný server včetně výkonných grafických karet,“ komentuje CTO v Rohlik Group Ondřej Klamt.
Konfigurace v hodnotě tří milionů korun má online prodejci zajistit provoz i velmi náročných aplikací pro strojové učení, rozpoznávání obrazu, analýzu dat nebo provoz velkých jazykových modelů. „V době, kdy je využití pokročilých technologií klíčové pro úspěšný byznys, se tak Rohlik Group může spolehnout nejen na samotný hardware, ale také na podporu a naše know-how pro jeho efektivní provoz,“ říká generální ředitel ČMIS Václav Svátek.
Od kontrolora po soukromou wiki
Umělou inteligenci Rohlik Group využije třeba na rozpoznávání kvality ovoce nebo ověřování správnosti objednávek. „Neustále hledáme a vyvíjíme nové způsoby, jak pomocí umělé inteligence zlepšit zákaznický servis. V současné době máme rozjeto hned několik iniciativ, které zákaznický problém pomocí umělé inteligence řeší,“ přibližuje Klamt s tím, že příležitosti hledají také v interních procesech. I zde má pomoci právě nová infrastruktura od ČMIS. „Díky dostatečné kapacitě nově dodaných grafických karet jsme byli schopni vytvořit vlastní LLM trénovaný nad interními daty, jako jsou interní wiki či data z reportingu,“ dodává.
Kromě toho najde zmíněná technologie uplatnění též v řadě firemních procesů. Může například fungovat jako taková interní wikipedie: „Zaměstnanec má možnost se prostřednictvím chatu velmi rychle dobrat k informaci, kterou právě hledá. Například jak funguje daný interní proces, jaká je politika pro schvalování nových pozic nebo třeba jak přesně funguje nějaká funkce v našem systému.“
Výhodou dle Klamta taktéž je, že díky infrastruktuře od ČMIS nemusí Rohlik Group při rozvoji těchto technologií sahat kvůli omezení výkonu k větším kompromisům. „Můžeme se soustředit na své byznysové potřeby,“ ujišťuje.
Technologie ale není všechno. Aby mohla firma vlastní modely trénovat, potřebuje kromě obrovského výpočetního výkonu i expertní know-how týkající se toho, jak optimálně navrhnout databáze a zajistit jejich maximální dostupnost.
„Zejména velké jazykové modely jsou mimořádně datově náročné, na disku běžně zabírají stovky gigabajtů. Jsou to v zásadě obrovské matice, které se musejí načíst do grafické paměti, aby nad nimi karta mohla provádět výpočty,“ míní Svátek a doplňuje, že z nemožnosti tyto výpočty provést se postupně dopracovali k tomu, že nejnáročnější operace zvládá jejich technologie v řádu hodin. „Nyní může klient například trénovat modely na rozpoznání obrazu, aniž musí významně komprimovat zdrojové obrázky nebo dělat další kompromisy,“ uzavírá.
