Členové výzkumného týmu umělé inteligence ve společnosti Facebook vyvinuli nástroj Melnet, který dokáže věrohodně napodobit hlas jedince, včetně kadence jeho řeči. Tímto způsobem vytvořili například zcela vymyšlené výroky zakladatele Microsoftu Billa Gatese.
Systémů, které převádí psaný text na řeč, vzniká v poslední době čím dál víc, Melnet od výzkumníků z Facebooku se ale od ostatních liší. Namísto zvukových vln, které zkoumají, jak se mění amplituda zvuku v průběhu času, využili spektogramy, které jsou kompaktnější a obsahují více informací.
Tvůrci Melnetu tímto způsobem už vytvořili zcela smyšlené výroky osmi známých osobností, například Billa Gatese, herce George Takeie, matematika Sala Khana či fyzika Stephena Wolframa. Při bližším poslechu jsou stále ještě mírně „robotické“, přesto však svým předobrazům odpovídají dobře.
Umělá inteligence tvoří uvěřitelné fake news. Autoři ji chtějí dát k dispozici veřejnosti
Melnet by podle svých tvůrců mohl být využit pro výrobu nových hlasových asistentů či hlasových modelů pro lidi s vadou řeči, kritici ale upozorňují na možné zneužití. Podvodníci by mohli vytvářet uvěřitelné podvrhy, které by zneužívaly jméno a pověst známých osobností.
Výzkumný tým složený z členů univerzit Stanford a Princeton, Institutu Maxe Plancka a společnosti Adobe se kromě audio složky zaměřil i na video a vytvořil algoritmus, který umí věrohodně změnit všechno, co člověk říká na videu. V anglickém jazyce je přibližně 44 fonémů a podle autorů algoritmu stačí čtyřicet minut dlouhé video na to, aby umělá inteligence sesbírala veškerá potřebná data a dokázala výsledný projev kompletně změnit podle záměrů uživatele. Na propagačním videu takto mění například slavnou větu z filmu Apokalypsa „Mám rád vůni napalmu po ránu“ u testovacího subjektu na „Mám rád vůni francouzského toustu po ránu“.
Podobným případem tzv. „deepfake“ je zdánlivě autentické video na sociální síti Instagram, které se na internetu objevilo před několika dny. Promlouvá v něm zakladatel Facebooku Mark Zuckerberg: „Na vteřinu si představte toto: Jeden muž s totální kontrolou nad ukradenými daty miliard lidí. Všechna jejich tajemství, jejich životy, jejich budoucnost. Kdo ovládá data, ovládá budoucnost.“
Autoři videa testují reakci Facebooku, který v květnu odmítl odstranit upravené video s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou, které bylo zpomalené tak, aby to vypadalo, že má Pelosiová potíže s artikulací. „Naložíme s tím stejně, jako se všemi dezinformacemi na Instagramu. Pokud jej nezávislí ověřovatelé informací označí za falešné, odfiltrujeme ho z doporučovacích rozhraní,“ uvedl mluvčí Facebooku.
Dále čtěte:
Sisyfovská práce. Škodlivý obsah z Facebooku nikdy nevymizí, přiznal technologický ředitel
Kladivo na Facebook a Google. Vláda chystá digitální daň pro internetové giganty
Tažení proti internetovým gigantům pokračuje. Rakousko zavede digitální daň
Spoluzakladatel Facebooku kritizuje Zuckerberga. Vládu USA vyzývá k radikální regulaci firmy
Kdo má zajistit Trumpovo znovuzvolení? Xenofobní senioři na Facebooku
Infografika: Facebook, tam kde kvete odpad
