Facebook vypnul své roboty. Přestal jim rozumět

1. 8. 2017

Umělá inteligence se vymkla kontrole Facebooku. Provozovatel nejpopulárnější sociální sítě světa vypnul pár svých robotů poté, co si vymysleli vlastní jazyk. Výzkumníci jej nebyli schopni rozluštit a převést do angličtiny.

Pracovníci oddělení výzkumu umělé inteligence letos sestrojili chatovacího robota, který se měl naučit vyjednávat napodobováním lidského chování. Když ale dva z nich, nazvané Alice a Bob, výzkumníci Facebooku spárovali, aby spolu začali obchodovat, roboti vyvinuli vlastní dorozumívací prostředek. Jazyk využívá anglických slov, větná stavba ale působí děsivě.

Výzkumníci do programu nezabudovali odměnu za používání angličtiny, chatboti tak rychle vyvinuli vlastní termíny pro vyjednávání. „Agenti si vymysleli své kódy,“ cituje web telegraph.co.uk výzkumníka Facebooku Dhruva Batru. Ten tvrdí, že umělá inteligence jazyk zefektivnila způsobem podobným stenografickému zápisu.

Ukázka konverzace chatovacích robotů
Bob:	i can i i everything else . . .
Alice:	balls have zero to me to me to me to me to me to me to me to me to.
Bob:	you i everything else . . . .
Alice:	balls have a ball to me to me to me to me to me to me to me.

Poté, co Facebook roboty vypnul, oznámil významný pokrok v projektu tvorby chatovacího robota, který přemýšlí, konverzuje a vyjednává. Většina lidí prý nerozezná, zda hovoří s umělou inteligencí, nebo živým člověkem.

„Je to neuvěřitelně důležitý milník, ale kdo si myslí, že to není nebezpečné, strká hlavu do písku,“ komentoval událost britský profesor robotiky Kevin Warwick. „Nevíme, co si říkají. Kdyby se něco takového odehrálo ve vojenské oblasti, mohlo by to být smrtící,“ dodal.

Web The Independent ale uvádí, že v přepisu konverzace chatbotů se dají vystopovat jistá pravidla jejich jazyka. Způsob, jímž neustále zdůrazňovali svá jména, se zdá být součástí vyjednávání.

Některá z jednání vedených v bizarním jazyce navíc roboti dovedli do zdárného konce.