Jako jedna z reakcí na protesty proti rasismu, odehrávajících se ve Spojených státech, se v posledních dnech společnost IBM rozhodla ustoupit od distribuce technologií zaměřených na rozpoznávání obličejů. Jedním z faktorů je problematika omezené funkčnosti těchto systémů u etnického obyvatelstva, příslušníků menšin a žen. V minulosti se už několikrát ukázalo, že technologie dosud fungují s velkou chybovostí a to zejména z důvodu nereprezentativních vstupních dat.
Souhlasíte s použitím technologií pro rozpoznávání obličejů v ulicích?
IBM se nadále nechce podílet na technologiích, které podle společnosti slouží k plošnému dohledu, rasovému rozřazování, porušování základních lidských práv a svobod nebo jiných přístupech, které by porušovaly hodnoty a principy IBM, tedy důvěru a transparenci.
Umělá inteligence, díky které má rozpoznávání tváří fungovat lépe, často vycházela ze snímků vybraných vývojáři. Tato data však byla zavádějící, jelikož se většinou jednalo o bílé muže a neodráželo to tak různé odstíny kůže ani pohlaví zastoupená ve společnosti. Kvůli tomu nebyla technologie schopna správně rozpoznávat tváře. U některých skupin obyvatelstva docházelo k chybovosti kolem 30 procent.
„Věříme, že je na čase abychom začali s celostátní debatou, zda by měla být technologie rozpoznávání obličejů využívána ze strany státní moci,“ uvedl Krishna v prohlášení. Dosud v Americe neexistuje federální zákon, který by použití technologie omezoval, či jinak upravoval. Jednotlivá města a státy tak přistupují k různým řešením – někde se použití výrazně omezí, jinde dostane zelenou.
IBM je první z velkých technologických firem, která se rozhodla pro nerozvíjení technologie rozpoznávání obličejů. Amazon dva dny po oznámení společnosti IBM oznámil, že v následujícím roce přerušuje distribuci systému Rekognition pro americkou policii. V roce 2018 Americká unie pro občanské svobody (ACLU) demonstrovala nedokonalost systému, když dokázala, že Rekognition špatně přiřadil 28 členů Kongresů k zločinců, kteří byli vybraní z 25 tisíc policejních identifikačních fotek po zatčení.
Podle kritiků z ACLU technologie dochází při rozpoznávání
identity k porušování soukromí například v případě společnosti
Clearview AI – ta v Illinoiss spojuje biometrické údaje s internetovou
stopou zaznamenané osoby. Zástupci ACLU
tvrdí, že sbírání těchto dat bez oznámení nebo bez získání souhlasu od daného
člověka znamená porušení místních zákonů. „Použití rozpoznávací technologie
Clearview získal více než tři miliardy identifikačních fotek, které jsou
dostupné online. To vše bez vědomí- více či méně – těch, co jsou na fotkách,“
tvrdí představitelé ACLU.
