Úsvit digitálního rasismu? Ruský software rozpozná etnický původ člověka

28. 5. 2018

Moskevská firma NtechLab vyvinula software pro detekci etnického původu. Organizace na ochranu osobních údajů už kritizují i aplikace schopné rozpoznávat obličeje, etnická detekce by podle nich mohla podnítit rasovou nesnášenlivost ve společnosti.

Apokalyptickou vizi, že roboti budou vládnout lidem, může nahradit reálnější hrozba. Tou je rozpoutání rasové nesnášenlivosti mezi samotnými lidmi na základě pokroků umělé inteligence. Tato úvaha se objevila jako reakce na oznámení moskevské firmy NtechLab, jež nabízí software pro rozpoznávání obličejů FindFace.

Nově by umělá inteligence měla umět k obličejům lidí přiřadit i etnickou příslušnost. Algoritmus má na základě analýzy rysů obličeje ke každému jedinci přiřadit i etnický původ: evropský, africký, arabský.

I když po kritice obrázek s novým nástrojem ruská firma stáhla, panují obavy, kam až může umělá inteligence v oblasti rozpoznávání obličejů zajít.

Pomoc v maloobchodě i zdravotnictví

Ruská firma k rozpoznávání etnického původu uvedla, že software umí analyzovat charakteristiky, které netrénované lidské oko nedokáže zachytit. „Tato klasifikace může mít praktické uplatnění v maloobchodě, zdravotnictví, zábavním průmyslu i v jiných sektorech, protože poskytuje přesná a včasná demografická data za účelem zvýšení kvality služeb,“ píše NtechLab na svých stránkách. Rozpoznání etnické příslušnosti zákazníka může pomoci vyhledávat rychleji v databázi, dodala společnost.

Přesnost ruského softwaru ocenilo v loňském roce i americké ministerstvo obchodu. Program používá Moskva ve své síti 170 tisíc kamer.

Daleko za čárou

Už nyní organizace obhajující ochranu osobních dat, jako je americká nezisková organizace American Civil Liberties Union, kritizují firmy, jež nabízejí software pro rozpoznávání obličejů na fotografiích a záznamech bezpečnostních kamer. „Rozpoznávání etnického původu je daleko za dosavadními hranicemi,“ napsal server Quartz.

Takový nástroj dává bezpečnostním složkám různých států nebo technologickým firmám obrovskou moc a může to vést k rasovému rozdělování, aniž by to pomohlo při vyšetřování kriminality, obává se portál Quartz.

Přitom nejde o první případ takového nástroje. Už dubnu 2017 společnost Clarifai začala prodávat technologii umožňující identifikovat „multikulturní vzhled“. Zakladatel společnosti Matthew Zailer připustil, že takový nástroj může být zneužit, ale pevně věří, že bude na internetu používán hlavně pro „dobro“.

„Máme velkou víru v lidskost,“ napsal na firemním blogu Zailer. Používání demografických údajů by mělo vést například k ukončení ilegálního obchodování s bílým masem.