Skupina 85 lidskoprávních organizací žádá technologické firmy Amazon, Google a Microsoft, aby vládám neprodávaly umělou inteligenci umožňující rozpoznávání obličejů. Aktivisté se obávají jejího zneužití. Přístup jednotlivých firem k problému se diametrálně liší.
Technologie pro rozpoznávání obličejů dává vládám a státním orgánům nástroj namířený proti imigrantům a náboženským i etnickým menšinám. “(Technologie) ohrožuje bezpečnost občanů a také podrývá důvěru veřejnosti ve vládu,“ stojí v dopise, pod kterým je podepsána Americká unie občanských práv (ACLU) nebo Nadace na podporu svobody tisku (FPF).
Zakázat vládám používání těchto technologií, by bylo v humanitárním důsledku kruté, reagoval na výzvu aktivistů prezident Microsoftu Brad Smith pro web BusinessInsider. Narážel tím zejména na výzkum tzv. DiGeorgova syndromu. Při diagnostice této vzácné genetické nemoci používají vládní výzkumníci právě umělou inteligenci rozpoznávající obličeje. „Proč bychom měli bránit vládě identifikovat pacienty, kteří potřebují lékařskou pomoc,“ položil si Smith řečnickou otázku.
Ne každý software ovšem slouží vědě nebo lékařským účelům. ACLU varuje zejména před systémem Rekognition z dílny Amazonu. Společnost nabízí vládám Rekognition jako technologii pro sledování zájmových osob, monitorování veřejných prostranství a porovnávání tváří s databází s desítkami milionů osob. Amazon dokonce navrhl spárovat software s policejními osobními kamerami. Šéf Amazonu Jeff Bezos v samotné technologii problém nevidí. V rozhovoru s webem Wired ji přirovnal k tiskařskému lisu. „Společnost bude umět odolávat zneužívání nových technologií,“ řekl Bezos. „Zabere to ale čas,“ dodal.
O čínském datovém monitoringu veškerého lidského bytí čtěte v eseji:
Diktatura digitariátu
Odlišně, jako jediná z „velké trojky“, se k problému postavila společnost Google, která loni v prosinci odmítla tento druh technologií prodávat vládám, dokud nebudou vyřešeny veškeré etické problémy a pojistky proti zneužití. Google zároveň přislíbil spolupráci s dalšími organizacemi na identifikaci a řešení těchto otázek. Firma zároveň v prohlášení zkritizovala přístup svých konkurentů.
Proti poskytování těchto technologií vládám v minulosti protestovali zaměstnanci i akcionáři zainteresovaných firem. V lednu loňského roku skupina 19 investorů ovládajících až deset procent akcií Amazonu vystoupila proti poskytování systému Rekognition americkým vládním a státním úřadům. Investoři se obávali možných soudních sporů, které by mohl software vyvolat. „Neznáme omezení, parametry, ani metodiku, kterou Amazon zavedl,“ řekl tehdy mluvčí investorů John Harrington webu USA Today. “ Jsme znepokojeni některými vážnými problémy v oblasti ochrany soukromí,“ dodal.
Ještě ostřeji vystoupili loni na jaře proti svému zaměstnavateli někteří zaměstnanci Googlu. Poté, co zjistili, že se má firma podílet na zakázce Pentagonu spojené s kontroverzním programem dronů, jich téměř čtyři tisíce podepsaly protestní petici a dvanáct zaměstnanců podalo výpověď. Google později z další zakázky pro Pentagon v hodnotě deseti miliard dolarů vycouval s odvoláním na firemní zásady. „Nejsou to jen teoretické pojmy, jsou to konkrétní normy, kterými se bude řídit náš výzkum a vývoj a budou mít dopad na naše obchodní rozhodnutí,“ uvedl šéf Googlu Sundar Pichai.
Čtěte také:
Pavěda, nebo seriózní výzkum? Umělá inteligence rozpozná homosexualitu
Philip Morris do vídeňských trafik nasadil scannery obličeje. Kuřákům nabízí „cigarety na míru“
Úsvit digitálního rasismu? Ruský software rozpozná etnický původ člověka
