Velký policejní bratr

„Balancovali jsme mezi bezpečností a velkým bratrem, ale to je asi normální.

I když mám někdy pocit, že se nad tím dnes snad ani moc neuvažuje,“ vzpomíná Tomáš Hudeček na dobu, kdy v letech 2013 a 2014 jako primátor hlavního města Prahy řešil novou koncepci kamerového systému. Dnes má díky této koncepci metropole zejména v centru ty nejmodernější kamery schopné i na velkou vzdálenou identifikovat v podstatě cokoli. Když ale loni žádala policie pražský magistrát o spuštění pilotního provozu systému na rozpoznávání obličejů, vedení Prahy to odmítlo.

To však policii neodradilo. Před několika týdny její zástupci oznámili, že od společnosti Cogniware koupili špičkový face recognition software. Systém umí rozpoznat hledaného člověka během chvíle. V zadávacích podmínkách byl požadavek, aby pro server dané konfigurace došlo k identifikaci do patnácti vteřin z databáze čítající až 40 milionů osob. Vysoutěžený software to umí za jednu vteřinu. Systém je založený na umělé inteligenci a má vysokou spolehlivost. Autoři tvrdí, že úspěšnost rozpoznání tváře je 99,4 procenta.

Do jaké míry budou smět vyšetřovatelé nový software nakonec využít, zatím není jasné. Budou se muset vypořádat s novou legislativou, především nařízením o ochraně osobních údajů označovaným jako GDPR. A také s politiky. „Nic se nezměnilo, na území Prahy velkého bratra nechceme,“ říká nyní náměstek primátora Prahy Petr Hlubuček, který má v gesci oblast bezpečnosti. Podle Hlubučka nebude možné bez souhlasu magistrátu tento software v hlavním městě využívat. Na území Prahy je nyní 4765 kamer (viz box Praha pod kamerami). „Na druhé straně již dnes má policie a Bezpečnostní informační služba ze zákona daný neomezený přístup nejen k online sledování kamer, ale může pracovat i s archivovaným záznamem,“ upozorňuje Hlubuček.

Ochrana dat

Kromě politiků se už ozval také Úřad na ochranu osobních údajů (ÚOOÚ). „S přihlédnutím k využití nových technologií by taková zpracování osobních údajů mohla vést k vysokému riziku zásahu do práv a svobod subjektů. Považujeme za nezbytné, aby zástupci policie navrhovaný postup s ÚOOÚ projednali. Oficiální žádost Policie ČR o projednání této věci jsme však zatím neobdrželi,“ sdělil týdeníku Euro Vojtěch Marcín z ÚOOÚ. Nutnost konzultace s úřadem navíc vyplývá z GDPR a zákona o ochraně osobních údajů.

Právě nařízení GDPR paradoxně umožnilo, že policie smí kromě využívání všech veřejných fotografických databází obyvatel zároveň sama vytvářet pravidelně aktualizované seznamy digitálních podob osob. Umožnila to novela zákona o Policii ČR, která byla přijata loni v souvislosti s přijetím zákona o zpracování osobních údajů. Novela dostala do zákona ustanovení 66 písmeno a. Díky zmíněnému paragrafu se například rozšířil účel pro zpracování zmíněných dat a také zavedení nepřetržitého přístupu k některým databázím.

Důvodová zpráva ke zmíněné novele v podstatě potvrzuje, že policie se softwarem na detekci obyvatel počítá.

Alespoň tedy na území hlavního města.

„Navrhovaná změna přináší policii možnost softwarového vyhledávání a rozpoznávaní obličejů, která v případě potřeby dokáže významným způsobem zkrátit čas k odhalení pachatele, případně zabránit dalším hrozícím útokům,“ píše se v důvodové zprávě k loňské novele. Bezpečnost je v tomto případě argumentem číslo jedna. Například v Brně se ale s něčím podobným vůbec nepočítá, jak potvrdil týdeníku Euro mluvčí brněnské městské policie Jakub Ghanem.

Když před dvěma lety sedmičlenná skupina cizinců brutálně napadla číšníka za obchodním centrem Quadrio v centru Prahy, policisté měli velmi rychle k dispozici záznamy z kamer. Násilníky se ale podařilo chytit teprve až díky občanům, kteří na zveřejněných záznamech pachatele poznali. S novým softwarem by mohli být kriminalisté mnohem rychlejší. Pokud se jim podaří prokousat se přísnou legislativou, což podle právníků nebude úplně snadné.

„Ve chvíli, kdy zákon stanoví, jaké osobní údaje z jakých databází může Policie ČR využívat, sice nelze hovořit o porušení GDPR, a to v tom smyslu, že by police využívala nadbytečné osobní údaje, pro nadbytečné účely či bez právního důvodu, přesto se ale domnívám, že pokud by bez dalšího jednání začala police využívat data pro tento face recognition program, došlo by k porušení GDPR. Jedná se o velmi rozsáhlé zpracování zahrnující automatizované procesy, které bezesporu budou vyžadovat posouzení vlivu na ochranu osobních údajů,“ upozorňuje právník Jiří Hradský z advokátní kanceláře Sedlakova legal.

Policie ujišťuje, že veškeré využití a zpracování dat bude v souladu s platnou legislativou. „Využívání jakýchkoli centrál ních databází je podmíněno akceptováním platné legislativy, na které se podílí i Úřad pro ochranu osobních údajů. Tento případ samozřejmě není výjimkou,“ říká Ondřej Moravčík z odboru komunikace Policejního prezidia ČR.

Zbraň, chůze, hlas

Software rozlišující obličeje funguje už několik let na pražském Letišti Václava Havla. Kolik je zde kamer, ale letiště z bezpečnostních důvodů nezveřejňuje. Kamery využívá cizinecká policie zejména pro detekci hledaných osob a nejedná se o systém založený na umělé inteligenci. Software, který nyní policie nově nakoupila, je prý mnohem spolehlivější. „Využívá systémů neuronových sítí pro vytvoření počítačového modelu. Předchozí generace softwaru nebyly takto naprogramovány a využívají jiných principů pro vyhledání shody obličeje. Tyto starší verze nedosahují ani zdaleka výkonnosti a spolehlivosti, které má náš systém,“ poznamenal Jan Račko, šéf a spoluzakladatel společnosti Cogniware, která vyhrála výběrové řízení. Na jakých datech byla umělá inteligence vycvičena, tedy například zda se učí i na veřejných informačních kanálech, jako jsou sociální sítě, je součástí know-how, které vývojáři nezveřejňují. „Máme ověřeno, že náš systém bez problémů pracuje s dvaceti miliony fotografií v databázi. Předpokládáme, že jsme schopni zpracovávat ještě mnohonásobně více, ale v praxi je ověřen tento počet,“ upřesňuje Račko.

Mezi seznamy osob s fotografií, ze kterých policie při hledání lidí čerpá, jsou kromě těch vnitrostátních, jako jsou registr občanských, řidičských a cestovních průkazů nebo rejstřík trestů, také mezinárodní databáze hledaných osob, do kterých mají české úřady přístup. V rámci speciální spolupráce s ostatními zeměmi lze ale pracovat i s registry obyvatel jiných států.

Software od Cogniware má mnoho dalších funkcionalit a neomezuje se jen na obličej. „Policie ČR v zadání veřejné zakázky požadovala systém pro rozpoznávání tváří. Rozpoznávání hlasu a chůze, případně jiných biometrických charakteristik osob a objektů nebylo v rámci tohoto výběrového řízení požadováno,“ upřesňuje Račko. Cogniware nyní připravuje rozšíření svého systému o analýzy sociálních sítí, to ale stejně jako rozpoznávání hlasu a chůze prý stojí mimo zájem tuzemské policie.

Otázku, zda bude využívat i veřejně přístupné obrazové materiály jako například data ze sociálních sítí, zatím policie neumí zodpovědět. „Jelikož jsme stále v testovací fázi, nelze říci, zdali budeme software využívat se všemi jeho náležitostmi.

V rámci pilotního testu jsme samozřejmě zkoušeli získávat informace z veřejně přístupných databází,“ sdělil Ondřej Moravčík z odboru komunikace Policejního prezidia ČR.

Software značky Cogniware využívá například Saúdská Arábie, Jordánsko nebo Bahrajn. „Tyto státy mají volnější pravidla, co se ochrany osobních údajů týče,“ upozorňuje Račko. „Využívají proto schopnosti systému i pro běžné úkony. Systém je například schopen identifikovat VIP klienty na pobočce už při vstupu do banky,“ dodává.

Hamáček ve hře

Loni na podzim, když vyšlo najevo, že Krajské ředitelství policie Hlavního města Prahy poslalo pražskému magistrátu žádost o spuštění pilotního face recognition projektu na vybraných kamerách, musel hasit emoce ministr vnitra Jan Hamáček. Prý šlo jen o snahu vyvolat diskusi. Server irozhlas.cz ale zmíněnou žádost zveřejnil.

Policie v ní požaduje souhlas s „ověřením funkčnosti vybraných lokalit městského kamerového systému s funkcionalitou face recognition“. V žádosti vytyčuje tři důvody. Prvním z nich je nutnost zvýšit bdělost na místech s vyšší koncentrací osob v souvislosti s vyhlášením prvního stupně ohrožení terorismem, dalšími důvody jsou pak nelegální migrace a opatření související s drogovou trestnou činností.

Hamáček tehdy ujišťoval, že před plným využitím takového systému bude potřeba široce diskutovat, zda nejde o porušení ochrany osobních údajů.

Podobné technologie se využívají ve většině zemí Evropské unie. Důvodem je ochrana proti terorismu a nejzávažnější kriminalitě. Systémy se postupně zlepšují a zpřesňují i díky využívání umělé inteligence. Server Euractive loni zveřejnil dokument, ze kterého vyplývá, že Evropská unie hodlá využívání této technologie omezovat kvůli obavám ze zneužití.

Nechvalně proslulým příkladem toho, kam se může sledování občanů posunout, je v této souvislosti Čína. Tamní obyvatelstvo má sledovat až 200 milionů kamer, a občané jsou tak pod stálým dohledem. S pomocí umělé inteligence čínské úřady vytvářejí i široké databáze nesouvisející s trestnou činností. Třeba podle toho, kdo kolik dluží. Umělá inteligence prý dokonce ověřuje identitu i v šanghajských lékárnách při nákupu některých léků.

Kromě policistů, politiků a právníků se k tématu přirozeně vyjadřují i experti na komunikační a digitální technologie. Ti zatím obavy ze zneužívání získaných dat spíše krotí. „V České republice bych se asi nějakého masivního užívání nebál.

Kvalita záznamů z některých městských kamer stále není dostatečná a celý ten systém je velmi náročný. Navíc stačí, aby se člověk díval do země, a neodhalí vás žádná kamera,“ poznamenal Jiří Přinosil z Fakulty elektrotechniky a komunikačních technologií Vysokého učení technického v Brně. Vývoj softwaru jde ale velmi rychle dopředu. V souvislosti s koronavirovou pandemií už někteří vývojáři pracují na tom, aby bylo v budoucnu možné rozpoznávat osoby nosící roušky. Některé systémy už dokážou rozpoznat, zda dotyčný má u sebe zbraň, jiné zase umějí detekovat konkrétní situace, zda se jedná o rvačku, nebo o jiný typ incidentu. „Aby kamery v ulici byly schopné rozpoznávat všechny a běželo to samo po celém městě, to je sice zatím trochu sci-fi, ale neříkám, že třeba za tři roky to nebude možné. Vývoj jde rychle,“ uvedl Martin Urban ze společnosti Eyedea Recognition. Podle něj je však nasazování tak sofistikovaných systémů v Evropě v podstatě zbytečné. „Jednak je to drahé a dneska už je každý trasovatelný třeba pomocí mobilního telefonu, ten o vás poskytne mnohem víc informací a detailnějších.

To je pro mě mnohem nebezpečnější,“ uzavřel Urban.

Praha pod kamerami

Hlavní město vlastní městský kamerový systém (MKS), který nyní čítá 4765 kamer.

Samotný magistrát „vybudoval“ 1100 kamer.

Pro srovnání - v roce 2009 to bylo 572 kamer.

Do MKS jsou ale integrovány ještě další kamery. Patří sem stanoviště Technické správy komunikací hlavního města Prahy, což jsou dopravně přehledové kamery, úseková měření rychlosti a detekční kamery monitorující průjezdnost. Do MSK se počítají i kamery dopravního podniku, které jsou instalovány především ve stanicích metra a na eskalátorech, a kamery Správy služeb hlavního města Prahy včetně lokálních kamerových systémů jednotlivých městských částí.

Všechny kamery instalované po roce 2010 jsou moderní IP kamery. Hlavní město využívá online kamery zejména pro krizové řízení, například při povodních. Na kamerách je aktivovaná detekce na ochranu památek a pro rozpoznání registračních značek, které jsou porovnávány s registrem odcizených vozidel. Tyto informace se ale týkají pouze online přenosu, ke kterému má Praha přístup. Metropole nemá přístup do archivu dat, ten má pouze policie.

V roce 2016 byla zastupitelstvem hlavního města po letech diskusí přijata finální podoba koncepce rozvoje a zajištění provozu pražského MKS na deset let. Koncepce předpokládá i výstavbu nových kamer, na jejich výstavbu a obměnu byla v roce 2018 uzavřena rámcová smlouva.

O lokalitách výstavby nových kamer rozhoduje na základě koncepce expertní tým ve složení zástupců města, policie a dalších složek hlavního města. Například loni Praha evidovala více než sto požadavků na výstavbu kamer od občanů, městských částí či policie.

Koncepce rovněž předpokládá integraci lokálních kamerových systémů třetích stran. V posledních letech byly takto integrovány do městského kamerového systému vybrané kamery autobusového nádraží Florenc, hlavního vlakového nádraží nebo městských částí.

99,4procentní úspěšnost rozpoznání tváře má program společnosti Cogniware. I ten nejdokonalejší software už selhal Systém rozpoznávání občanů by měl být používán jen v mimořádných případech, říká bezpečnostní expert Ivo Popardowski, šéf společnosti ABAS IPS Management » Co si myslíte o tom, že by kamery ve veřejném prostoru v reálném čase porovnávaly záznamy s nějakou databází občanů? Podobné technologie jsou využívány prakticky ve všech zemích Evropské unie právě pro ochranu proti nejzávažnější kriminalitě, jako je třeba terorismus a podobně. Vyplývá to mimo jiné z takzvaného Prümského rozhodnutí, což je Rozhodnutí Rady 2008/615/SVV o přeshraniční spolupráci, zejména v boji proti terorismu a přeshraniční trestné činnosti. Uvažovalo se dokonce i o trvalém propojení tohoto systému s podobným systémem v USA, ale k tomu zatím pravděpodobně nedošlo. Tady skutečně významně převažuje ochrana občanů a s ohledem na účel tohoto systému nelze prozatím předpokládat, že by byl využíván ke sledování občanů kvůli přestupkům a podobně. » Dovedete si představit, že by došlo v Česku k širšímu využití takového softwaru na městských kamerových systémech? Ano, nebudu konkretizovat, ale pár měst už tento systém má, včetně příslušných uživatelských licencí. Ale pokud je mi známo, zatím jej žádné město formálně nevyužívá. I dosavadní pohled Úřadu pro ochranu osobních údajů byl na tuto problematiku velmi zdrženlivý. Úřad například odmítl souhlasit s tím, že by pořadatelé fotbalových zápasů mohli tento systém používat při kontrolách vstupu fanoušků na stadiony. Podle mého názoru by měl být systém rozpoznávání obličejů používán jen v mimořádných případech a rozhodně by se neměl stát běžným nástrojem sledování občanů. Jako rozumné bych viděl povolování aktivace tohoto systému soudy pro určitý konkrétní účel. » V jakých případech by to mělo smysl? Pokud bychom dokázali zabezpečit opravdu kvalitní správu, podobné systémy by smysl měly, a to minimálně v potírání kriminality, nejhorších případů vandalismu a podobně. Dnešní systémy založené na zpracování biometrických dat umějí velice přesně rozeznat například biomechaniku chůze, ale třeba i mimiku obličeje či nestandardní chování. Nicméně i takto dokonalé systémy již několikrát ve světě selhaly a došlo k záměně osob. Takové selhání by pak mohlo mít doslova fatální následky. Proto jen dobrý a vysoce spolehlivý systém může být používán ve prospěch lidí. V dopravní infrastruktuře se už dávno využívají systémy, které umějí rozeznat rychlost, směr jízdy, překročení čáry nebo vyhodnocovat statistické údaje a mnoho dalšího. Nicméně zejména při využívání umělé inteligence musejí být tyto systémy a jejich používání striktně orientovány i na lidskoprávní rovinu a měla by v nich být zahrnuta i lidskost jako taková. » Můžete říct, jaká jsou podle vás rizika zneužití takového systému? Vše, co člověk vymyslí pro dobro, může taky zneužít pro zlo. Tím myslím zneužití informací produkovaných systémem, a proto je nezbytné zabezpečit správu a přístup k podobným systémům na prvním místě. Vyloučit samozřejmě nelze ani technickou chybu. Takové chyby již byly ostatně zaznamenány. » Co ještě tyto softwary umějí vedle rozeznání obličeje, chůze či nestandardního chování? Nahradí třeba jednou cestovní pasy? Dnešní systémy umějí velice dobře rozeznat například rvačku, neobvyklé držení těla, termovizní systémy umějí jít i hlouběji, protože třeba dovedou odhalit zbraň nebo upozornit na výbušniny, drogy a díky vyspělým algoritmům dokonce odhadnout rozpoložení člověka a upozornit operátora takového systému, aby scénu vyhodnotil sám. Tyto funkce jsou využívané na letištích, ve vysoce rizikových provozech a v objektech zvláštního významu všude ve světě. Kamerové systémy s biometrickými funkcemi mohou být velice kvalitním doplňkem jiných systémů. Horizont, kdy by mohla biometrická data nahradit osobní a cestovní doklady, si netroufám předpovědět. Vidíme to třeba i na problémech s autonomními automobily, kde se stále nedaří odstranit některé problémy. » Měli bychom se tedy připravovat na velkého bratra? Představa, že vás na každém kroku sledují kamery, které znají vaši identitu, a záběry mohou být zneužity třeba tak, že někdo prodá jejich část, kde máte obchodní schůzku s partnerem, kterou chcete zveřejnit až v pravý čas, je dostatečným důvodem k tomu, aby se k problematice kamer s biometrickými funkcemi přistupovalo velmi obezřetně. Velký bratr je větší a větší. S tím se nedá celkem nic dělat. Ale neměl by nám ten velký bratr přerůst přes hlavu. JAR

O autorovi| Petra Jaroměřská, jaromerska@mf.cz