Přes 1500 matematiků podpořilo výzvu k bojkotu spolupráce s policií. Otevírají diskusi o etice používání matematických nástrojů ozbrojenými složkami a vyzývají své kolegy k odpovědnějšímu přístupu.

„Bojkotujte spolupráci s policií,“ vyzývá titulek otevřeného dopisu zaslaného 15. června do jednoho z nejčtenějších matematických časopisů na světě Notices of the American Mathematical Society, který by měl být otištěn v říjnovém čísle. Dopis vzešel z pera osmi významných amerických matematiček a matematiků a svůj podpis pod něj už připojilo nejméně 1500 dalších matematiků, a to nejen z amerických univerzit.

Autoři a autorky dopisu ve světle policejní brutality a nedávných vražd George Floyda, Breonny Taylor a Tonyho McDadea považují odbornou spolupráci s policií za nemorální a vyzývají matematickou komunitu k jejímu bojkotu. Dodávají, že jde o to nejmenší, co mohou odborníci udělat, aby snížili dopad strukturálního rasismu a policejního násilí ve Spojených státech. Zdůrazňují, že se nejedná o abstraktní výzvu pouze symbolického charakteru. Mnozí matematici totiž skutečně spolupracují s jednotlivými policejními sbory – zajištují například analýzu dat a modelování.
Prediktivní nástroje

Tak například společnost PredPol nabízí nástroje takzvané prediktivní policejní práce (predictive policing). PredPol dodává policejním sborům systémy, které analyzují velké množství dat o kriminalitě a dokážou na jejich základě předvídat místa, kde by mělo dojít k trestné činnosti, a dokonce i to, jestli se bude jednat o organizované zločiny. Jeden ze zakladatelů PredPolu, antropolog Jeff Brantingham, organizuje i workshopy pro policii ve spolupráci s ICERM, institutem zaměřeným na experimentální matematický výzkum.

Podobné technologie nabízejí i další firmy a využívají jich policisté po celých Spojených státech. I u nás se ale uvažuje o zavedení prediktivních systémů, což naznačuje třeba studie Mapy budoucnosti, kterou vypracovala výzkumná organizace ACCENDO na objednávku Ministerstva vnitra. V Dánsku bylo prediktivních technologií využito pro předpovídání hrozících teroristických útoků. O podobných nástrojích si můžete přečíst více v článku Ondřeje Trhoně pro Radio Wave.

Existují studie vypracované zakladateli a zaměstnanci PredPolu, jež ukazují, jak se predikativní metody osvědčily v praxi. Vedou prý ke snížení kriminality v daných oblastech. Matematik Kristian Lum a politolog William Isaac poukazují naopak na to, že algoritmy používané PredPolem jsou nepřesné a příliš zjednodušující. V rámci vyhodnocení efektivity osmileté praxe PredPolu provedeném policejní komisí Los Angeles se mluví o tom, že je těžké vyvozovat, na kolik byl systém v otázce snížení kriminality efektivní. Dlouhodobě se objevuje kritika přílišného policejního dohledu (over-policing) ve vybraných komunitách, často menšinových. V důsledku větší přítomnosti policistů v těchto lokalitách a větší pravděpodobnosti zásahu (i nepřiměřeného) vůči Afroameričanům tak vzniká zaujatá a nepřesná statistika. Předpovědi založené na takové statistice jsou zákonitě rovněž zkreslené a přispívají k zakotvení nespravedlivého a rasistického přístupu policie.
Technologie pro rozpoznávání tváří

Podobné problémy se objevují ostatně i při použití strojového učení a umělé inteligence k rozpoznávání tváří. Ukazuje se, že algoritmy na rozpoznávání tváří vyvíjené ve Spojených státech mají velkou míru falešně pozitivních výsledků v případě Asiatů, Afroameričanů i původních obyvatel Ameriky. Existuje tedy větší pravděpodobnost, že systém takového člověka vyhodnotí omylem jako zločince. Největší riziko falešně pozitivních výsledků je u černošských žen.

Už na začátku června technologický gigant IBM v dopise adresovaném Kongresu Spojených států oznámil, že přestane policii dodávat technologie pro rozpoznávání tváří a analytický software. Důvodem je jejich možné využití pro masové sledování lidí, profilování na základě rasy a porušování základních práv a svobod. Koneckonců se neustále mluví o zneužívání inteligentních kamerových systémů pro tyto účely v Číně. Podobné kamery fungují i v Česku, třeba na letišti Václava Havla, kde mají umožnit ochranu před teroristy. Již loni se ovšem pražští policisté snažili o zahájení diskuse o zavedení inteligentních kamer i do pražských ulic.

Bojkot spolupráce s policií tedy není planým gestem. Autoři a autorky výše uvedeného dopisu vyzývají odborníky k účasti na programech, které se snaží dopady systematického rasismu narovnávat, jako třeba projekty Data 4 Black Lives nebo Black in AI. Kromě toho vyzývají katedry zajišťující výuku data science k tomu, aby se během vyučování řešily i etické, právní a společenské implikace technologií, jež se studenti během studií učí využívat. Mluví také o potřebnosti osvětové činnosti v oblasti prediktivních nástrojů.

Je čas se zamyslet nad tím, do jaké míry jsou technologie pro rozpoznávání obličejů skutečně společensky prospěšné a jakým způsobem by měly bezpečnostní složky využívat prediktivní nástroje. Především bychom ale neměli ve jménu bezpečnosti osekávat lidská práva a snižovat už tak sotva patrnou míru soukromí, která nám v 21. století zbývá.

7.7.2020 a2larm.cz