Anarchistická federace

Píšou jinde : Matematici vyzývají k bojkotu spolupráce s policií

Toto je kopie článku uveřejněného na a2larm.cz.
Postrádá obrázky, formátování a zejména mohla být mezičasem aktualizována. Pokud možno, přečtěte si jej z originálního zdroje, prosím:
https://a2larm.cz/2020/07/matematici-vyzyvaji-k-bojkotu-spoluprace-s-policii/

Přes 1500 matematiků podpořilo výzvu k bojkotu spolupráce s policií. Otevírají diskusi o etice používání matematických nástrojů ozbrojenými složkami a vyzývají své kolegy k odpovědnějšímu přístupu.

„Bojkotujte spolupráci s policií,“ vyzývá titulek otevřeného dopisu zaslaného 15. června do jednoho z nejčtenějších matematických časopisů na světě Notices of the American Mathematical Society, který by měl být otištěn v říjnovém čísle. Dopis vzešel z pera osmi významných amerických matematiček a matematiků a svůj podpis pod něj už připojilo nejméně 1500 dalších matematiků, a to nejen z amerických univerzit.

Autoři a autorky dopisu ve světle policejní brutality a nedávných vražd George Floyda, Breonny Taylor a Tonyho McDadea považují odbornou spolupráci s policií za nemorální a vyzývají matematickou komunitu k jejímu bojkotu. Dodávají, že jde o to nejmenší, co mohou odborníci udělat, aby snížili dopad strukturálního rasismu a policejního násilí ve Spojených státech. Zdůrazňují, že se nejedná o abstraktní výzvu pouze symbolického charakteru. Mnozí matematici totiž skutečně spolupracují s jednotlivými policejními sbory – zajištují například analýzu dat a modelování.
Prediktivní nástroje

Tak například společnost PredPol nabízí nástroje takzvané prediktivní policejní práce (predictive policing). PredPol dodává policejním sborům systémy, které analyzují velké množství dat o kriminalitě a dokážou na jejich základě předvídat místa, kde by mělo dojít k trestné činnosti, a dokonce i to, jestli se bude jednat o organizované zločiny. Jeden ze zakladatelů PredPolu, antropolog Jeff Brantingham, organizuje i workshopy pro policii ve spolupráci s ICERM, institutem zaměřeným na experimentální matematický výzkum.

Podobné technologie nabízejí i další firmy a využívají jich policisté po celých Spojených státech. I u nás se ale uvažuje o zavedení prediktivních systémů, což naznačuje třeba studie Mapy budoucnosti, kterou vypracovala výzkumná organizace ACCENDO na objednávku Ministerstva vnitra. V Dánsku bylo prediktivních technologií využito pro předpovídání hrozících teroristických útoků. O podobných nástrojích si můžete přečíst více v článku Ondřeje Trhoně pro Radio Wave.

Existují studie vypracované zakladateli a zaměstnanci PredPolu, jež ukazují, jak se predikativní metody osvědčily v praxi. Vedou prý ke snížení kriminality v daných oblastech. Matematik Kristian Lum a politolog William Isaac poukazují naopak na to, že algoritmy používané PredPolem jsou nepřesné a příliš zjednodušující. V rámci vyhodnocení efektivity osmileté praxe PredPolu provedeném policejní komisí Los Angeles se mluví o tom, že je těžké vyvozovat, na kolik byl systém v otázce snížení kriminality efektivní. Dlouhodobě se objevuje kritika přílišného policejního dohledu (over-policing) ve vybraných komunitách, často menšinových. V důsledku větší přítomnosti policistů v těchto lokalitách a větší pravděpodobnosti zásahu (i nepřiměřeného) vůči Afroameričanům tak vzniká zaujatá a nepřesná statistika. Předpovědi založené na takové statistice jsou zákonitě rovněž zkreslené a přispívají k zakotvení nespravedlivého a rasistického přístupu policie.
Technologie pro rozpoznávání tváří

Podobné problémy se objevují ostatně i při použití strojového učení a umělé inteligence k rozpoznávání tváří. Ukazuje se, že algoritmy na rozpoznávání tváří vyvíjené ve Spojených státech mají velkou míru falešně pozitivních výsledků v případě Asiatů, Afroameričanů i původních obyvatel Ameriky. Existuje tedy větší pravděpodobnost, že systém takového člověka vyhodnotí omylem jako zločince. Největší riziko falešně pozitivních výsledků je u černošských žen.

Už na začátku června technologický gigant IBM v dopise adresovaném Kongresu Spojených států oznámil, že přestane policii dodávat technologie pro rozpoznávání tváří a analytický software. Důvodem je jejich možné využití pro masové sledování lidí, profilování na základě rasy a porušování základních práv a svobod. Koneckonců se neustále mluví o zneužívání inteligentních kamerových systémů pro tyto účely v Číně. Podobné kamery fungují i v Česku, třeba na letišti Václava Havla, kde mají umožnit ochranu před teroristy. Již loni se ovšem pražští policisté snažili o zahájení diskuse o zavedení inteligentních kamer i do pražských ulic.

Bojkot spolupráce s policií tedy není planým gestem. Autoři a autorky výše uvedeného dopisu vyzývají odborníky k účasti na programech, které se snaží dopady systematického rasismu narovnávat, jako třeba projekty Data 4 Black Lives nebo Black in AI. Kromě toho vyzývají katedry zajišťující výuku data science k tomu, aby se během vyučování řešily i etické, právní a společenské implikace technologií, jež se studenti během studií učí využívat. Mluví také o potřebnosti osvětové činnosti v oblasti prediktivních nástrojů.

Je čas se zamyslet nad tím, do jaké míry jsou technologie pro rozpoznávání obličejů skutečně společensky prospěšné a jakým způsobem by měly bezpečnostní složky využívat prediktivní nástroje. Především bychom ale neměli ve jménu bezpečnosti osekávat lidská práva a snižovat už tak sotva patrnou míru soukromí, která nám v 21. století zbývá.

Verze pro tisk 7.7.2020 a2larm.cz
Aktuální číslo měsíčníku A3

V nejbližších dnech:

IFA/IAF - Internacionála anarchistických federací
Web Nakladatelstvi Anarchistické federace

Píšou jinde

Podporujeme

Social Screenings: Children of the Revolution

25. 8. 2020, Praha

Promítání. Kampus Hybernská (Hybernská 998/4, Budova B: Room 1B) …(více)

Procházka po Žižkově anarchistickém

12. 9. 2020, Praha

Komentovaná procházka dějinami anarchismu na Žižkově …(více)

Neposlušné Brno

24. 10. 2020, Brno

První ročník Knižního festivalu radikální imaginace …(více)