Matematycy wzywają do zakończenia sztucznej inteligencji przewidującej przestępczość policji

Po fali przypadków brutalności policji w tym roku i protestach na ulicach Stanów Zjednoczonych tysiące matematyków dołączyło do naukowców i inżynierów powołanie za bojkotowanie wykorzystywania sztucznej inteligencji przez organy ścigania.

Ponad 2,000 matematyków podpisało umowę list wzywając do bojkotu wszelkiej współpracy z policją i nakazując swoim kolegom, aby zrobili to samo w przyszłej publikacji American Mathematical Society, Odporny na cienie zgłaszane.

Wezwaniem do działania dla matematyków były policyjne zabójstwa George'a Floyda, Tony'ego McDade'a, Breonny Taylor i wielu innych w tym roku.

"W pewnym momencie wszyscy osiągamy punkt krytyczny, w którym to, co jest tuż przed naszymi oczami, staje się bardziej oczywiste ”- mówi Jayadev Athreya, uczestnik bojkotu i docent matematyki na Uniwersytecie Waszyngtońskim. „Zasadniczo jest to kwestia sprawiedliwości”.

Matematycy napisali list otwarty, zbierając tysiące podpisów pod powszechnym bojkotem policji za pomocą algorytmów. Każdy matematyk w ramach sieci grupy zobowiązuje się odmówić jakiejkolwiek współpracy z organami ścigania.

Grupa organizuje szeroką bazę matematyków w nadziei na odcięcie policji od korzystania z takich technologii. Autorzy listu przytaczają „głębokie obawy dotyczące wykorzystania technologii uczenia maszynowego, sztucznej inteligencji i rozpoznawania twarzy do usprawiedliwiania i utrwalania ucisku”.

Predictive policing to jeden z kluczowych obszarów, w którym niektórzy matematycy i naukowcy włączyli rasistowskie algorytmy, które nakazują glinom traktowanie określonych obszarów jako „punktów zapalnych” potencjalnych przestępstw. Aktywiści i organizacje od dawna krytykują stronniczość tych praktyk. Algorytmy wyszkolone na danych pochodzących z rasistowskich służb policyjnych odtworzą to uprzedzenie, aby „przewidzieć”, gdzie przestępstwo zostanie popełnione i kto jest potencjalnie przestępcą.

„Dane nie mówią same za siebie, nie są neutralne” - wyjaśnia Brendan McQuade, autor książki Pacifying the Homeland: Intelligence Fusion and Mass Supervision. Dane policyjne to „brudne dane”, ponieważ nie przedstawiają przestępstw, ale działania policji i aresztowań.

„Więc jakie są jego przewidywania? Policja powinna rozmieścić swoje zasoby w tym samym miejscu, w którym policja tradycyjnie rozmieszczała swoje zasoby ”.

Uważa się, że kilka, jeśli nie wszystkie, amerykańskie stany i duże miasta używają pewnego rodzaju predykcyjnego oprogramowania policyjnego lub oprogramowania przed przestępczością w przypadku znanych użytkowników, w tym - Chicago, Atlanta, Tacoma, Nowy Jork i LA, choć nie bez protestu przeciwko jego stosowaniu. Tak jak Działacz pocztowy poprzednio zgłaszanewiele z tych stanów używa oprogramowania Palantir do swoich algorytmów przewidywania przestępstw i zostało ujawnionych w tym celu, jak Floryda, której policja terroryzowała i monitorowała mieszkańców hrabstwa Pasco.

Te organizacje policyjne w całych Stanach Zjednoczonych od lat korzystają z tak zwanych „list dyskusyjnych” lub baz danych sprzed przestępczości. Co to jest „lista ciepła”, możesz zapytać?

Cóż, „listy ciepła” to w zasadzie bazy danych tworzone przez algorytmy osób, które kontrolują posądzać może popełnić przestępstwo. Tak, dobrze to przeczytałeś - osoba, która może popełnić przestępstwo. Nie wiadomo, w jaki sposób tworzone są te listy i jakie czynniki decydują o tym, że dana osoba „może popełnić przestępstwo”.

Przeczytaj całą historię tutaj…