Technika rozpoznawania twarzy Amazon „doładowuje” lokalną policję

Kiedy pracownicy w Ace Hardware zgłosili, że kobieta wyszła ze sklepu ze zbiornikiem gazu spawalniczego za 11.99 dolara, za który nie zapłaciła w torbie, do akcji wkroczyła skomplikowana operacja walki z przestępczością.

Detektyw szeryfa hrabstwa Washington, współpracujący z jednostką ds. Dochodzeń specjalnych agencji, przeprowadził nagrania z monitoringu sklepu za pomocą wewnętrznego programu rozpoznawania twarzy stworzonego przez Amazon, ujawniając możliwy mecz.

Tablica rejestracyjna tej kobiety została oznaczona, a trzy miesiące później oficer narkotykowy w nieoznakowanym SUV-ie zobaczył ją i powiadomił innych funkcjonariuszy patrolowych, aby ją zatrzymali. Zastępca założył kajdanki na jej nadgarstki, a raport z aresztowania stwierdza. Powiedziała, że ​​potrzebowała benzyny do naprawy samochodu.

Posłowie w tym zakątku zachodniego Oregonu, poza ultraliberalnym Portlandem, staroświecko śledzili przestępców, przesyłając faksem zdjęcia podejrzanego z biura w nadziei, że ktoś rozpozna twarz.

Następnie, pod koniec 2017 r., Biuro szeryfa hrabstwa Washington stało się pierwszym organem ścigania w kraju, o którym wiadomo, że korzysta z narzędzia sztucznej inteligencji Amazona Rekognition, przekształcając ten gąszcz lasów i przedmieść w publiczny poligon doświadczalny dla nowej fali eksperymentalnego nadzoru policyjnego. techniki.

Niemal z dnia na dzień posłowie zobaczyli, jak ich uprawnienia śledcze zostały doładowane, co pozwoliło im przeskanować w poszukiwaniu dopasowań twarzy podejrzanego na ponad 300,000 2001 zdjęć zrobionych w więzieniu okręgowym od 1,000 r. Ziarniste zdjęcie czyjejś twarzy - zarejestrowane przez kamerę bezpieczeństwa, media społecznościowe konto czy smartfon zastępcy - mogą szybko stać się łącznikiem do ich tożsamości, w tym nazwiska, rodziny i adresu. W zeszłym roku zarejestrowano ponad XNUMX wyszukiwań z wykorzystaniem rozpoznawania twarzy, powiedzieli zastępcy, którzy czasami korzystali z tych wyników, aby znaleźć stronę podejrzanego na Facebooku lub odwiedzić jego dom.

Ale hrabstwo Washington stało się również punktem zerowym dla walki o wysoką stawkę o nieuregulowany rozwój policji za pomocą algorytmu. Adwokaci, badacze sztucznej inteligencji i eksperci ds. Praw obywatelskich twierdzą, że technologia ta może doprowadzić do bezprawnego aresztowania niewinnych ludzi, którzy są tylko podobni do obrazu wideo. Trafność Rekognition jest również przedmiotem gorących dyskusji, a niektórzy eksperci obawiają się, że przypadek błędnej tożsamości przez uzbrojonych zastępców może mieć niebezpieczne konsekwencje, zagrażając prywatności i życiu ludzi.

Niektóre agencje policyjne przeprowadziły w ostatnich latach przeszukiwanie rozpoznawania twarzy w stanowych lub FBI bazach danych przy użyciu systemów zbudowanych przez kontrahentów, takich jak Cognitec, IDEMIA i NEC. Ale wdrożenie przez Amazon oznacza prawdopodobnie największy krok w kierunku włączenia kontrowersyjnej technologii skanowania twarzy do głównego nurtu. Rekognition jest łatwy do aktywacji, nie wymaga dużej infrastruktury technicznej i jest oferowany praktycznie każdemu po okazyjnych cenach. Hrabstwo Washington wydało około 700 $ na przesłanie pierwszego dużego zbioru zdjęć, a teraz, za wszystkie swoje wyszukiwania, płaci około 7 $ miesięcznie.

Nie można jednak powiedzieć, jak dokładna lub skuteczna była ta technologia podczas pierwszych 18 miesięcy testów w świecie rzeczywistym. Deputowani nie muszą odnotowywać w raportach aresztowań, kiedy przeprowadzono wyszukiwanie za pomocą rozpoznawania twarzy, a dokładna liczba przypadków, w których doszło do aresztowania, jest niejasna. Urzędnicy szeryfa powiedzieli, że oprogramowanie doprowadziło do dziesiątek aresztowań za kradzież, przemoc lub inne przestępstwa, ale publiczna prośba o podanie dziewięciu przypadków, w których wspomniano o rozpoznaniu twarzy.

„Podobnie jak w przypadku każdej z naszych technik śledczych, nie mówimy ludziom, w jaki sposób ich łapiemy” - powiedział Robert Rookhuyzen, detektyw z zespołu ds. Głównych przestępstw agencji, który powiedział, że przeprowadził „kilkadziesiąt” wyszukiwań i uznał je za pomocne około 75% czasu. „Chcemy, żeby dalej zgadywali”.

Urzędnicy szeryfa twierdzą, że skany twarzy nie zawsze oznaczają koniec śledztwa: deputowani muszą nadal ustalić prawdopodobną przyczynę lub znaleźć dowody, zanim oskarżą podejrzanego o popełnienie przestępstwa. Jednak Biuro Szeryfa ustala własne zasady rozpoznawania twarzy i zezwala posłom na używanie tego narzędzia do identyfikacji ciał, nieprzytomnych podejrzanych i osób, które odmówiły podania swojego nazwiska.

Niedoskonałe wyniki narzędzia wyszukiwania zwiększają ryzyko oflagowania i aresztowania niewinnej osoby, zwłaszcza w przypadku rozmazanych, niskiej jakości lub częściowo ukrytych zeskanowanych obrazów. Zastępcy mogą również przeglądać szkice artystów podczas wyszukiwania, co jest niezwykłym zastosowaniem, które zdaniem ekspertów sztucznej inteligencji może częściej prowadzić do fałszywego dopasowania.

Wytyczne Amazona dla organów ścigania mówią, że urzędnicy powinni wykorzystywać wyniki Rekognition tylko wtedy, gdy system ma 99% pewności co do dopasowania. Ale posłom tutaj nie pokazano tego pomiaru pewności wyszukiwania, gdy używają tego narzędzia. Zamiast tego otrzymują pięć możliwych dopasowań dla każdego wyszukiwania, nawet jeśli pewność systemu w dopasowaniu jest znacznie niższa.

Po udzieleniu odpowiedzi na pytania z The Washington Post, Amazon dodał język do tych wytycznych, stwierdzając, że funkcjonariusze powinni ręcznie przejrzeć wszystkie dopasowania przed zatrzymaniem podejrzanego i że wyszukiwanie „nie powinno być wykorzystywane jako jedyny wyznacznik podjęcia działań”.

Relacje między Amazonem a trzecim co do wielkości organem ścigania w Oregonie są korzystne dla obu stron: Biuro Szeryfa pomaga udoskonalić system, który Amazon ma nadzieję sprzedawać w całym kraju. Ale nacisk Amazona na sprzedaż przez organy ścigania zaalarmował niektórych prawników, którzy twierdzą, że system stwarza zbyt duże ryzyko dla swobód obywatelskich. (Założyciel Amazon i dyrektor generalny, Jeff Bezos, jest właścicielem The Post.)

„Rząd jest niewiarygodnie potężny i wiele wnoszą przeciwko pojedynczemu obywatelowi w sprawie” - powiedziała Mary Bruington, dyrektor Biura Obrońców Publicznych w Washington County, które reprezentuje oskarżonych, których nie stać na adwokata. „Łączysz to z Amazon? To potężne partnerstwo ”.

Matt Wood, dyrektor generalny ds. Sztucznej inteligencji w oddziale firmy Amazon Web Services ds. Przetwarzania w chmurze, powiedział w oświadczeniu, że Rekognition to tylko „kolejny wkład z wielu innych wskazówek w dochodzeniu w 100% kierowanym przez człowieka”.

Mimo to firma spotyka się z krytyką na wielu frontach: czołowi badacze sztucznej inteligencji, członkowie Kongresu i organizacji zajmujących się prawami obywatelskimi - a także niektórzy inwestorzy i pracownicy firmy Amazon - wezwali firmę do zaprzestania dostarczania technologii organom ścigania, wskazując na badania, które stwierdzili, że system jest mniej dokładny w przypadku ciemnoskórych twarzy. Amazon zakwestionował te badania.

Niektórzy rywale Amazona odrzucili podobne kontrakty. Prezes firmy Microsoft, Brad Smith, powiedział w kwietniu, że firma niedawno odmówiła udostępnienia oprogramowania do rozpoznawania twarzy organowi ścigania w Kalifornii, który chciał skanować twarz za każdym razem, gdy jego funkcjonariusze zatrzymali kogoś w pobliżu, ale zatwierdziła umowę wprowadzającą tę technologię. w więzieniu w USA. Microsoft odmówił podania szczegółów.

Inwestorzy z Amazona będą głosować w maju nad propozycją popieraną przez grupę udziałowców-aktywistów, która uniemożliwi spółce sprzedaż Rekognition agencjom rządowym, chyba że zarząd spółki uzna, że ​​nie stanowi to zagrożenia dla praw człowieka.

Biuro szeryfa pozwoliło dziennikarzom Poczty spędzić dwa dni w marcu w radiowozach, biurach detektywów i areszcie okręgowym, obserwując, jak posłowie włączyli technologię do codziennych spraw. Większość ankietowanych stwierdziła, że ​​oprogramowanie zaoszczędziło im czasu, zwiększyło liczbę aresztowań i pomogło im przetworzyć rosnący nadmiar dowodów wizualnych. Do chwili obecnej nie wniesiono żadnego prawnego sprzeciwu wobec aresztowania na podstawie pomyłki w dopasowaniu zdjęć - stwierdzili zarówno posłowie, jak i obrońcy z urzędu.

Ale prawnicy w Oregonie powiedzieli, że technologia nie powinna być, jak wielu postrzega, nadchodzącym krokiem naprzód dla przyszłości policji, i określają system nie jako kamień milowy techniczny, ale moralny: Czy w porządku jest pozyskiwanie większej liczby złych ludzi, jeśli więcej dobrych facetów też może zostać aresztowanych?

„Ludzie uwielbiają zawsze mówić:„ Hej, jeśli łapie złych ludzi, to super, kogo to obchodzi ”- powiedział Joshua Crowther, główny zastępca obrońcy w Oregonie,„ dopóki nie znajdą się na drugim końcu ”.

`` Nie do odróżnienia od magii ''

Kiedy Amazon ujawnił Rekognition w 2016 r., Firma nazwała to przełomem dla potężnego stylu głębokiego uczenia się sztucznej inteligencji, który pokazał wyniki „nie do odróżnienia od magii”. W poście na blogu zilustrowanym zdjęciem psa dyrektora firma przedstawiła kilka ogólnych pomysłów, w jaki sposób ludzie mogliby zacząć go używać, w tym do punktów kontroli bezpieczeństwa lub billboardów podłączonych do zbierania danych z twarzy widza.

Odsłonięcie zwróciło uwagę Chrisa Adzimy, byłego programisty serwisu eBay, który został zatrudniony w biurze szeryfa hrabstwa Washington do pracy nad aplikacją na iPhone'a, której posłowie używają do śledzenia zachowań więźniów. Jego agencja miała już w sieci setki tysięcy zdjęć twarzy i nie ma żadnego sposobu na ich analizę. Korzystając ze sztucznej inteligencji Amazona, uruchomił system w mniej niż trzy tygodnie.

„Tak naprawdę nie mieli pojęcia o jakichkolwiek przypadkach użycia w prawdziwym świecie, ale wiedzieli, że mają potężne narzędzie, które stworzyli” - powiedział Adzima, starszy analityk systemów informatycznych, który pracuje w małym pomieszczeniu w siedziba szeryfa. „Więc wiesz, właśnie zacząłem go używać”.

Deputowani natychmiast zaczęli włączać wyszukiwanie twarzy do codziennych działań policyjnych, a Adzima stworzyła wewnętrzną stronę internetową, która pozwala im wyszukiwać w samochodach patrolowych. Zrezygnował z procentowej pewności wyszukiwania i zaprojektował system tak, aby za każdym razem zwracał pięć wyników. Powiedział, że kiedy system nie zwrócił żadnych wyników, posłowie zastanawiali się, czy coś nie zepsuli. Aby to urozmaicić, dodał także niepotrzebną fioletową animację „skanowania” za każdym razem, gdy zastępca załadował zdjęcie - jak powiedział, było to zainspirowane programami policyjnymi, takimi jak „CSI”.

Przeczytaj całą historię tutaj…