Oprogramowanie Amazon do rozpoznawania twarzy jest „wadliwe, stronnicze i niebezpieczne”

Udostępnij tę historię!

Po zidentyfikowaniu 28 członków Kongresu jako podejrzanych przez policję, sztuczna inteligencja Amazona do rozpoznawania twarzy wydaje się działać tylko w 80% przypadków, a mimo to jest masowo sprzedawana rządom i agencjom policyjnym. Nawet jeśli zadziałało w 95% przypadków, 5% błędnie zidentyfikowanych jest zagrożonych, że ich życie zostanie zniszczone na darmo. ⁃ Edytor TN

Narzędzie do rozpoznawania twarzy, które Amazon.com Inc sprzedaje twórcom stron internetowych, nieprawidłowo zidentyfikowało członków Kongresu 28 jako podejrzanych przez policję, w teście przeprowadzonym przez American Civil Liberties Union (ACLU), organizacja powiedziała w czwartek.

W odpowiedzi Amazon stwierdził, że podczas testu wystąpił problem z ustawieniami narzędzia Face ID. Ustalenia podkreślają jednak ryzyko, na jakie mogą być narażone osoby, jeśli policja zastosuje tę technologię w określony sposób, aby złapać przestępców.

Od maja ACLU i inne organizacje zajmujące się prawami obywatelskimi naciskają na Amazon, aby przestał sprzedawać rządom dostęp do Rekognition, potężnego oprogramowania do identyfikacji obrazów ujawnionego w 2016 roku przez dział przetwarzania w chmurze firmy.

Grupy zacytowały użycie Rekognition przez organy ścigania w Oregonie i na Florydzie i ostrzegły, że narzędzie to może być wykorzystane do nieuczciwego atakowania imigrantów i osób kolorowych.

Ich aktywizm zapoczątkował publiczną debatę. Prezes Microsoft Corp, rywal Amazona, który również wykorzystuje technologię rozpoznawania twarzy, wezwał Kongres na początku tego miesiąca, aby przeanalizować możliwe przepisy.

ACLU oświadczyło, że chce, aby Kongres wprowadził moratorium na korzystanie z technologii przez organy ścigania.

Rozpoznawanie twarzy jest już szeroko stosowane w Chinach do celów policyjnych, a wiele tamtejszych firm rozpoczynających działalność - niektóre wyceniane na miliardy dolarów - agresywnie poszukuje tej technologii.

Amazon reklamuje szereg zastosowań Rekognition, od wykrywania obraźliwych treści online po identyfikowanie celebrytów.

„Jesteśmy podekscytowani tym, jak analiza obrazu i wideo może być siłą napędową dobra na świecie” - powiedziała rzeczniczka Amazon Web Services w oświadczeniu, powołując się na pomoc w znalezieniu zagubionych dzieci i zapobieganiu przestępstwom. Powiedziała, że Rekognition jest zwykle używane do zawężenia pola do oceny przez człowieka, a nie do podejmowania ostatecznych decyzji.

ACLU poinformowało, że zapłaciło zaledwie 12.33 za to, aby Amazon Rekognition porównał oficjalne zdjęcia wszystkich członków US House i Senatu z bazą danych zdjęć 25,000 z aresztowania publicznego.

Według ACLU technologia zidentyfikowała „dopasowania” dla 28 członków Kongresu z co najmniej 80-procentową dokładnością, domyślnym ustawieniem Amazona.

Przeczytaj całą historię tutaj…