Historie o oporności na programy biometryczne rzadko widywane są w uznanych mediach, ponieważ prawnicy Big Tech ścigają takie historie, nękając sklepy z zagrożeniami prawnymi. Monsanto i Big Pharma przekształciły to w formę sztuki. ⁃ Edytor TN
Nastolatek pozywa Apple za miliard 1 dolarów. The proces sądowy, złożone w poniedziałek, opiera się na rzekomym zastosowaniu coraz bardziej popularnej - i kontrowersyjnej - technologii: rozpoznawania twarzy. Technik może zidentyfikować osobę, analizując jej rysy twarzy na zdjęciach, filmach lub w czasie rzeczywistym.
Powód, Ousmane Bah, wieloletni student 18, twierdzi, że firma narzędzie do rozpoznawania twarzy doprowadziło go do aresztowania za kradzieże Apple Store nie popełnił, błędnie łącząc swoje imię z twarzą prawdziwego złodzieja. Funkcjonariusze NYPD przybyli do domu Baha zeszłej jesieni, aby aresztować go rano w 4, aby odkryć, że najwyraźniej mieli niewłaściwego faceta. Bah twierdzi, że cała ta udręka spowodowała u niego poważne cierpienie emocjonalne. Tymczasem Apple nalega, aby jego sklepy nie korzystały z technologii rozpoznawania twarzy.
To oprócz Badacze, Zwolennicy, tysiące członków społeczeństwaktórzy wyrażają obawy dotyczące ryzyka rozpoznania twarzy prowadzącego do bezprawnych aresztowań. Martwią się, że niektóre grupy zostaną nieproporcjonalnie dotknięte. Technika rozpoznawania twarzy jest całkiem dobra w identyfikowaniu białych męskich twarzy, ponieważ są to rodzaje twarzy, na których je trenowano. Ale zbyt często błędnie identyfikuje ludzi koloru i kobiet. To uprzedzenie może prowadzić do nieproporcjonalnego pociągnięcia ich do przesłuchania, ponieważ coraz więcej organów ścigania wykorzystuje tę technologię.
Teraz dochodzimy do punktu zwrotnego, w którym duże firmy - nie tylko Apple, ale także Amazon i Microsoft - są zmuszane poważnie traktować takie skargi. I chociaż w końcu próbują telegrafować, że są wrażliwi na obawy, może być za późno, aby odzyskać zaufanie. Niezadowolenie społeczne osiągnęło tak wysoką gorączkę, że niektórzy, w tym miasto San Francisco, rozważają obecnie całkowite zakazy technologii rozpoznawania twarzy.
Głosowanie zakazujące Amazonowi sprzedaży Rekognition
Narzędzie do rozpoznawania twarzy Amazon, Rekognition, zostało już sprzedane organom ścigania i skierowany do urzędów kontroli imigracyjnej i celnej. Ale czołowi badacze AI ostatnio się sprzeczali list otwarty technologia jest głęboko wadliwa. (Przykład: w teście w zeszłym roku Rekognition dopasowało członków Kongresu 28 do kryminalnych zdjęć z kubka.) A akcjonariusze Amazona domagają się głosowania nad tym, czy firma powinna przestać sprzedawać to narzędzie agencjom rządowym, dopóki nie przejdzie niezależnej oceny wpływu na prawa obywatelskie.
Amazon ciężko walczył, aby głosowanie się nie odbyło, ale Komisja Papierów Wartościowych i Giełd orzekł, w tym miesiącu firma musi pozwolić sobie na to. Odbędzie się w maju 22. Chociaż wynik będzie w dużej mierze symboliczny - uchwały akcjonariuszy nie są wiążące - głosowanie zwróci negatywną uwagę na Amazon.
W międzyczasie firma była próbuje złagodzić jego wizerunek na przykład cofając niektóre z agresywnych taktyk promocyjnych. Kartik Hosanagar, profesor Wharton School of Business, powiedziany Amazon podejmuje „działania zapobiegawcze”, aby uprzyjemnić „zanim jeden z kandydatów na [prezydenta] uczyni z Amazon dziecko, które nazywają problemami z Big Tech”.
Mieszane wiadomości Microsoftu na temat etycznego stosowania rozpoznawania twarzy
Podczas gdy Amazon jest wciąż młodą firmą, założoną w 1994, Microsoft osiągnął wiek dorosły - istnieje już od 1975. Ta dłuższa żywotność oznacza, że miał więcej czasu na popełnianie błędów, ale także więcej czasu na naukę na ich podstawie. Kim Hart z Axios twierdzi, że właśnie dlatego Microsoftowi udało się w większości uniknąć reakcji przeciwko wielkiej technologii. „Microsoft, który przeszedł własną walkę antymonopolową z Departamentem Sprawiedliwości w„ 90-ach ”, uchylił się od błędów popełnianych przez swoich młodszych brasserów Big Tech,” pisze.
Jednak Microsoft wcale nie jest całkowicie odporny na luz. Po tym, jak w tym miesiącu ogłoszono, że naukowcy Microsoft opracowali trzy artykuły na temat sztucznej inteligencji i rozpoznawania twarzy na prowadzonym przez wojsko uniwersytecie w Chinach, niektórzy politycy amerykańscy zganili firmę za pomoc zatrzymanemu reżimowi milion ujgurskich muzułmanów w obozach dla internowanych i badanie milionów jeszcze. Senator Marco Rubio nazwano to „Głęboko niepokojące… czyn, który sprawia, że są współwinni pomocy totalitarnemu aparatowi cenzury komunistycznego rządu Chin”.
Prasa zauważyła również, że firma sprzedała swoje oprogramowanie do rozpoznawania twarzy więzienie w USA, a prezydent Microsoftu Brad Smith powiedział, że tak będzie "okrutny" aby całkowicie przestać sprzedawać oprogramowanie agencjom rządowym.
Kilka dni później firma zadała sobie trud, aby pokazać, że dba o etyczne wykorzystanie AI. Smith ogłosił, że odmówił sprzedaży swojego oprogramowania do rozpoznawania twarzy kalifornijskiemu organowi ścigania, który chciał zainstalować go w samochodach oficerów i kamerach samochodowych. Powiedział, że Microsoft odmówił ze względu na prawa człowieka, wiedząc, że korzystanie z oprogramowania spowoduje, że osoby kolorowe i kobiety zostaną nieproporcjonalnie pociągnięte do przesłuchania.
Nacisk na całkowite zablokowanie technologii rozpoznawania twarzy
W tym miesiącu wyraźnie stwierdzono, że presja publiczna działa, jeśli chodzi o rozpoznawanie twarzy. Firmy Behemoth wiedzą, że nie mogą dłużej ignorować krytyki - lub, jak to niedawno zrobiły, po prostu twierdzą, że z zadowoleniem przyjmą regulację tej technologii. Krytycy wyjaśniają, że to nie wystarczy - chcą, aby takie firmy „całkowicie wyszły z branży nadzoru”, jak powiedział Vox American Union Liberties Union.
wpDiscuz