Roszczenie: AI rozpoznawania twarzy może ujawnić twoją partię polityczną

Badacze stworzyli system uczenia maszynowego, który, jak twierdzą, może określić partię polityczną danej osoby z rozsądną dokładnością, opierając się wyłącznie na twarzy. Badanie przeprowadzone przez grupę, która również wykazała, że ​​preferencje seksualne można pozornie wywnioskować w ten sposób, szczerze omawia i ostrożnie omija pułapki „współczesnej frenologii”, prowadząc do niewygodnego wniosku, że nasz wygląd może wyrażać więcej informacji osobistych, niż myślimy.

Badanie, które ukazało się w tym tygodniu w czasopiśmie Nature Scientific Reports, poprowadził Michał Kosiński z Uniwersytetu Stanforda. Kosiński trafił na pierwsze strony gazet w 2017 r odkryli, że preferencje seksualne danej osoby można przewidzieć na podstawie danych twarzy.

Badanie spotkało się z krytyką nie tyle ze względu na jej metody, ile za samą ideę, że w ten sposób można wykryć coś, co teoretycznie nie jest fizyczne. Ale praca Kosińskiego, jak wyjaśnił wtedy i później, została wykonana specjalnie po to, by podważyć te założenia i była dla niego równie zaskakująca i niepokojąca, jak dla innych. Nie chodziło o to, aby zbudować gejdar AI - wręcz przeciwnie. Jak pisał wówczas zespół, konieczne było opublikowanie, aby ostrzec innych, że coś takiego mogą budować ludzie, których zainteresowania wykraczały poza akademickie:

Byliśmy bardzo zaniepokojeni tymi wynikami i spędziliśmy dużo czasu zastanawiając się, czy w ogóle powinny zostać upublicznione. Nie chcieliśmy włączać tych samych zagrożeń, przed którymi ostrzegamy. Możliwość kontrolowania, kiedy i komu ujawniać swoją orientację seksualną, jest kluczowa nie tylko dla dobrego samopoczucia, ale także dla bezpieczeństwa.

Czuliśmy, że istnieje pilna potrzeba uświadomienia decydentom i społecznościom LGBTQ zagrożeń, przed którymi stoją. Nie stworzyliśmy narzędzia naruszającego prywatność, ale pokazaliśmy, że podstawowe i powszechnie stosowane metody stanowią poważne zagrożenie dla prywatności.

Podobne ostrzeżenia mogą zabrzmieć tutaj, ponieważ chociaż przynależność polityczna przynajmniej w USA (a przynajmniej obecnie) nie jest as wrażliwy lub osobisty element, jak preferencje seksualne, nadal jest wrażliwy i osobisty. Nie ma tygodnia bez czytania o aresztowaniu lub zabiciu jakiegoś politycznego lub religijnego „dysydenta” lub innego. Jeśli opresyjne reżimy mogłyby uzyskać to, co uchodzi za prawdopodobną przyczynę, mówiąc „algorytm oznaczył cię jako potencjalnego ekstremistę”, zamiast na przykład przechwytywać wiadomości, czyni to tego rodzaju praktykę o wiele łatwiejszą i bardziej skalowalną.

Sam algorytm nie jest hiper-zaawansowaną technologią. Artykuł Kosińskiego opisuje dość zwyczajny proces dostarczania do systemu uczenia maszynowego obrazów ponad miliona twarzy, zebranych z serwisów randkowych w USA, Kanadzie i Wielkiej Brytanii, a także z amerykańskich użytkowników Facebooka. Osoby, których twarze zostały użyte, zostały zidentyfikowane jako konserwatywne politycznie lub liberalne w ramach kwestionariusza strony.

Algorytm został oparty na oprogramowaniu do rozpoznawania twarzy typu open source, a po podstawowym przetwarzaniu w celu przycięcia tylko do twarzy (w ten sposób żadne elementy tła nie wkradają się jako czynniki), twarze są redukowane do 2,048 punktów reprezentujących różne cechy - tak jak w przypadku innych funkcji rozpoznawania twarzy algorytmy, nie są to konieczne intuicyjne rzeczy, takie jak „kolor brwi” i „typ nosa”, ale bardziej natywne koncepcje komputerowe.

System otrzymał dane o przynależności politycznej pochodzące od samych ludzi i dzięki temu skrupulatnie zaczął badać różnice między statystykami twarzy osób identyfikujących się jako konserwatyści i osób identyfikujących się jako liberalne. Okazuje się, że są różnice.

Oczywiście nie jest to tak proste, jak „konserwatyści mają bardziej krzaczaste brwi” lub „liberałowie bardziej się marszczą”. Nie sprowadza się też do danych demograficznych, co uczyniłoby sprawę zbyt łatwą i prostą. W końcu, jeśli identyfikacja partii politycznej koreluje zarówno z wiekiem, jak i kolorem skóry, powstaje prosty algorytm przewidywania. Ale chociaż mechanizmy oprogramowania używane przez Kosińskiego są dość standardowe, starał się zakryć swoje podstawy, aby tego badania, podobnie jak poprzedniego, nie można odrzucić jako pseudonauki.

Najbardziej oczywistym sposobem rozwiązania tego problemu jest skłonienie systemu do zgadywania partii politycznej składającej się z osób w tym samym wieku, tej samej płci i przynależności etnicznej. Test obejmował pokazanie dwóch twarzy, po jednej z każdej ze stron, i odgadnięcie, która była która. Oczywiście przypadkowa dokładność wynosi 50%. Ludzie nie są zbyt dobrzy w tym zadaniu, wykonując niewiele ponad przypadek, około 55% celności.

Algorytm zdołał osiągnąć aż 71% trafności podczas przewidywania partii politycznej między dwojgiem podobnych osób, a 73% przedstawiało dwie osoby w dowolnym wieku, pochodzeniu etnicznym lub płci (ale nadal gwarantuje, że będzie to jedna konserwatystka, jedna liberalna).

Przeczytaj całą historię tutaj…