AI może cię nienawidzić bez udziału człowieka

Co jeśli robot zdecyduje, że cię nienawidzi?

To może wydawać się głupie pytanie, ale według badań rozwijanie uprzedzeń wobec innych nie wymaga wysokiego poziomu zdolności poznawczych i może być łatwo wykazane przez roboty i inne sztucznie inteligentne maszyny.

Badania, przeprowadzone przez ekspertów z dziedziny informatyki i psychologii z Cardiff University i MIT, ujawniło, że grupy autonomicznych maszyn mogą wykazywać uprzedzenia, po prostu identyfikując, kopiując i ucząc się od siebie nawzajem. Odkrycia zostały opublikowane w czasopiśmie Natura.

Roboty są w stanie tworzyć uprzedzenia podobnie jak ludzie.

In informacja prasowa, zespół badawczy wyjaśnił, że choć może się wydawać, że do kształtowania opinii i stereotypów innych mogłoby być konieczne poznanie człowieka, wydaje się, że tak nie jest. Uprzedzenia nie wydają się zjawiskiem specyficznym dla człowieka.

Niektóre rodzaje algorytmów komputerowych wykazywały już uprzedzenia, takie jak rasizm i seksizm, których maszyny uczą się z rejestrów publicznych i innych danych generowanych przez ludzi. W dwóch poprzednich przypadkach AI wykazujących takie uprzedzenia, chatboty Microsoft Tay i Zo zostały zamknięte po tym, jak ludzie nauczyli ich wypowiadać rasistowskie i seksistowskie uwagi w mediach społecznościowych.

Oznacza to, że roboty mogą być tak samo nienawistne, jak ludzie. A skoro są tysiące razy mądrzejsi od nas, czy możesz sobie wyobrazić przyszłość, jeśli rozwinie się w stosunku do ludzkości?

Nie jest wymagany wkład człowieka.

Wskazówki od ludzi nie są potrzebne, aby roboty mogły nauczyć się nie lubić niektórych ludzi.

Jednak badanie to wykazało, że sztuczna inteligencja nie potrzebuje prowokacji i inspiracji od trolli, aby wykazać uprzedzenia: jest w stanie uformować je wszystkie samodzielnie.

Aby przeprowadzić badania, zespół stworzył symulacje komputerowe tego, jak uprzedzone osoby mogą tworzyć grupę i wchodzić w interakcje. Stworzyli grę „dawaj i bierz”, w której każdy bot AI decyduje, czy przekazać darowiznę innej osobie w ramach własnej grupy roboczej lub innej grupy. Decyzje podejmowano w oparciu o reputację każdej osoby i jej strategię darowizn, w tym poziom uprzedzeń wobec osób w grupach zewnętrznych.

W miarę postępu gry, a superkomputer zebrał tysiące symulacji, każda jednostka zaczęła uczyć się nowych strategii, kopiując inne w obrębie własnej grupy lub całej populacji.

Współautor badania profesor Roger Whitaker z Cardiff University's Crime and Security Research Institute oraz School of Computer Science and Informatics, powiedziany wyników:

Uruchamiając te symulacje tysiące razy, zaczynamy rozumieć, w jaki sposób ewoluują uprzedzenia oraz warunki, które je promują lub utrudniają.

Ustalenia dotyczą osób aktualizujących swoje poziomy uprzedzeń poprzez preferencyjne kopiowanie tych, które osiągają wyższą krótkoterminową wypłatę, co oznacza, że decyzje te niekoniecznie wymagają zaawansowanych zdolności poznawczych.

Jest możliwe, że autonomiczne maszyny zdolne do identyfikowania się z dyskryminacją i kopiowania innych mogłyby w przyszłości być podatne na niekorzystne zjawiska, które widzimy w populacji ludzkiej.

Wiele zmian AI, które obserwujemy, obejmuje autonomię i samokontrolę, co oznacza, że ​​na zachowanie urządzeń mają również wpływ inni ludzie wokół nich. Pojazdy i Internet przedmiotów to dwa ostatnie przykłady. Nasze badanie daje teoretyczny wgląd, w którym symulowani agenci okresowo wzywają innych do uzyskania pewnego rodzaju zasobów. (źródło)

Autonomia i samokontrola. Czy nie tak się stało seria Terminator?

Dodano piżmo, „Przy pomocy sztucznej inteligencji wzywamy demona”.

Przeczytaj całą historię tutaj…