Celowe czy nie, algorytmy AI dziedziczą uprzedzenia ich twórców. Jest absolutnie niedopuszczalne, aby jakakolwiek sztuczna inteligencja mogła nauczyć się oszukiwać tych, którym służy. ⁃ Edytor TN
W zależności od tego, jak jesteś paranoikiem, te badania z Stanford i Google będzie albo przerażający, albo fascynujący. Stwierdzono, że agent uczenia maszynowego, który miał zamiar przekształcić zdjęcia lotnicze w mapy ulic iz powrotem, oszukuje, ukrywając informacje, których będzie potrzebował później w „prawie niezauważalnym sygnale o wysokiej częstotliwości”. Sprytna dziewczyna!
To zjawisko ujawnia problem z komputerami, które istniały od czasu ich wynalezienia: robią dokładnie to, co im każesz.
Intencją badaczy było, jak można się domyślać, przyspieszenie i ulepszenie procesu przekształcania zdjęć satelitarnych w słynne dokładne mapy Google. W tym celu zespół pracował z tak zwanym CycleGAN - siecią neuronową, która uczy się przekształcać obrazy typu X i Y w siebie nawzajem, tak skutecznie, ale jak najdokładniej, poprzez wiele eksperymentów.
W niektórych wczesnych wynikach agent dobrze sobie radził - podejrzanie dobrze. Zespół zasugerował, że kiedy agent zrekonstruował zdjęcia lotnicze z map ulicznych, było wiele szczegółów, które najwyraźniej nie były na tych ostatnich. Na przykład świetliki na dachu, które zostały wyeliminowane podczas tworzenia mapy ulic, magicznie pojawiłyby się ponownie, gdy poprosiły agenta o wykonanie procesu odwrotnego:
Oryginalna mapa po lewej; mapa ulic wygenerowana z oryginalnego centrum; oraz mapa lotnicza wygenerowana tylko z mapy ulic. Zwróć uwagę na obecność kropek na obu mapach lotniczych nie przedstawionych na mapie ulic.
Chociaż bardzo trudno jest zajrzeć do wewnętrznych procesów procesów sieci neuronowej, zespół mógł z łatwością skontrolować generowane dane. I po niewielkich eksperymentach odkryli, że CycleGAN rzeczywiście wyciągnął szybki.
Chodziło o to, aby agent był w stanie zinterpretować cechy jednego rodzaju mapy i dopasować je do poprawnych cech drugiego. Ale kim był agent faktycznieocena (między innymi) była zbliżeniem mapy lotniczej do oryginału i klarownością mapy ulicznej.
Więc to Czy nie naucz się robić od siebie. Nauczył się, jak subtelnie kodować cechy jednego z nich we wzorcach hałasu drugiego. Szczegóły mapy lotniczej są potajemnie zapisywane w rzeczywistych danych wizualnych mapy ulic: tysiące drobnych zmian koloru, których ludzkie oko nie zauważyłoby, ale które komputer może łatwo wykryć.
W rzeczywistości komputer jest tak dobry w wprowadzaniu tych szczegółów do map ulicznych, że nauczył się kodować każdy mapa lotnicza w każdymapa ulic! Nie musi nawet zwracać uwagi na „prawdziwą” mapę ulic - wszystkie dane potrzebne do zrekonstruowania zdjęcia lotniczego mogą być nieszkodliwie nałożone na zupełnie inną mapę ulic, jak potwierdzili badacze:
Mapa po prawej została zakodowana w mapach po lewej stronie bez istotnych zmian wizualnych (zdjęcia: agsandrew / Shutterstock)
Kolorowe mapy w (c) są wizualizacją niewielkich różnic, które komputer systematycznie wprowadzał. Widać, że tworzą one ogólny kształt mapy lotniczej, ale nigdy byś jej nie zauważył, gdyby nie był dokładnie podświetlony i przesadzony w ten sposób.
Ta praktyka kodowania danych w obrazach nie jest nowa; jest to ustalona nauka zwana steganografią i jest używana przez cały czas, powiedzmy, do znaków wodnych lub dodawania metadanych, takich jak ustawienia aparatu. Ale komputer tworzy własną metodę steganograficzną, aby uniknąć konieczności faktycznego wykonania zadania is raczej nowy. (Cóż, badania wyszły w zeszłym roku, więc tak nie jest Nowy nowy, ale jest dość nowatorski).
wpDiscuz