Bengio, główny wynalazca sztucznej inteligencji, mówi: „Taki jest scenariusz Wielkiego Brata z 1984 roku”. Bengio i jego koledzy z Technokratów powinni już wcześniej o tym pomyśleć, ale odzwierciedla to ich pollyanistyczny pogląd na ludzkość. ⁃ Edytor TN
Yoshua Bengio, kanadyjski informatyk, który pomógł zastosować pionierskie techniki leżące u podstaw obecnych emocji związanych ze sztuczną inteligencją, martwi się wykorzystaniem AI przez Chiny do inwigilacji i kontroli politycznej.
Bengio, który jest również współzałożycielem elementu AI AI z Montrealu, powiedział, że martwi się technologią, którą pomógł stworzyć, służącą do kontrolowania zachowań ludzi i wpływania na ich umysły.
„To jest scenariusz Wielkiego Brata z 1984 roku” - powiedział w wywiadzie. „Myślę, że to staje się coraz bardziej przerażające”.
Bengio, profesor na Uniwersytecie w Montrealu, jest uważany za jednego z trzech „ojców chrzestnych” głębokiego uczenia się, wraz z Yannem LeCunem i Geoffem Hintonem. Jest to technologia wykorzystująca sieci neuronowe - rodzaj oprogramowania luźno opartego na aspektach ludzkiego mózgu - do prognozowania na podstawie danych. Odpowiada za najnowsze postępy w rozpoznawaniu twarzy, przetwarzaniu języka naturalnego, tłumaczeniach i algorytmach rekomendacji.
Głębokie uczenie wymaga dużej ilości danych, aby dostarczyć przykładów, z których można się uczyć - ale Chiny, ze swoją ogromną populacją i systemem prowadzenia dokumentacji państwowej, mają tego wiele.
Chiński rząd zaczął używać kamer wideo z obwodem zamkniętym i rozpoznawania twarzy do monitorowania tego, co robią jego obywatele w miejscach publicznych, od kradzieży w więzieniu po angażowanie się w polityczny sprzeciw. Stworzyła również Krajową Platformę Wymiany Informacji Kredytowych, która jest wykorzystywana do umieszczania na czarnej liście pasażerów kolei i samolotów za zachowania „antyspołeczne” i rozważa rozszerzenie zastosowań tego systemu na inne sytuacje.
„Używanie twarzy do śledzenia ciebie powinno być ściśle regulowane,” powiedział Bengio.
Bengio nie jest osamotniony w związku z przypadkami użycia AI przez Chiny. Miliarder George Soros niedawno wygłosił przemówienie na Światowym Forum Ekonomicznym w dniu X stycznia 24, aby zwrócić uwagę na ryzyko związane z wykorzystaniem przez AI sztucznej inteligencji do swobód obywatelskich i praw mniejszości.
W przeciwieństwie do niektórych rówieśników, Bengio, który kieruje Montreal Institute for Learning Algorytmy (Mila), oparł się pokusie pracy w dużej firmie technologicznej reklamowej. Powiedział, że odpowiedzialny rozwój AI może wymagać od dużych firm technologicznych zmiany sposobu działania.
Niepokój budzi również ilość danych kontrolowanych przez duże firmy technologiczne. Powiedział, że tworzenie trustów danych - podmiotów non-profit lub ram prawnych, w ramach których ludzie są właścicielami swoich danych i zezwalają na ich wykorzystywanie tylko do określonych celów - może być jednym z rozwiązań. Gdyby fundusz posiadał wystarczającą ilość danych, mógłby negocjować lepsze warunki z dużymi firmami technologicznymi, które tego potrzebują, powiedział w czwartek podczas rozmowy w biurze Amnesty International UK w Londynie.
wpDiscuz