Technokraci w wojsku, którzy budują po prostu dlatego, że potrafią, stanowią zagrożenie dla całego świata. Ludzkość pragnie technologii, która służy ludziom, a nie zabija ich i nie kontroluje. ⁃ Edytor TN
Kontrowersje wokół sztucznej inteligencji wojskowej są zakorzenione w „poważnych błędnych przekonaniach” na temat tego, co faktycznie próbuje zrobić departament, według obecnych i byłych funkcjonariuszy obrony.
Ochrona Stanów Zjednoczonych w nadchodzących dziesięcioleciach będzie wymagała od Pentagonu dokonania „znacznych, trwałych” inwestycji w sztuczną inteligencję wojskową, a krytycy muszą zdać sobie sprawę, że nie traktuje tego zadania lekko, zdaniem obecnych i byłych urzędników Departamentu Obrony.
Wysiłki zmierzające do rozszerzenia wykorzystania systemów AI przez departament spotkały się z powszechnym oburzeniem wśród społeczności technologicznych i politycznych, które obawiają się, że USA wkrótce powierzą maszyny do podejmowania decyzji o śmierci i życiu na polu bitwy. W ubiegłym roku protesty pracowników doprowadziły Google aby zrealizować projekt Sił Powietrznych który wykorzystywał uczenie maszynowe do sortowania materiału z monitoringu.
W środę urzędnicy powiedzieli, że Pentagon jest bardzo się staram w celu zapewnienia, że wszelkie potencjalne zastosowania AI będą zgodne ze ścisłymi normami etycznymi i normami międzynarodowymi. Ostrzegli, że nawet jeśli wojsko USA nie chce wdrożyć tej technologii, globalni przeciwnicy, tacy jak Rosja i Chiny, na pewno nie zrobią tego, a ich ramy etyczne prawdopodobnie będą brakować.
„Departament Obrony jest absolutnie nieskruszony poszukiwaniem nowej generacji broni z obsługą sztucznej inteligencji” - powiedział w środę były zastępca sekretarza obrony Robert Work podczas wydarzenia zorganizowanego przez oddział AFCEA w Waszyngtonie. „Jeśli mamy odnieść sukces w starciu z konkurentem, takim jak Chiny, który bierze udział w tej rywalizacji… będziemy musieli zrozumieć nieuchronność sztucznej inteligencji”.
Wydany w lutym Strategia AI Pentagonu wyraźnie wymaga od operatorów ludzkich możliwości unieważnienia wszelkich decyzji podjętych przez wojskowy system sztucznej inteligencji i zapewnienia, że technologia przestrzega praw konfliktu zbrojnego.
„Twierdziłbym, że wojsko amerykańskie jest najbardziej etyczną siłą militarną w historii działań wojennych i uważamy, że przejście na broń z obsługą AI będzie kontynuowało ten trend” - powiedział Work. I pomimo krytyki, dodał, technologia może potencjalnie uratować życie poprzez ograniczenie przyjaznego ognia i uniknięcie ofiar wśród ludności cywilnej.
Generał porucznik Jack Shanahan, który kieruje nowo stworzonym przez Departament Wspólnym Centrum Sztucznej Inteligencji, powiedział publiczności wiele krytyki, którą usłyszał skierowaną przeciwko wysiłkom AI w wojsku, jest zakorzeniony w „poważnych błędnych wyobrażeniach o tym, nad czym [dział] faktycznie pracuje”. Chociaż niektórzy mogą sobie wyobrazić ogólny system sztucznej inteligencji „który będzie wędrował bezkrytycznie po polu bitwy”, powiedział, technologia będzie stosowana tylko wąsko, a ludzie zawsze pozostaną w pętli.
Według Shanahan oburzenie pokazuje, że Pentagon nie angażuje wystarczająco przemysłu w projekty, które realizuje.
wpDiscuz