Eksperci: jedyna obrona przed zabójczą sztuczną inteligencją nie rozwija się

Ostatnia analiza przyszłości wojny wskazuje, że kraje, które nadal rozwijają sztuczną inteligencję do celów wojskowych, ryzykują utratę kontroli nad polem bitwy. Te, które nie ryzykują eliminacji. Czy jesteś za, czy przeciw wyścigowi zbrojeń AI: to się dzieje. Oto, co to oznacza, według trio ekspertów.

Naukowcy z ASRC Federal, prywatna firma zapewniająca wsparcie społeczności wywiadowczych i obronnych, a University of Maryland niedawno opublikował artykuł na temat serwera przed wydrukiem arXivomawianie potencjalnych konsekwencji integracji systemów SI z nowoczesnymi działaniami wojennymi.

Papier - czytaj tutaj - koncentruje się na najbliższych konsekwencjach dla wyścigu zbrojeń AI przy założeniu, że AI to zrobi nie jakoś uruchomić amok lub przejęcie. Zasadniczo jest to krótkie, trzeźwe i przerażające spojrzenie na to, jak przebiegać będą te wszystkie różne technologie uczenia maszynowego na podstawie analizy aktualnych najnowocześniejszych wojskowych technologii AI i przewidywanej integracji na dużą skalę.

Artykuł rozpoczyna się od ostrzeżenia o zbliżającej się katastrofie, wyjaśniając, że prawie na pewno nastąpi „normalny wypadek” dotyczący AI - oczekiwany incydent o charakterze i zakresie, którego nie możemy przewidzieć. Zasadniczo siły zbrojne świata rozbiją niektóre jaja cywilne, czyniąc z AI omlet wyścigowy:

Badania w tej dziedzinie rozpoczęły się od wypadków, takich jak Three Mile Island, ale technologie AI wiążą się z podobnym ryzykiem. Znalezienie i wykorzystanie tych słabości do wywołania wadliwego zachowania stanie się stałym elementem strategii wojskowej.

Jeśli myślisz, że zabójcze roboty kopią go w naszych miastach, podczas gdy cywile szukają schronienia, nie mylisz się - ale roboty jako zastępstwo dla żołnierzy nie są największym zmartwieniem ludzkości, jeśli chodzi o wojnę AI. W tym artykule omówiono, co dzieje się po osiągnięciu punktu, w którym staje się oczywiste, że ludzie powstrzymują maszyny w walce.

Według naukowców problemem nie jest ten, który możemy przedstawić jako dobro i zło. Pewnie łatwo powiedzieć, że nie powinniśmy pozwalać robotom na samodzielne mordowanie ludzi, ale nie w ten sposób zadziała proces decyzyjny przyszłości.

Naukowcy opisują to jako śliskie nachylenie:

Jeśli systemy AI są skuteczne, presja na zwiększenie poziomu pomocy dla wojownika byłaby nieunikniona. Ciągły sukces oznaczałby stopniowe wypychanie człowieka z pętli, najpierw do roli nadzorczej, a następnie do roli „operatora killswitch” monitorującego stale działające LAWS.

LAWS, czyli śmiercionośne autonomiczne systemy broni, niemal natychmiast przekroczy zdolność ludzi do pracy z komputerami i maszynami - i prawdopodobnie szybciej, niż myśli większość ludzi. Na przykład walka wręcz między maszynami będzie z konieczności całkowicie autonomiczna:

Z biegiem czasu, gdy sztuczna inteligencja staje się bardziej zdolna do refleksyjnego i integracyjnego myślenia, ludzki komponent będzie musiał zostać całkowicie wyeliminowany, ponieważ szybkość i wymiary stają się niezrozumiałe, nawet biorąc pod uwagę pomoc poznawczą.

Ostatecznie taktyka i szybkość reakcji wymagane do wymiany ciosów AI nie będą miały charakteru ludzkiego:

Biorąc pod uwagę tak ogromne pole bitwy, że ludzie nie mogą ręcznie zaangażować się w system, rola ludzka będzie ograniczona do post-hoc analizy sądowej, po zakończeniu działań wojennych lub podpisaniu traktatów.

Jeśli brzmi to trochę ponuro, to dlatego, że tak jest. Tak jak Importuj AI Jack Clark podkreśla: „To krótki artykuł, który przedstawia obawy związane z AI + War od społeczności, z której rzadko słyszymy: ludzi, którzy pracują jako bezpośredni dostawcy technologii rządowych”.

W interesie wszystkich może być uważne zwracanie uwagi na to, w jaki sposób zarówno naukowcy, jak i rząd kontynuują rozwiązywanie problemu.

Przeczytaj całą historię tutaj…