Eksperci: jedyna obrona przed zabójczą sztuczną inteligencją nie rozwija się

Udostępnij tę historię!
Wymykająca się spod kontroli zabójcza sztuczna inteligencja w walce jest nieunikniona, ponieważ stanie się zbyt złożona do zarządzania i kontroli przez ludzi. Jedyną prawdziwą odpowiedzią jest nie rozwijanie go w pierwszej kolejności. ⁃ Edytor TN

Ostatnia analiza przyszłości wojny wskazuje, że kraje, które nadal rozwijają sztuczną inteligencję do celów wojskowych, ryzykują utratę kontroli nad polem bitwy. Te, które nie ryzykują eliminacji. Czy jesteś za, czy przeciw wyścigowi zbrojeń AI: to się dzieje. Oto, co to oznacza, według trio ekspertów.

Naukowcy z ASRC Federal, prywatna firma zapewniająca wsparcie społeczności wywiadowczych i obronnych, a University of Maryland niedawno opublikował artykuł na temat serwera przed wydrukiem arXivomawianie potencjalnych konsekwencji integracji systemów SI z nowoczesnymi działaniami wojennymi.

Papier - czytaj tutaj - koncentruje się na najbliższych konsekwencjach dla wyścigu zbrojeń AI przy założeniu, że AI to zrobi nie jakoś uruchomić amok lub przejęcie. Zasadniczo jest to krótkie, trzeźwe i przerażające spojrzenie na to, jak przebiegać będą te wszystkie różne technologie uczenia maszynowego na podstawie analizy aktualnych najnowocześniejszych wojskowych technologii AI i przewidywanej integracji na dużą skalę.

Artykuł rozpoczyna się od ostrzeżenia o zbliżającej się katastrofie, wyjaśniając, że prawie na pewno nastąpi „normalny wypadek” dotyczący AI - oczekiwany incydent o charakterze i zakresie, którego nie możemy przewidzieć. Zasadniczo siły zbrojne świata rozbiją niektóre jaja cywilne, czyniąc z AI omlet wyścigowy:

Badania w tej dziedzinie rozpoczęły się od wypadków, takich jak Three Mile Island, ale technologie AI wiążą się z podobnym ryzykiem. Znalezienie i wykorzystanie tych słabości do wywołania wadliwego zachowania stanie się stałym elementem strategii wojskowej.

Jeśli myślisz, że zabójcze roboty kopią go w naszych miastach, podczas gdy cywile szukają schronienia, nie mylisz się - ale roboty jako zastępstwo dla żołnierzy nie są największym zmartwieniem ludzkości, jeśli chodzi o wojnę AI. W tym artykule omówiono, co dzieje się po osiągnięciu punktu, w którym staje się oczywiste, że ludzie powstrzymują maszyny w walce.

Według naukowców problemem nie jest ten, który możemy przedstawić jako dobro i zło. Pewnie łatwo powiedzieć, że nie powinniśmy pozwalać robotom na samodzielne mordowanie ludzi, ale nie w ten sposób zadziała proces decyzyjny przyszłości.

Naukowcy opisują to jako śliskie nachylenie:

Jeśli systemy AI są skuteczne, presja na zwiększenie poziomu pomocy dla wojownika byłaby nieunikniona. Ciągły sukces oznaczałby stopniowe wypychanie człowieka z pętli, najpierw do roli nadzorczej, a następnie do roli „operatora killswitch” monitorującego stale działające LAWS.

LAWS, czyli śmiercionośne autonomiczne systemy broni, niemal natychmiast przekroczy zdolność ludzi do pracy z komputerami i maszynami - i prawdopodobnie szybciej, niż myśli większość ludzi. Na przykład walka wręcz między maszynami będzie z konieczności całkowicie autonomiczna:

Z biegiem czasu, gdy sztuczna inteligencja staje się bardziej zdolna do refleksyjnego i integracyjnego myślenia, ludzki komponent będzie musiał zostać całkowicie wyeliminowany, ponieważ szybkość i wymiary stają się niezrozumiałe, nawet biorąc pod uwagę pomoc poznawczą.

Ostatecznie taktyka i szybkość reakcji wymagane do wymiany ciosów AI nie będą miały charakteru ludzkiego:

Biorąc pod uwagę tak ogromne pole bitwy, że ludzie nie mogą ręcznie zaangażować się w system, rola ludzka będzie ograniczona do post-hoc analizy sądowej, po zakończeniu działań wojennych lub podpisaniu traktatów.

Jeśli brzmi to trochę ponuro, to dlatego, że tak jest. Tak jak Importuj AI Jack Clark podkreśla: „To krótki artykuł, który przedstawia obawy związane z AI + War od społeczności, z której rzadko słyszymy: ludzi, którzy pracują jako bezpośredni dostawcy technologii rządowych”.

W interesie wszystkich może być uważne zwracanie uwagi na to, w jaki sposób zarówno naukowcy, jak i rząd kontynuują rozwiązywanie problemu.

Przeczytaj całą historię tutaj…

Subskrybuj
Powiadamiaj o
gość
2 Komentarze
Starsze
Najnowszy Najczęściej zagłosowano
Informacje zwrotne w linii
Wyświetl wszystkie komentarze
Elle

Zawsze zdumiewa mnie, jak należy przeprowadzić „badanie”, aby „określić” prawdopodobieństwo bardzo oczywistych działań, które mają nadejść. Cóż, DUH! na froncie AI, chłopcy. Przypomina mi zaproszenie na kolację żony dyrektora generalnego firmy marketingowej. Definiuję go jako takiego, bo tylko o tym mówił. Podczas posiłku bez przerwy opowiadał o swoim towarzystwie, dla reszty z mdłości. Kiedy w końcu osiągnął wypłatę. Powiedział stolikowi, że jego „niesamowita” firma otrzymała 4 miliony dolarów, aby dowiedzieć się, dlaczego ludzie ją wybrali... Czytaj więcej "