Wojsko tworzy systemy broni sztucznej inteligencji, które mają być `` wystawione na rzeź ''

Wideo jest surowe. Dwóch groźnych mężczyzn stoi obok białej furgonetki na polu, trzymając w rękach piloty. Otwierają tylne drzwi furgonetki i jęczący dźwięk dronów quadkopterów crescendo. Wciskają przełącznik, a drony wylatują jak nietoperze z jaskini. Za kilka sekund przeszliśmy do sali wykładowej na uczelni. Zabójcze roboty wlewają się przez okna i otwory wentylacyjne. Uczniowie krzyczą z przerażenia, uwięzieni w środku, gdy drony atakują ze śmiercionośną siłą. Lekcja, że ​​film Roboty-rzezie, stara się przekazać, jest jasne: małe zabójcze roboty są albo tutaj, albo za niewielkim postępem technologicznym. Terroryści mogliby je łatwo rozmieścić. A istniejące mechanizmy obronne są słabe lub nie istnieją.

Niektórzy eksperci wojskowi argumentowali, że Slaughterbots - stworzone przez Future of Life Institute, organizację badawczą egzystencjalne zagrożenia dla ludzkości - wywołał sensację poważnym problemem, podsycając strach tam, gdzie wymagana była spokojna refleksja. Ale jeśli chodzi o przyszłość wojny, granica między science fiction a faktami przemysłowymi jest często niewyraźna. Siły powietrzne USA przewidziały przyszłość, w której „zespoły Swat wyślą mechaniczne owady wyposażone w kamery wideo, aby wkradły się do budynku podczas boju zakładników”. Jeden z „współpracujących mikrosystemów” wypuścił już Octoroach, „niezwykle małego robota z kamerą i nadajnikiem radiowym, który może pokonać do 100 metrów nad ziemią”. To tylko jeden z wielu „biomimetyczny”, Czyli broń imitująca naturę, która jest na horyzoncie.

Kto wie, ile innych szkodliwych stworzeń jest obecnie wzorami dla awangardowych teoretyków wojskowości. Niedawna powieść PW Singera i Augusta Cole'a, której akcja rozgrywa się w niedalekiej przyszłości, w której Stany Zjednoczone toczą wojnę z Chinami i Rosją, przedstawia kalejdoskopową wizję autonomicznych dronów, laserów i porwanych satelitów. Książki nie można uznać za fantazję techno-wojskową: zawiera setki przypisów dokumentujących rozwój każdego opisywanego sprzętu i oprogramowania.

Postępy w modelowaniu robotów zabijających są nie mniej niepokojące. Rosyjska opowieść science fiction z lat 60. „Kraby na wyspie” opisywała rodzaj Igrzysk Śmierci dla SI, w których roboty walczyły ze sobą o zasoby. Przegrani byliby usuwani, a zwycięzcy pojawialiby się, aż niektóre z nich stałyby się najlepszymi maszynami do zabijania. Kiedy czołowy informatyk wspomniał o podobnym scenariuszu do amerykańskiej Agencji Zaawansowanych Projektów Badawczych w Obronie (Darpa), nazywając go „robotem Jurassic Park”, a jej przywódca nazwał to „wykonalnym”. Nie trzeba wiele zastanawiać się, aby zdać sobie sprawę, że taki eksperyment może wymknąć się spod kontroli. Koszt jest główną przeszkodą w eksperymentowaniu przez wielką moc z takimi potencjalnie niszczycielskimi maszynami. Modelowanie oprogramowania może nawet wyeliminować tę barierę, pozwalając wirtualnym symulacjom przetestowanym w bitwie zainspirować przyszłe inwestycje wojskowe.

W przeszłości państwa narodowe gromadziły się, aby zakazać szczególnie makabrycznej lub przerażającej nowej broni. W połowie XX wieku międzynarodowe konwencje zakazały broni biologicznej i chemicznej. Społeczność narodów zakazała używania oślepiająca technologia laserowa, też. Solidna sieć organizacji pozarządowych z powodzeniem wezwała ONZ do zwołania państw członkowskich do uzgodnienia podobnego zakazu zabójczych robotów i innej broni, która może działać samodzielnie, bez bezpośredniej kontroli człowieka, w celu zniszczenia celu (znanego również jako śmiercionośne autonomiczne systemy uzbrojenia) lub prawa). I chociaż toczyła się debata na temat definicji takiej technologii, wszyscy możemy sobie wyobrazić szczególnie przerażające rodzaje broni, których wszystkie państwa nie powinny zgodzić się nigdy produkować ani rozmieszczać. Dron, który stopniowo rozgrzanych żołnierzy wroga na śmierć naruszyłby międzynarodowe konwencje przeciwko torturom; broń dźwiękowa zaprojektowana do niszczenia słuchu lub równowagi wroga powinna zasługiwać na podobne traktowanie. Kraj, który zaprojektował i używał takiej broni, powinien zostać wygnany ze społeczności międzynarodowej.

W skrócie, możemy prawdopodobnie zgodzić się, że ostracyzm - i surowsza kara - jest również zasługą projektantów i użytkowników robotów-zabójców. Sam pomysł maszyny wypuszczonej na rzeź jest mrożący. A jednak wydaje się, że niektóre z największych sił zbrojnych świata skradają się w kierunku opracowania takiej broni, kierując się logiką odstraszania: boją się zmiażdżenia przez sztuczną inteligencję rywali, jeśli nie mogą uwolnić równie potężnej siły. Klucz do rozwiązania tego trudnego wyścigu zbrojeń może leżeć nie tyle w traktatach globalnych, ile w ostrożnym przemyśleniu na nowo, do czego można wykorzystać bojową sztuczną inteligencję. Tak jak "wojna wraca do domu”, Rozmieszczenie sił wojskowych w krajach takich jak Stany Zjednoczone i Chiny jest ostrym ostrzeżeniem dla ich obywateli: wszelkie technologie kontroli i niszczenia, które pozwolą rządowi kupić teraz do użytku za granicą, mogą być użyte przeciwko wam w przyszłości.

Przeczytaj całą historię tutaj…