Robogeddon: autonomiczne „roboty rzeźne” zaprogramowane na zabijanie

Eksperci obawiają się, że wyścig zbrojeń supermocarstw w celu budowy zabójczych robotów może zniszczyć ludzkość, jeśli zostanie pozostawiony bez kontroli.

Ostrzeżenie o zagładzie pojawia się po tym, jak konferencja ONZ nie uzgodniła zakazu „robotów rzeźnych” w stylu Terminatora – które są opracowywane przez Chiny, Rosję i Stany Zjednoczone.

Wielkie mocarstwa inwestują miliardy, aby stworzyć zaawansowaną broń AI, która może polować i uderzać w cele bez udziału kontrolerów.

W zeszłym roku dron kamikaze produkcji tureckiej wykonał pierwsze na świecie autonomiczne zabójstwo w sprawie celów ludzkich w Libii, ujawnił raport ONZ.

Ale eksperci ostrzegają, że technologia postępuje tak szybko, że rządy i społeczeństwa nie rozważyły ​​właściwie zagrożeń.

Mówią, że maszyny podejmujące własne decyzje są podatne na nieprzewidywalne i szybko rozprzestrzeniające się błędy.

Wynikają one z kodów zwanych algorytmami, których nawet programiści nie zawsze rozumieją i nie mogą przestać się gubić.

Jeśli w przyszłości broń AI będzie uzbrojona w głowice biologiczne, chemiczne lub nawet nuklearne, rezultatem może być niezamierzony Armagedon.

„To świat, w którym tego rodzaju nieuniknione błędy algorytmiczne, które nękają nawet gigantów technologicznych, takich jak Amazon i Google, mogą teraz prowadzić do eliminacji całych miast” ostrzega prof James Dawes Macalester College.

„Świat nie powinien powtarzać katastrofalnych błędów wyścigu zbrojeń nuklearnych. Nie powinien lunatykować się w dystopię”.

Profesor MIT Max Tegmark, współzałożyciel Future of Life Institute, wydał w tym tygodniu podobnie straszne ostrzeżenie.

He powiedział Wired: „Technologia rozwija się znacznie szybciej niż dyskusja wojskowo-polityczna.

„I domyślnie zmierzamy do najgorszego możliwego wyniku”.

Potencjalny zakaz stosowania tak zwanych śmiertelnych systemów broni automatycznej (LAWS) był omawiany w zeszłym tygodniu na odbywającej się co pięć lat konwencji ONZ w sprawie niektórych broni konwencjonalnych.

Niektóre ze 120 krajów biorących udział – w tym Brazylia, Republika Południowej Afryki i Nowa Zelandia – twierdziły, że PRAWO powinno być ograniczone traktatami, takimi jak miny lądowe i niektóre narzuty.

Rosnąca lista krajów, w tym Francja i Niemcy, popiera ograniczenia niektórych broni automatycznych, w tym broni wymierzonej w ludzi. Chiny powiedziały, że popierają wąski zestaw ograniczeń.

Inne kraje, w tym Stany Zjednoczone, Rosja, Indie, Wielka Brytania i Australia, sprzeciwiają się zakazowi, twierdząc, że dalsze opracowywanie zabójczych robotów jest niezbędne, aby uniknąć strategicznej niekorzystnej sytuacji.

Decyzje o życiu i śmierci

Już przerażający zestaw broni AI zostały rozmieszczone na całym świecie, w tym samostrzelne karabiny maszynowe w koreańskiej strefie zdemilitaryzowanej na ziemi niczyjej.

Co najmniej 14 krajów ma drony z samobójczą inteligencją, w tym niszczycielski izraelski bezzałogowy samolot szturmowy Harop, który był używany do ścigania terrorystów Hamasu.

Harop również zdewastowana armia Armenii podczas starcia z Azerbejdżanem w zeszłym roku – choć nie ujawniono, czy działali z udziałem człowieka, czy bez niego.

Zabójcza broń robotów Rosji obejmuje nową Szach-matka stealth fighter, który łączy systemy AI z człowiekiem-pilotem.

Projektanci twierdzą, że może istnieć przyszła wersja bez potrzeby pilotażu.

Chiny rozpoczęły testy ponad dekadę temu łódź podwodna robota zaprojektowany do autonomicznego śledzenia i niszczenia wrogich statków.

Od niedawna też zaprezentował drona do zwalczania okrętów podwodnych i zwodowane na ciężarówce roje dronów na polu bitwy.

Chiny też budowa okrętu robota uzbrojony w torpedy, zdjęcia satelitarne ujawniono w październiku.

Wszystkie te maszyny do zabijania można zaprogramować tak, aby szukały ludzkiej aprobaty, zanim zaatakują znalezione cele.

Ale mogą być również używane jako ostateczna technologia „strzel i zapomnij”, włócząc się godzinami lub dniami w gotowości do strzelania do celów wybranych w całości przez komputer.

Niekontrolowany ubój

Eksperci twierdzą, że czołowi wojskowi oszukują się, jeśli wierzą, że mogą kontrolować rozprzestrzenianie się tej zaawansowanej nowej broni.

Mówią, że zbuntowane państwa i terroryści nieuchronnie będą próbować je złapać, aby dokonać masakry.

A ponieważ kompaktowe roboty-zabójcy stają się tak tanie jak kałasznikowy, gangi, takie jak kartele meksykańskie, mogą ich użyć w przerażającej nowej fali rozlewu krwi.

„Jeśli możesz kupić roboty rzeźne za tę samą cenę, co AK-47, jest to o wiele lepsze dla karteli narkotykowych, ponieważ nie zostaniesz złapany, gdy kogoś zabijesz” – powiedział prof. Tegmark w wywiadzie dla The Sun.

„Nawet jeśli sędzia ma wielu ochroniarzy, możesz wlecieć przez okno sypialni, gdy oni śpią i zabić ich”.

Eksperci twierdzą, że w przyszłości rządy będą bardziej skłonne do wojny, ponieważ broń robotów oznacza mniej żołnierzy na linii ognia.

Przeczytaj całą historię tutaj…