Nadchodzi wszechobecność, a świat nie jest gotowy

In Przyszłość przemocy, Benjamin Wittes i Gabriella Blum omawiają niepokojący hipotetyczny scenariusz. Samotny aktor w Nigerii, „który jest domem wielu spamerów i oszustw internetowych”, nakłania kobiety i nastoletnie dziewczęta do pobierania szkodliwego oprogramowania, które umożliwia mu monitorowanie i rejestrowanie ich działalności w celu szantażu.

Prawdziwa historia dotyczy człowieka z Kalifornii, którego FBI w końcu złapało i skazało na sześć lat więzienia, ale gdyby był w innym miejscu na świecie, uciekłby z tego. Wiele krajów, jak zauważają Wittes i Blum, „nie ma ani woli, ani środków do monitorowania cyberprzestępczości, ścigania przestępców lub ekstradycji podejrzanych do Stanów Zjednoczonych”. 

Innymi słowy, technologia umożliwia przestępcom atakowanie kogokolwiek w dowolnym miejscu, a ze względu na demokratyzację coraz bardziej na dużą skalę. Nowe biotechnologie, nanotechnologie i technologie cybernetyczne stają się coraz bardziej dostępne. Politolog Daniel Deudney ma słowo, które może spowodować: „wszechobecność”.

Stosunek zabójców do zabitych lub „stosunek K / K” spada. Na przykład informatyk Stuart Russell ma to wyraźnie opisane jak mała grupa złośliwych agentów może zaangażować się we wszechobecność: „Bardzo, bardzo mały quadkopter o średnicy jednego cala może przenosić ładunek o kształcie jednego lub dwóch gramów”, mówi. „Możesz je zamówić u producenta dronów w Chinach. Możesz zaprogramować kod, by powiedział: „Oto tysiące zdjęć rzeczy, na które chcę celować”. Jeden gram ładunek w kształcie może wybić dziurę w dziewięciu milimetrach stali, więc prawdopodobnie możesz również wybić dziurę w czyjejś głowie.

Możesz zmieścić około trzech milionów z nich w naczepie. Możesz podjechać I-95 trzema ciężarówkami i mieć milion broni 10 atakujących Nowy Jork. Nie muszą być bardzo skuteczne, tylko 5 lub 10% z nich musi znaleźć cel. ”Producenci będą produkować miliony tych dronów, które można kupić tak jak teraz z bronią, Russell podkreśla,„ z wyjątkiem milionów pistolety nie mają znaczenia, chyba że masz milion żołnierzy. Potrzebujesz tylko trzech facetów, aby napisać program i uruchomić. ”W tym scenariuszu współczynnik K / K może wynosić być może 3 / 1,000,000, przy założeniu procentowej dokładności 10 i tylko jednego jednego grama ładunku na drona. 

Ostrzeżenie: ten film jest dramatyczny i jeszcze się nie wydarzył!

To całkowicie - i przerażająco - bezprecedensowe. Terrorysta lub psychopata przyszłości będzie miał jednak nie tylko Internet lub drony, zwane „botami rzeźnymi” ten film z Future of Life Institute - ale także biologii syntetycznej, nanotechnologii i zaawansowanych systemów AI. Narzędzia te czynią siejącą spustoszenie ponad granicami międzynarodowymi banalną, co rodzi pytanie: czy pojawiające się technologie sprawią, że system państwowy stanie się przestarzały?

Trudno zrozumieć, dlaczego nie. To, co uzasadnia istnienie państwa, argumentował angielski filozof Thomas Hobbes, to „umowa społeczna”. Ludzie rezygnują z pewnych swobód w zamian za bezpieczeństwo zapewnione przez państwo, przy czym państwo działa jako neutralny „sędzia”, który może interweniować, gdy ludzie dostaną w spory, karać ludzi, którzy kradną i mordują oraz egzekwować umowy podpisane przez strony o sprzecznych interesach. 

Problem polega na tym, że jeśli ktokolwiek w dowolnym miejscu może zaatakować kogokolwiek w innym miejscu, wówczas stany staną się - i stają się - niezdolne do spełnienia swojego podstawowego obowiązku jako sędziego. Jest to trend w kierunku anarchii, „wojny wszystkich przeciwko wszystkim”, jak to ujął Hobbes - innymi słowy warunek, że wszyscy żyją w ciągłym strachu przed krzywdą ze strony sąsiadów. Rzeczywiście, w ostatnim papier, „Hipoteza podatnego na zagrożenia świata”, opublikowana w Globalna polityka, filozof z Oxfordu Nick Bostrom przekonuje, że jedynym sposobem obrony przed globalną katastrofą jest zastosowanie uniwersalnego i inwazyjnego systemu nadzoru, który nazywa „zaawansowanym technologicznie Panopticon”.

Dźwięk dystopii? Z pewnością mi to robi. „Stworzenie i eksploatacja zaawansowanego technologicznie Panopticon wymagałaby znacznych inwestycji”, pisze Bostrom, „ale dzięki spadającej cenie kamer, transmisji danych, pamięci i komputerów oraz szybkiemu postępowi w analizie treści z obsługą AI, może wkrótce stać się zarówno wykonalnym technologicznie, jak i niedrogim. ”Bostrom zdaje sobie sprawę z wad - skorumpowani aktorzy w państwie mogą wykorzystać tę inwigilację do celów totalitarnych, a hakerzy mogą szantażować niczego niepodejrzewające ofiary. Jednak faktem jest, że może to być lepsza opcja niż ponoszenie jednej globalnej katastrofy po drugiej. 

Jak społeczeństwa mogą przeciwdziałać wszechobecności? Jeden strategia może być superinteligentną maszyną - w istocie niezwykle potężnym algorytmem - specjalnie zaprojektowanym do sprawiedliwego zarządzania. Możemy wtedy postawić algorytm pod dowództwem politycznym i, o ile rządzi on jak coś w rodzaju „Króla Filozofów”, nie martw się stale o to, że zebrane dane są niewłaściwie wykorzystywane lub nadużywane. Oczywiście jest to fantastyczna propozycja. Nawet rzeczywiste wykorzystanie AI w systemie wymiaru sprawiedliwości jest obarczone problemy. Ale czy w tym momencie mamy lepszy pomysł, aby zapobiec upadkowi systemu państwowego pod ciężarem powszechnego wzmocnienia technologicznego?

Przeczytaj całą historię tutaj…