Joe Allen: Odliczanie do Gigadeath – od wyścigu zbrojeń AI do wojny o artykuły

Dla prawdziwie wierzących sztuczna inteligencja nieuchronnie stanie się nadludzką. Według ich mitów dryfujemy w bezbożnym kosmosie. Więc do nas należy tworzenie cyfrowych bóstw. A raczej ich stworzenie zależy od kilku maniaków technologii. Reszta z nas może albo uklęknąć przed ich ołtarzem, albo zostać zepchnięta w przepaść.

Ponieważ boty roją się w naszym życiu, napięcie między nami a nimi rośnie. W niektóre dni wydaje się, że zmierzamy w kierunku skomputeryzowanej wojny rasowej między rodzącymi się cyborgami a starszymi ludźmi. Po zbyt długim czasie spędzonym przed ekranem — gdy moje synapsy przestawiają się, by dopasować się do napływających danych — nie jest jasne, do którego podgatunku należę.

Dla przypomnienia, jestem bardziej agnostykiem niż prawdziwie wierzącym. Technicy składają wszelkiego rodzaju puste obietnice. Rozwijają się dzięki projekcji mistycznych mocy. Mimo to ignorujemy ich techno-kulturową rewolucję na własne ryzyko.

Korporacje technologiczne dzierżą prawdziwą władzę w zakresie kontroli informacji. Dosłownie wypaczają świadomość publiczną na dużą skalę. Po stronie wojskowej egzekutorzy mają możliwość wysadzenia cię w powietrze z drugiego końca świata. Możesz szydzić, że siły zbrojne USA stworzyły więcej oficerów transpłciowych niż żołnierzy-cyborgów. Ale jeśli nie możesz wycelować AR-15 szybciej, niż ich dron może się dostroić, chichoczesz spod buta. Sztuczna inteligencja tylko wzmacnia tę pozycję.

W 2018 roku Agencja Zaawansowanych Projektów Badawczych w Obronie USA ogłosił „koncentruje swoje inwestycje na trzeciej fali sztucznej inteligencji, która wprowadza maszyny, które potrafią rozumieć i rozumować w kontekście”. Dyrektor Biura Innowacji Informacyjnych DARPA, Brian Pierce, jest szalenie entuzjastyczny o „prawdziwej symbiozie między Homo sapiens a wyłaniającą się Machina sapiens”.

2021 biały papier z brytyjskiego Ministerstwa Obrony potwierdza: „Podstawą przyszłej przewagi wojskowej będzie skuteczna integracja ludzi, sztucznej inteligencji i robotyki z systemami walki — zespołami człowiek-maszyna — które wykorzystują możliwości ludzi i technologii, aby przewyższyć naszych przeciwników. ”

Chiny ma podobne cyborgiczne ambicje. Tak samo Rosja i NATO. „Sztuczna inteligencja to przyszłość” – powiedział słynny Władimir Putin. „Kto zostanie liderem w tej sferze, zostanie władcą świata”.

Może generałowie marnują pieniądze na wojnę maniaków. Może po prostu bawią się nowymi zabawkami.

Nie liczyłbym na to.

Już teraz widzimy, że wąskie sztuczna inteligencja przewyższa rozpoznawanie wzorców ludzkich w określonych zadaniach, do których zostały zaprojektowane — modelowaniu białek, analizie radiologicznej, nadzorze pola bitwy i pozyskiwaniu celów, by wymienić tylko kilka. Przykładem może być amerykański kontrahent obronny Palantir, który dobrowolnie udostępnia Ukrainie swoją sztuczną inteligencję. To główny powód, dla którego tak długo opierali się większym siłom rosyjskim.

„Siła zaawansowanych algorytmicznych systemów bojowych jest teraz tak wielka, że ​​można ją porównać do posiadania taktycznej broni jądrowej przeciwko przeciwnikowi za pomocą tylko broni konwencjonalnej” — powiedział Alex Karp, dyrektor generalny Palantir powiedział die,en Washington Post. „Opinia publiczna ma tendencję do niedoceniania tego. Nasi przeciwnicy już tego nie robią”.

W rękach elitarnych drapieżników te narzędzia cyfrowe są śmiertelnie poważne. Kiedy liderzy nie stosują technologii przeciwko rywalom, kierują ją przeciwko własnym obywatelom. Pamiętaj o rozpoznawaniu twarzy Clearview AI włączony gliny wyśledziły protestujących 6 stycznia.

Technologia to potęga. Zawsze był.

Nie wszyscy jednak są zaniepokojeni. Wątpiący drwią z pojęcia „inteligentnych” maszyn. „AI nie istnieje” – mówią. „To tylko algorytm”. "Syf na wejściu, syf na wyjściu." Zazwyczaj są to byli programiści wciąż żyjący w latach 90-tych. Powtarzają „śmieci na wejściu, śmieci na wyjściu” tak często, jakby zostali zaprogramowani, by to powiedzieć.

Ci faceci mają racje. Sztuczna inteligencja jest tak dobra, jak projekt jej sieci neuronowej i dane, na których jest szkolona. Pod tym względem nie różni się od ludzi. Ale kiedy jest dobrze, jest przerażająco dobrze. Jeśli na przykład solidna sztuczna inteligencja jest wyszkolona w rozpoznawaniu wyciągów bankowych, może przekopać się przez góry śmieci i znaleźć jeden w ciągu kilku sekund — podobnie jak Rain Man nurkujący w śmietniku, aby ukraść twoją tożsamość.

Sztuczna inteligencja, która mnie obudziła, to AlphaZero, opracowana przez Google DeepMind w 2017 roku. Zaprogramowana tylko z podstawowymi zasadami gry i „pragnieniem” wygranej, ta sieć neuronowa nauczył się sam grać w Go, szachy i wiele gier wideo w zaledwie kilka godzin. Opanowanie Go jest szczególnie ważne. Przez dziesięciolecia sceptycy twierdzili, że żaden komputer nie zrozumie tej starożytnej chińskiej gry. Twierdzili, że złożoność Go wymaga głębokiej intuicji, którą posiadają tylko ludzie. Okazuje się, że było to myślenie życzeniowe.

AlphaZero, podobnie jak jego poprzednik AlphaGo, wymyśla skuteczne strategie, o których żaden człowiek nigdy nie pomyślał. A najbardziej niepokojące są te cyfrowe umysły zmiażdżyć ludzkich panów w ich własnych grach. Gdyby ludzie mieli choć trochę rozsądku, od razu by wyłączyli wtyczkę. Na tym wszystkim. Ale wiesz, co mówią: „Nie możesz zatrzymać postępu”.

Kolejnym krokiem jest łączenie te wąskie zdolności poznawcze w jeden „sztuczny mózg”. Ten sztuczna inteligencja ogólna (AGI) byłby wystarczająco elastyczny, aby przenosić się z jednej domeny do drugiej lub wdrażać różne moduły jednocześnie, aby rozwiązywać rzeczywiste problemy.

Teoretycznie można skleić ze sobą dowolną kombinację zdolności — rozpoznawanie twarzy, przetwarzanie języka naturalnego, modelowanie społeczne, systemy kontroli robotów, algorytmy estetyczne — wszystko, czego można chcieć w robotycznym mózgu. Maszyna prawdopodobnie przewyższyłaby ludzi we wszystkich tych obszarach. Ale bez względu na to, jaką kombinację wymyślisz, nie będzie to w pełni ludzkie. Nie podzielałoby też naszych wartości ani doświadczenia świata. Byłoby to ślepe, zdeformowane dziecko wyryte w krzemie, ale o doskonałych zdolnościach poznawczych - podobnie jak gnostycki demiurg.

Dla transhumanistów nadejście samodoskonalącego się AGI będzie oznaczało „wyjątkowy moment w historii” – Osobliwość. Stamtąd starzy ludzie są już tylko na przejażdżkę. Jeśli mamy szczęście.

W każdym razie to jest sen. A duże korporacje, takie jak DeepMind i OpenAI – a także ich chińskie odpowiedniki w Baidu i Tencent – ​​są Bridgestone urzeczywistnić jakąś wersję. Ich dyrektorzy generalni obiecują cyfrową utopię lub jakieś przybliżenie. Woleliby, żebyś się po prostu zrelaksował i nie zadawał pytań.

Jednak jest kilku alarmistów, którzy twierdzą, że uciekająca sztuczna inteligencja może oznaczać unicestwienie rasy ludzkiej. Ponieważ jesteśmy położnymi AGI, doradzają, naszym głównym zadaniem jest nauczenie tego niemowlęcia Komputerowego Boga życzliwości – dostosowania jego wartości do naszych. W przeciwnym razie zostaniemy zniewoleni lub zginiemy. Nazywają to „problemem wyrównania AI”. Ponieważ różne frakcje walczą o to, jak „przebudzony” lub „oparty” ChatGPT może być, wygląda to dość ponuro.

Co dziwne, niektóre z najgłośniejszych wezwań alarmowych pochodzą od osób pracujących nad AGI. Należą do nich Sam Altman i Elon Musk (OpenAI), Demis Hassabis (DeepMind) oraz działający w Chinach Ben Goertzel (SingularityNET) i szalony prorok technokalipsy, Hugo de Garis (Xiamen University).

Oksfordzki transhumanista Nick Bostrom, autor książki z 2014 roku, wyjaśnił znaczenie jazdy Teslą publiczność TEDa:

Potencjał superinteligencji drzemie w materii, podobnie jak potęga atomu spoczywała w uśpieniu przez całą historię ludzkości, cierpliwie czekając aż do 1945 roku. W tym stuleciu naukowcy mogą nauczyć się budzić potęgę sztucznej inteligencji. I myślę, że wtedy możemy być świadkami eksplozji inteligencji.

Niezależnie od ryzyka egzystencjalnego, argumentują ci ludzie, każdy naród, który nie przyjmie sztucznej inteligencji, pozostanie w tyle za tymi, którzy to zrobią. Ta sama dynamika dotyczy jednostek i organizacji konkurujących ze sobą w obrębie narodów. W cyfrowym ekosystemie przetrwają najsilniejsze cyborgi — a sztuczna inteligencja jest mitycznym Pierścieniem Władzy.

Ze wszystkich przyszłości przewidywanych przez transhumanistów, ten wyczarowany przez Hugo de Garis jest najbardziej makabryczny. Jest też najbardziej szczery. Wielu mieszkańców Doliny Krzemowej wierzy, że nadludzka inteligencja maszyn doprowadzi do „radykalnej obfitości” i nieograniczonej wiedzy o wszechświecie. Jako fizyk i konstruktor robotów, de Garis wierzy, że wszystkie te rzeczy się spełnią.

Jednak prorokuje również, że tworzenie „artykułów” – skrót od „sztucznych intelektów”; zasadniczo AGI — prawdopodobnie doprowadzi do zniszczenia ludzkości. Może ci cyfrowi bogowie nie będą mieli z nas pożytku i zmiażdżą nas jak robale. Lub równie prawdopodobne, argumentuje de Garis, wydarzenie „gigadeth” nastąpi, gdy ludzie będą walczyć o to, czy w ogóle je stworzyć. Oznacza to, że miliardy umierają w mgnieniu oka.

„Pytanie, które zdominuje 21^st XX wieku globalna polityka będzie brzmiała: „Kto lub co powinno być dominującym gatunkiem na planecie, przedmioty czy istoty ludzkie?” To prowadzi go do sformułowania niepokojącego, choć myląco sformułowanego hasła: potencjalnych eksterminatorów?”

Wymyślając nowe, zwariowane słowa, jak niesforny gracz w Scrabble, de Garis bada ten konflikt w swojej książce z 2005 roku. Spodziewa się, że wybuchnie w ciągu kilku pokoleń. „Ta wojna użyje najbardziej niszczycielskiej broni, jaką kiedykolwiek wymyślono, w oparciu o koniec 21^st nauki i techniki stulecia”.

Mówimy o super-nuklearnych i zaprojektowanych przez sztuczną inteligencję broniach biologicznych — ciemnym horyzoncie roi się od robotycznych ogarów piekielnych i rojów nanobotów.

Artilect War będzie toczyć się pomiędzy „Terranie”, którzy byliby gotowi zabić, by zachować organiczną ludzkość, oraz „kosmiści”, których religijne oddanie budowaniu przedmiotów jest tak intensywne, że będą gotowi umrzeć za to przebóstwienie. W rzeczywistości będą chcieli zobaczyć wszyscy umrzeć za to:

W 20^th XX wieku naziści wymordowali 20 milionów Rosjan, Japończycy zamordowali 20 milionów Chińczyków, Stalin zabił 30 milionów podczas czystek, a Mao zagłodził 50 milionów chińskich chłopów. Są to jedne z największych zbrodni w historii, ale bledną w porównaniu z rozmiarami tragedii, jeśli kiedykolwiek artykuły zdecydują się unicestwić ludzkość. Tragedia byłaby totalna w tym sensie, że nie byłoby już żadnych istot ludzkich opłakujących zniknięcie gatunku.

Jak zauważa de Garis, to zdumiewające, że jakikolwiek człowiek dążyłby do takiego celu, wiedząc, że miliardy ludzi mogą zostać wymordowane. Ale dla kosmistów tworzenie nadludzkich maszyn jest religijnym poszukiwaniem poza dobrem i złem. Zgodnie z tradycją szalonych naukowców dręczonych poczuciem winy, de Garis zalicza się do tego drugiego obozu, do diabła ze śmiercią:

Moim ostatecznym celem jest zobaczenie, jak ludzkość, a przynajmniej część ludzkości, przeszła na kosmizm i zrobiła to z powodzeniem, budując prawdziwie boskie przedmioty, które górują nad naszymi mizernymi ludzkimi zdolnościami intelektualnymi i innymi.

Kluczowe pojęcie w Wojna artykułów jest „dominacją gatunku”. Po stworzeniu sztucznego życia ludzkość staje w obliczu nowego ewolucyjnego konkurenta. Gdy niektórzy ludzie połączą się z życiem cyfrowym jak tasiemce w mechajelicie, ludzkość podzieli się na podgatunki — wysysające boty cyborgi i „mizerne” istoty ludzkie.

Wraz ze specjacją pojawia się konkurencja. Opierając się na teorii politycznej i ewolucyjnej, de Garis mówi, że na szczycie tego gówna jest tylko tyle miejsca. Ponieważ równość nie istnieje w naturze, dominacja gatunków jest nieunikniona. Mając za przewodnika historię ludzkości, oznacza to przemoc.

Czy pierwsze miejsce zajmą komputery o wysokim IQ, które krążą wokół planety i są „szybsze i lepsze od ludzi o bilion bilionów czynników”?

A może zostanie zajęty przez Kosmistów, którzy budują i rozmieszczają te maszyny?

A może Terranie zabiją ten transludzki kult i wrócą do bicia w bębny w lesie?

Wydaje się prawdopodobne, że wdamy się w wojnę nuklearną z Rosją lub Chinami, oszczędzając nam tej wojny artyleryjskiej. Jest mnóstwo gigadeth, które można obejść bez superkomputerowego boga.

Ale jeśli uda nam się uniknąć bombardowania siebie nawzajem kosmicznym pyłem, może się zdarzyć, że rywalizacja supermocarstw popchnie ewolucję technologii – zwłaszcza technologii wojskowej – w kierunku czegoś, co przypomina wizję de Garisa. Pomyśl o tym jako o Osobliwości z hukiem.

W rzeczywistości znaczenie koszmaru Hugo de Garisa może być jego wpływ na chińską kulturę technologiczną. W latach 2006-2010 dopełniał swoją karierę zawodową w Chinach – najpierw na Uniwersytecie Wuhan, a następnie prowadził Laboratorium Sztucznego Mózgu na Uniwersytecie Xiamen. Do czasu pandemii biegał jego bliski współpracownik Ben Goertzel SingularityNET z Hongkongu. Ten projekt AGI funkcjonował we współpracy z Hanson Robotyka— nadal mieszkający w Hongkongu — którego robot Sophia jest wywyższany jako transludzka bogini na światowej scenie.

Zakres transferu technologii do Komunistycznej Partii Chin jest nieznany. Rozsądnie jest jednak założyć, że niezależnie od ich intencji, de Garis i Goertzel pomogli Chinom osiągnąć cel prześcignięcia USA w sztucznej inteligencji. Ta ambicja obejmuje łączenie ludzkich mózgów ze sztuczną inteligencją i tworzenie sztucznej inteligencji ogólnej – z myślą o zastosowaniach wojskowych.

Tom PRISM z listopada 2021 r., opublikowany przez Uniwersytet Obrony Narodowej w DC, zawiera otwierający oczy artykuł badawczy „Chiński projekt AI-Brain „nowej generacji”.”. Nie ma wątpliwości, że przez chińską duszę przebiega transludzki impuls. Autorzy cytują czołowego badacza KPCh, Xu Bo, przemawiającego do oficjalnej gazety Ministerstwa Nauki i Technologii:

Jak zauważył sekretarz generalny Xi Jinping w zbiorowym badaniu Biura Politycznego, badania nad sztuczną inteligencją muszą badać „obszary bezzałogowe”. W obszarach inteligencji roju, inteligencji hybrydowej człowiek-maszyna i inteligencji autonomicznej istnieją duże obszary bezzałogowe do zbadania. … Wierzymy, że autonomiczna ewolucja jest pomostem od słabej sztucznej inteligencji do ogólnej sztucznej inteligencji.

Lub, jak powiedział dziekan Pekińskiej Akademii Sztucznej Inteligencji, Huang Tiejun, na konferencji Future of Life:

Nasza rasa ludzka jest tylko na jednym etapie. Dlaczego przestajesz? Ludzie rozwijają się zbyt wolno. Ludzi nie da się porównać z superinteligencją maszynową. Prędzej czy później to nastąpi, więc po co czekać? Nawet z perspektywy ludzkiego centryzmu lub ludzkiej wyjątkowości superinteligencja jest potrzebna, aby stawić czoła wielkim wyzwaniom, których nie jesteśmy w stanie rozgryźć. Dlatego popieram pomysł.

Tłumacząc oświadczenia z całego chińskiego establishmentu technologicznego, autorzy artykułu PRISM sucho zauważają: „Inne takie prognozy są powszechne”.

Przyszłość rysuje się ponuro, ale możliwości są nadal szeroko otwarte. Ponownie, jestem gdzieś pomiędzy wątpiącymi a prawdziwie wierzącymi – i przyznam, że to letni żywopłot.

Podobnie jak smartfony czy Internet, sztuczna inteligencja nigdy nie będzie działać zgodnie z reklamą. Ewolucja technologii to saga nieoczekiwanych błędów i niezamierzonych konsekwencji. Roi się od pompowanych akcji, przereklamowanych kontraktów rządowych i nadmiernie finansowanych projektów akademickich.

Nie ma latających samochodów (jeszcze). Nie ma zimnej fuzji (jeszcze). Nie ma nanobotów kontrolujących umysł (prawda?).

Jednak tylko głupiec nie chce dostrzec, że smartfony i Internet zniszczyły kulturę organiczną. To samo dotyczy masowej inwigilacji i wojny dronów. Niezależnie od formy, jaką sztuczna inteligencja ostatecznie przybierze, jestem przekonany, że będzie miała podobny wpływ, jeśli nie gorszy.

Może się zdarzyć, że chatboty AI i wirtualne niewolnice seksualne oderwą niektórych ludzi od rzeczywistości, doprowadzając ich do jeszcze większego szaleństwa. Lub może być tak, że armia ulepszonych sztuczną inteligencją, genetycznie zmodyfikowanych cyborgów z czipami mózgowymi zstąpi na chmury nanobotów, aby stoczyć wojnę rasową z tym, co zostało ze starszych ludzi.

Tylko czas powie. Trzymaj folię aluminiową ciasno, a proszek suchy. I na litość boską, wyłącz smartfon. Tak cię dostają.

Przeczytaj całą historię tutaj…