Eric Schmidt: Sztuczna inteligencja jest tak samo potężna jak atomówki

Były dyrektor generalny Google, Eric Schmidt, porównał sztuczną inteligencję do broni nuklearnej i wezwał do wprowadzenia reżimu odstraszania podobnego do wzajemnie gwarantowanego zniszczenia, które powstrzymuje najpotężniejsze kraje świata przed niszczeniem się nawzajem.

Schmidt mówił o zagrożeniach związanych z AI na Aspen Security Forum na płyta o bezpieczeństwie narodowym i sztucznej inteligencji 22 lipca. Zadając pytanie o wartość moralności w technologii, Schmidt wyjaśnił, że on sam był naiwny w kwestii potęgi informacji we wczesnych dniach Google. Następnie wezwał, aby technologia była lepsza w zgodzie z etyką i moralnością ludzi, którym służy, i dokonał dziwacznego porównania między sztuczną inteligencją a bronią jądrową.

„Nie jesteśmy gotowi na negocjacje, których potrzebujemy”. – @ericschmidt. #AspenBezpieczeństwo pic.twitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) 22 lipca 2022 r.

Schmidt wyobrażał sobie niedaleką przyszłość, w której Chiny i Stany Zjednoczone będą musiały scementować traktat wokół sztucznej inteligencji. „W latach 50. i 60. w końcu opracowaliśmy świat, w którym istniała zasada „bez niespodzianek” w odniesieniu do testów jądrowych i ostatecznie zostały one zakazane” – powiedział Schmidt. „To przykład równowagi zaufania lub braku zaufania, to zasada „bez niespodzianek”. Jestem bardzo zaniepokojony tym, że amerykańskie postrzeganie Chin jako skorumpowanych, komunistycznych czy cokolwiek, a także chińskie postrzeganie Ameryki jako upadającej… pozwoli ludziom powiedzieć „O mój Boże, oni coś knują”, a potem zacząć coś w rodzaju zagadki. Rozpocznij coś w rodzaju sytuacji, w której, ponieważ uzbrajasz lub przygotowujesz się, wyzwalasz drugą stronę. Nikt nie pracuje nad tym, a jednak sztuczna inteligencja jest tak potężna”.

Sztuczna inteligencja i uczenie maszynowe to imponująca i często źle rozumiana technologia. W dużej mierze nie jest tak mądry, jak ludzie myślą, że jest. Może się wylać grafika na poziomie arcydzieła, pokonać ludzi w Starcraft IIi wykonywać podstawowe rozmowy telefoniczne z użytkownikami. Próbuje jednak zmusić go do wykonywania bardziej skomplikowanych zadań, takich jak prowadzenie samochodu przez duże miasto, nie szło tak dobrze.

Schmidt wyobrażał sobie niedaleką przyszłość, w której zarówno Chiny, jak i USA będą miały obawy o bezpieczeństwo, które wymuszają między nimi rodzaj traktatu odstraszającego wokół sztucznej inteligencji. Mówi o latach 1950. i 60., kiedy dyplomacja stworzyła serię kontroli wokół najbardziej śmiercionośnej broni na świecie. Ale aby świat dotarł do miejsca, w którym ustanowił Traktat o Zakazie Prób Jądrowych, SALT II i inne przełomowe akty prawne, potrzeba było dziesięcioleci wybuchów nuklearnych i, co krytyczne, zniszczenia Hiroszimy i Nagasaki.

Dwa japońskie miasta zniszczone przez Amerykę pod koniec II wojny światowej zabiły dziesiątki tysięcy ludzi i udowodniły światu wieczną grozę broni jądrowej. Rządy Rosji i Chin pospieszyły wtedy po broń. Sposób, w jaki żyjemy z możliwością użycia tej broni, opiera się na czymś, co nazywa się wzajemnym gwarantowanym zniszczeniem (MAD), czyli teorią odstraszania, która zapewnia, że ​​jeśli jeden kraj wystrzeli bombę nuklearną, możliwe jest, że każdy inny też to zrobi. Nie używamy najbardziej niszczycielskiej broni na planecie, ponieważ może to zniszczyć przynajmniej cywilizację na całym świecie.

Pomimo barwnych komentarzy Schmidta, nie chcemy ani nie potrzebujemy MAD dla AI. Po pierwsze, sztuczna inteligencja nie okazała się tak destrukcyjna jak broń nuklearna. Ale ludzie na stanowiskach władzy obawiaj się tej nowej technologii i zazwyczaj z niewłaściwych powodów. Ludzie nawet sugerowali dawanie kontroli broni jądrowej do sztucznej inteligencji, teoretyzując, że będą lepszymi arbitrami w ich użyciu niż ludzie.

Problem ze sztuczną inteligencją nie polega na tym, że ma potencjalnie niszczycielską siłę broni jądrowej. Chodzi o to, że sztuczna inteligencja jest tak dobra, jak ludzie, którzy ją zaprojektowali i odzwierciedla wartości jej twórców. Sztuczna inteligencja cierpi z powodu klasycznego problemu „śmieci wchodzą, śmieci wychodzą”: rasistowskie algorytmy sprawiają, że rasistowskie roboty, cała sztuczna inteligencja przenosi uprzedzenia swoich twórców, a chatbot wyszkolony na 4chan staje się podły.

To jest coś, co Demis Hassabis — dyrektor generalny DeepMind, który wyszkolił sztuczną inteligencję, która bije Starcraft II gracze – wydaje się, że rozumie lepiej niż Schmidt. W lipcowym wywiadzie dla podcastu Lex Fridman Fridman zapytał Hassabisa, w jaki sposób można kontrolować technologię tak potężną jak sztuczna inteligencja i jak sam Hassabis może uniknąć zepsucia przez władzę.

Przeczytaj całą historię tutaj…