Naukowcy: nie ma sposobu, aby kontrolować super inteligentną sztuczną inteligencję

Od samojezdnych samochodów po komputery, na których można wygrywać teleturnieje, ludzie mają naturalną ciekawość i zainteresowanie sztuczną inteligencją (AI). Jednak w miarę jak naukowcy nadal tworzą inteligentniejsze i mądrzejsze maszyny, niektórzy pytają „co się dzieje, gdy komputery stają się zbyt inteligentne dla ich własnego dobra?” Od „Matrixa” do „Terminatora” przemysł rozrywkowy już zaczął się zastanawiać, czy przyszłe roboty będą kiedyś zagrozić ludzkości. Z nowego badania wynika, że ​​może nie być sposobu na powstrzymanie rozwoju maszyn. Międzynarodowy zespół twierdzi, że ludzie nie byliby w stanie powstrzymać super sztucznej inteligencji przed robieniem tego, co chcą.

Naukowcy z Centrum Ludzi i Maszyn w Instytucie Maxa Plancka zaczęli wyobrażać sobie, jak taka maszyna będzie wyglądać. Wyobraź sobie program AI o inteligencji znacznie przewyższającej ludzką inteligencję. Tak bardzo, że mógł uczyć się samodzielnie bez nowego programowania. Gdyby był podłączony do internetu, naukowcy twierdzą, że sztuczna inteligencja miałaby dostęp do wszystkich danych ludzkości, a nawet mogłaby przejąć kontrolę nad innymi maszynami na całym świecie.

Autorzy badania pytają, co by to było taka inteligencja zrobić z całą tą mocą? Czy udałoby się ulepszyć całe nasze życie? Czy poświęciłby swoją moc obliczeniową na rozwiązywanie problemów, takich jak zmiana klimatu? Albo wyglądałaby maszyna przejąć życie ludzkich sąsiadów?

Kontrolując niekontrolowane? Niebezpieczeństwa super sztucznej inteligencji

Zarówno programiści komputerowi, jak i filozofowie badali, czy istnieje sposób na powstrzymanie superinteligentnej sztucznej inteligencji przed potencjalnym zwróceniem się do swoich ludzkich twórców; zapewnienie, że przyszłe komputery nie będą szkodzić ich właścicielom. Nowe badanie pokazuje niestety, że utrzymanie superinteligentnej sztucznej inteligencji w ryzach wydaje się praktycznie niemożliwe.

„Superinteligentna maszyna, która kontroluje świat, brzmi jak science fiction. Ale są już maszyny, które wykonują pewne ważne zadania niezależnie, bez pełnego zrozumienia przez programistów, w jaki sposób się tego nauczyli. Powstaje zatem pytanie, czy w pewnym momencie tak się stanie niekontrolowane i niebezpieczne dla ludzkości ”- mówi współautor badania, Manuel Cebrian, lider Digital Mobilization Group w Center for Humans and Machines, wydanie uniwersyteckie.

Międzynarodowy zespół przyjrzał się dwóm różnym sposobom kontroli sztuczna inteligencja. Pierwsza ograniczyła moc superinteligencji, zamurowując ją i uniemożliwiając łączenie się z Internetem. Nie może też łączyć się z innymi urządzeniami technicznymi w świecie zewnętrznym. Problem z tym planem jest dość oczywisty; taki komputer nie byłby w stanie nic zrobić, aby faktycznie pomóc ludziom.

Bycie miłym dla ludzi nie liczy

Druga opcja skupiała się na stworzeniu algorytmu, który dałby superkomputerowi zasady etyczne. Miejmy nadzieję, że zmusiłoby to sztuczną inteligencję do rozważenia najlepszego interesu ludzkości.

Badanie stworzyło teoretyczny algorytm powstrzymujący, który w żadnych okolicznościach nie pozwoliłby sztucznej inteligencji szkodzić ludziom. W symulacjach sztuczna inteligencja przestałaby działać, gdyby badacze uznali jej działania za szkodliwe. Pomimo powstrzymywania AI od zdobycie dominacji nad światem, autorzy badania twierdzą, że to po prostu nie zadziała w prawdziwym świecie.

Przeczytaj całą historię tutaj…