Technokraci stworzyli potwora, o którym teraz zdają sobie sprawę, że może zmienić i zniszczyć ich twórców; w ten sposób tworzone są „gry wojenne”, aby nauczyć się, jak je pokonać - sztuczną inteligencję. To kolejny przykład próby „ratowania świata”, która przerodziła się w scenariusz „zniszczenia świata”. ⁃ Edytor TN
Wzmacniacze sztucznej inteligencji przewidują nowy wspaniały świat latających samochodów i leków na raka. Krytycy martwią się o przyszłość, w której ludzie zostaną zniewoleni przez złą rasę władców robotów. Weteran sztucznej inteligencji Eric Horvitz i guru Doomsday Clock Lawrence Krauss, szukając kompromisu, zebrali grupę ekspertów na pustyni w Arizonie, aby omówić najgorsze, co może się wydarzyć - i jak temu zapobiec.
Ich warsztaty odbyły się w ubiegły weekend na Arizona State University przy wsparciu finansowym współzałożyciela Tesla Inc., Elona Muska i współzałożyciela Skype, Jaana Tallinna. Oficjalnie nazywany „przewidywanie i reagowanie na niekorzystne skutki sztucznej inteligencji”, był to rodzaj zagrywki sztucznej inteligencji, która zorganizowała około 40 naukowców, ekspertów ds. Bezpieczeństwa cybernetycznego i łamigłówek politycznych w grupy napastników - czerwony zespół - i obrońcy - niebieski zespół - grając w AI - przeminęły bardzo błędne scenariusze, od manipulacji na giełdzie po globalną wojnę.
Horvitz jest optymistą - dobrze, bo inteligencja maszynowa to dzieło jego życia - ale niektórzy inni, bardziej dystopijni zwolennicy projektu wydawali się uważać jego poglądy za zbyt pozytywne, gdy plany dotyczące tego wydarzenia zaczęły się około dwa lata temu, powiedział Krauss, teoretyczny fizyk kierujący Projektem Początków ASU, programem prowadzącym warsztaty. Jednak Horvitz powiedział, że aby te technologie mogły się pomyślnie rozwijać i zyskać szerokie zaufanie opinii publicznej, wszystkie obawy muszą zostać w pełni przedstawione i rozwiązane.
„Sztuczna inteligencja ma ogromny potencjał, aby przekształcić tak wiele aspektów naszego społeczeństwa na wiele sposobów. Jednocześnie istnieją ostre krawędzie i potencjalne wady, jak każda technologia ”- powiedział Horvitz, dyrektor zarządzający laboratorium badawczego Microsoft w Redmond w stanie Waszyngton. „Aby uzyskać maksymalne korzyści, musimy również przemyśleć możliwe wyniki bardziej szczegółowo niż dotychczas i zastanowić się, jak sobie z nimi poradzimy”.
Uczestnicy otrzymali „pracę domową” na przesłanie zgłoszeń dotyczących najgorszych scenariuszy. Musiały być realistyczne - oparte na obecnych technologiach lub tych, które wydają się możliwe - i za pięć do 25 lat w przyszłości. Uczestnicy z „zwycięskimi” koszmarami zostali wybrani do poprowadzenia paneli, w których uczestniczyło około czterech ekspertów z każdej z dwóch drużyn, aby omówić atak i sposoby zapobiegania mu.
wpDiscuz