Uwaga TN: Dr Eden mógł oglądać zbyt wiele filmów science fiction, ale jego biografia robi wrażenie. Pyta poniżej: „Czy wiek nadczłowieka zapoczątkuje erę, w której przeminęło pojęcie bycia człowiekiem?” TN publikuje takie historie, aby widz zrozumiał, że wielu wybitnych naukowców i inżynierów naprawdę wierzy w te rzeczy; albo właśnie przeskoczyli przez szyny.
Naukowcy ostrzegają, że swobodnie myślące roboty AI mogą zniszczyć ludzkość, a nawet całkowicie zmienić to, co znaczy być człowiekiem.
Dr Amnon Eden powiedział, że należy zrobić więcej, aby spojrzeć na ryzyko kontynuacji tworzenia świata AI.
Ostrzegł, że zbliżamy się do punktu braku zwrotu w zakresie sztucznej inteligencji, bez właściwego zrozumienia konsekwencji.
Dr Eden powiedział: „W Nowym Roku ta niedoinformowana kontrowersja powinna zostać zastąpiona bardziej świadomą analizą potencjalnego wpływu sztucznej inteligencji i jej zastosowań.
„W 2016 r. Ekspercka analiza ryzyka musi odgrywać znacznie większą rolę w myśleniu decydentów, rządów i korporacji”.
Dr Eden jest dyrektorem Sapience Project, ośrodka analitycznego, który został utworzony w celu zbadania potencjalnego destrukcyjnego wpływu sztucznej inteligencji AI.
Science fiction regularnie bada, czy roboty mogą zniszczyć ludzkość, a najsłynniejsze filmy Terminatora z udziałem Arnolda Schwarzeneggera.
Stanowisko dr Edena pojawiło się po tym, jak profesor Nick Bostrom z Oxfordu powiedział, że superinteligentna sztuczna inteligencja może „posunąć się do punktu, w którym jej cele nie są zgodne z celami człowieka”.
Twierdził, że w przeciwieństwie do zmian klimatycznych i inżynierii genetycznej, gdzie powiedział, że rządy na całym świecie wprowadzają mechanizmy minimalizujące ryzyko, „nic nie robi się, aby kontrolować postęp AI”.
Pan Bostrom powiedział: „Istnieje próżnia polityczna, którą należy wypełnić, jeśli ten nieunikniony postęp ma być mądrze wykorzystany”.
Omawiając potencjalne ryzyko, powiedział: „Komputer jest w zasadzie pudełkiem i to, co się w nim znajduje, to wszystko, czego może użyć, więc jeśli nie powiemy mu, że ludzie w zimnych krajach mogą umrzeć, jeśli nie mają ogrzewania, a to źle, jak będzie wiedzieć? Jak możemy zdefiniować, czym właściwie jest „dobre” lub „przyjazne”?
„Wynikiem osobliwości może nie być to, że sztuczna inteligencja jest złośliwa, ale równie dobrze może się zdarzyć, że nie jest w stanie„ myśleć nieszablonowo ”i nie ma pojęcia o ludzkiej moralności.
„Innym problemem sztucznej inteligencji jest ten, którego Hollywood od lat używa jako tematu, a mianowicie powstanie istoty typu„ Terminator ”i walka o przetrwanie przeciwko armii wrogich, zmieniających kształt robotów, prowadzonych przez samoświadomy AI nazywała się Skynet ”.
