Ci sami technokraci, którzy jako pierwsi przynieśli nam sztuczną inteligencję, zastanawiają się teraz, czy może nagle pojawić się „super-sztuczna inteligencja”, która zniszczyłaby cywilizację. Aby uzyskać bardziej wiarygodną odpowiedź, być może powinni zapytać Alexę. ⁃ Edytor TN
Dyrektor generalny Allen Institute for AI, profesor Oren Etzioni, wydał serię potencjalnych znaków ostrzegawczych, które ostrzegałyby nas, że „super-inteligencja” jest tuż za rogiem.
Jeden z informatyków ostrzegł, że ludzie muszą być gotowi na oznaki robotycznej super-inteligencji, ale powinni mieć wystarczająco dużo czasu, aby się nimi zająć.
Oren Etzioni, dyrektor generalny Allen Institute for AI, napisał niedawno artykuł zatytułowany: „How to know if sztuczna inteligencja ma zamiar zniszczyć cywilizację ”.
Napisał: „Czy moglibyśmy pewnego ranka obudzić się oniemiały, że pojawiła się super-potężna sztuczna inteligencja, co ma katastrofalne konsekwencje?
„Książki takie jak Superintelligence Nicka Bostrom i Life 3.0 Maxa Tegmarka, a także nowsze artykuły dowodzą, że zła super-inteligencja jest egzystencjalnym zagrożeniem dla ludzkości.
„Ale można spekulować bez końca. Lepiej zadać bardziej konkretne, empiryczne pytanie: co mogłoby nas ostrzec, że super-inteligencja rzeczywiście jest tuż za rogiem? ”
Przyrównał znaki ostrzegawcze do kanarków w kopalniach węgla, które były używane do wykrywania tlenku węgla, ponieważ mogłyby się zawalić.
Prof. Etzioni argumentował, że te znaki ostrzegawcze pojawiają się, gdy programy AI rozwijają nowe możliwości.
Kontynuował dla MIT Review: „Czy słynny test Turinga może służyć jako kanarek? Test, wymyślony przez Alana Turinga w 1950 roku, zakłada, że sztuczna inteligencja na poziomie ludzkim zostanie osiągnięta, gdy dana osoba nie będzie w stanie odróżnić rozmowy z człowiekiem od rozmowy z komputerem.
„To ważny test, ale to nie jest kanarek; jest to raczej znak, że sztuczna inteligencja na poziomie ludzkim już przybyła.
„Wielu informatyków uważa, że jeśli ta chwila nadejdzie, szybko nastąpi superinteligencja. Potrzebujemy więcej etapów pośrednich ”.
Ostrzegł jednak, że „automatyczne formułowanie problemów z nauką” będzie pierwszym kanarkiem, po którym pojawią się autonomiczne samochody.
wpDiscuz
Co to jest „automatyczne formułowanie problemów w nauce”? Poszedłem do linku, ale strona chce informacji, których nie chciałem podać.