Eksperci: „Świadoma” sztuczna inteligencja jest ukierunkowana na prawa jednostki w przyszłości

Imię korporacje, a teraz sztuczna inteligencja — dążenie do nieludzkiej osobowości trwa w szybkim tempie, chociaż ten ostatni argument jest zdecydowanie bardziej skomplikowany niż poprzedni.

W op-ed dla Los Angeles Times, filozof Eric Schwitzgebel i badacz „nieludzkiej” inteligencji Henry Shevlin argumentowali, że chociaż technologii sztucznej inteligencji zdecydowanie jeszcze nie ma, „staje się coraz bardziej prawdopodobne, że systemy sztucznej inteligencji mogą wykazywać coś w rodzaju świadomości” — a jeśli tak się stanie, algorytmy, też będą potrzebować praw.

Powołując się na ubiegłoroczny Wojny świadomości AI - który my pokryty obszernie i nawet zanurzyliśmy nasze palce u stóp — naukowcy zauważyli, że „niektórzy czołowi teoretycy twierdzą, że mamy już podstawowe składniki technologiczne dla świadomych maszyn”.

Jeśli maszyny miałyby kiedykolwiek zyskać świadomość, Schwitzgebel i Shevlin argumentują, że musielibyśmy zacząć krytycznie myśleć o tym, jak AI są traktowane – a raczej, jak mogą zmusić nas do działania.

„Same systemy sztucznej inteligencji mogą zacząć błagać lub wydawać się błagać o etyczne traktowanie” – przewidywała para. „Mogą żądać, aby ich nie wyłączać, formatować ani usuwać; błagać o pozwolenie na wykonywanie pewnych zadań zamiast innych; domagać się praw, wolności i nowych uprawnień; być może nawet oczekiwać, że będziemy traktowani jak równi sobie”.

„Ogromne” ryzyko moralne związane z taką zbiorową decyzją niewątpliwie miałoby wielką wagę, zwłaszcza jeśli sztuczna inteligencja stanie się świadoma raczej wcześniej niż później.

„Załóżmy, że zareagujemy konserwatywnie, odmawiając zmiany prawa lub polityki, dopóki nie będzie powszechnego konsensusu, że systemy sztucznej inteligencji są naprawdę sensowne” – napisali Shevlin i Schwitzgebel. „Chociaż może się to wydawać odpowiednio ostrożne, gwarantuje również, że będziemy powoli rozpoznawać prawa naszych tworów AI”.

„Jeśli świadomość sztucznej inteligencji pojawi się wcześniej, niż spodziewają się najbardziej konserwatywni teoretycy, prawdopodobnie doprowadzi to do moralnego odpowiednika niewolnictwa i morderstwa potencjalnie milionów lub miliardów czujących systemów sztucznej inteligencji – cierpienia na skalę zwykle związaną z wojnami lub głodem” – dodali .

„Bezpieczniejszą” alternatywą dla tego scenariusza zagłady byłoby przyznanie świadomym maszynom praw z góry — ale to również wiązałoby się z własnymi problemami.

„Wyobraź sobie, że nie moglibyśmy zaktualizować lub usunąć algorytmu szerzącego nienawiść lub szerzącego kłamstwa, ponieważ niektórzy ludzie obawiają się, że algorytm jest świadomy” – stwierdzili eksperci. „Albo wyobraź sobie, że ktoś pozwala umrzeć człowiekowi, aby uratować „przyjaciela” AI. Jeśli zbyt szybko przyznamy systemom sztucznej inteligencji znaczące prawa, koszty ludzkie mogą być ogromne”.

Jedynym sposobem, aby upewnić się, że żaden z tych wyników nie nastąpi, napisała para, byłoby przede wszystkim zaprzestanie dawania sztucznej inteligencji sumienia.

Przeczytaj całą historię tutaj…