Wynalazca Internetu: Nadciąga katastrofa, gdy AI uruchamia gospodarkę

Architekt światowej sieci, Sir Tim Berners-Lee, mówił dziś o niektórych swoich obawach związanych z Internetem w nadchodzących latach, w tym o koszmarnym scenariuszu, w którym sztuczna inteligencja (AI) może stać się nowymi `` panami wszechświata '' poprzez tworzenie i prowadzenie własnych firm.

Mistrzowie wszechświata to nawiązanie do powieści Toma Wolfe'a The Bonfire of the Vanities z 1987 r., Dotyczącej mężczyzn (i byli to mężczyźni), którzy zaczęli zbierać wielomilionowe pensje i duży wpływ dzięki swoim rolom finansowym na Wall Street i w Londynie podczas boomu komputerowego przed Czarnym Poniedziałkiem.

Przemawiając na Globalny szczyt Innovate Finance dzisiaj Berners-Lee przewidział świat, w którym systemy AI zaczną rozwijać zdolności decyzyjne i wpływ, jaki będzie to miało wpływ na uczciwość naszych systemów ekonomicznych.

Przedstawił scenariusz, w którym sztuczna inteligencja może zdecydować, które firmy przejąć, i doszedł do logicznego wniosku: „Więc kiedy sztuczna inteligencja zaczyna podejmować decyzje, na przykład o tym, kto otrzyma kredyt hipoteczny, jest to poważna sprawa. Albo jakie firmy przejąć i kiedy sztuczna inteligencja zacznie tworzyć własne firmy, tworzyć holdingi, generować nowe wersje siebie do prowadzenia tych firm.

„A więc przetrwacie najsilniejsze wydarzenia między tymi firmami AI, dopóki nie dojdziecie do punktu, w którym będziecie się zastanawiać, czy możliwe będzie zrozumienie, jak zapewnić, że są one sprawiedliwe i jak opisać komputer co to w ogóle oznacza? ”

Chociaż trudno sobie wyobrazić wylewanie zbyt wielu łez z powodu utraty Decydenci odpowiedzialny za awarię 2007, scenariusz grozi zniszczeniem całej branży i rodzi poważne pytania na temat uczciwości systemu finansowego bez udziału człowieka.

Jest to podobne do strachu przed sceptycznie nastawionym do AI Elonem Muskiem Targowisko próżności: „Powiedzmy, że tworzysz samodoskonalącą się sztuczną inteligencję do zbierania truskawek, która jest coraz lepsza w zbieraniu truskawek i zbiera coraz więcej i jest samodoskonaląca, więc wszystko, czego naprawdę chce, to zbierać truskawki. Zatem cały świat byłby polami truskawek. Truskawkowe pola na zawsze." Nie ma miejsca dla ludzi.

Berners-Lee był w zeszłym tygodniu laureatem nagrody AM Turinga Association for Computing Machinery i zwrócił uwagę mediów, aby skrytykować wycofanie się administracji Trumpa z ochrony neutralności sieci w wywiadzie dla The Guardian.

Berners-Lee także ostatnio opublikował list w X-lecie 28 światowej sieci, wyszczególniając to, co uważa za trzy główne wyzwania dla sieci: utratę kontroli nad danymi osobowymi, rozprzestrzenianie się dezinformacji w sieci i potrzebę przejrzystości w politycznej reklamie online

Przeczytaj całą historię tutaj…