Informatycy tworzą plan świadomości maszyn

Znani badacze Manuel Blum i Lenore Blum poświęcili całe swoje życie na naukę informatyki, ze szczególnym uwzględnieniem świadomości. Jest autorem dziesiątek artykułów i przez dziesięciolecia wykładał na prestiżowym Carnegie Mellon University. Niedawno opublikowali nowe badania, które mogą posłużyć jako plan rozwoju i demonstracji świadomości maszyn.

Ten papier, zatytułowany „A Theoretical Computer Science Perspective on Consciousness”, może być tylko papierem przygotowanym do druku, ale nawet jeśli ulegnie awarii i spali podczas recenzji (prawie na pewno nie będzie), nadal będzie miał niewiarygodne wyróżnienie w świat informatyki teoretycznej.

Do Blumów dołącza trzeci współpracownik, niejaki Avrim Blum, ich syn. Według artykułu Bluma:

Wszyscy trzej Blumowie otrzymali tytuł doktora na MIT i spędzili łącznie 65 wspaniałych lat na wydziale informatyki CMU. Obecnie dwie starsze osoby są emeriti, a młodszy jest dyrektorem ds. Akademickich w TTI Chicago, naukowym instytucie badawczym zajmującym się nauką o charakterze doktoranckim, skupiającym się na obszarach uczenia maszynowego, algorytmów, sztucznej inteligencji (robotyka, język naturalny, mowa i wizja), nauki o danych i biologii obliczeniowej i znajduje się na kampusie University of Chicago.

To ich pierwszy wspólny artykuł.

Czapki z głów dla Blumsów, nie może być zbyt wielu rodzin teoretycznych informatyki w przełomowych badaniach nad świadomością maszyn. Jestem ciekaw, jaki jest rodzinny zwierzak.

Przejdźmy do gazety, dobrze? To fascynująca i dobrze wyjaśniona część hardkorowych badań, która bardzo dobrze może zmienić pewne perspektywy dotyczące świadomości maszyn.

Na papierze:

Nasz główny wkład polega na precyzyjnej formalnej definicji Świadomej Maszyny Turinga (CTM), zwanej również Świadomą AI. Definiujemy CTM w duchu prostej, ale potężnej definicji komputera Alana Turinga - Maszyny Turinga (TM). Nie szukamy złożonego modelu mózgu ani poznania, ale prostego modelu (wprawdzie złożonej koncepcji) świadomości.

W tym kontekście CTM wydaje się być dowolną maszyną, która może zademonstrować świadomość. Wielką ideą tutaj niekoniecznie jest rozwój myślącego robota, ale bardziej demonstracja podstawowych koncepcji świadomości w nadziei, że uzyskamy lepsze zrozumienie naszych własnych.

Wymaga to zredukowania świadomości do czegoś, co można wyrazić matematycznie. Ale to trochę bardziej skomplikowane niż tylko pomiar fal. Oto, jak ujął to Blum:

Ważnym głównym celem jest ustalenie, czy CTM może doświadczać uczuć, a nie tylko je symulować. W szczególności badamy uczucia bólu i przyjemności oraz sugerujemy sposoby ich generowania. Twierdzimy, że nawet pełna znajomość obwodów mózgu - w tym neuronalnych korelatów świadomości - nie może wyjaśnić, co umożliwia mózgowi generowanie świadomego doświadczenia, takiego jak ból.

Proponujemy wyjaśnienie, które działa równie dobrze w przypadku robotów posiadających mózgi z krzemu i złota, jak i zwierząt mających mózgi z krwi i kości. Nasza teza jest taka, że ​​w CTM jest to architektura systemu, jego podstawowe procesory; jej wyrazisty język wewnętrzny, który nazywamy mózgiem; i jego dynamika (przewidywanie, konkurencja, informacja zwrotna i uczenie się); które sprawiają, że jest to świadome.

Zdefiniowanie świadomości to tylko połowa sukcesu - i taka, która prawdopodobnie nie zostanie wygrana, dopóki jej nie naśladujemy. Druga strona równania to obserwacja i pomiar świadomości. Możemy obserwować, jak szczeniak reaguje na bodziec. Można nawet zaobserwować świadomość roślin. Ale żeby maszyna mogła zademonstrować świadomość, jej obserwatorzy muszą być pewni, że nie jest to zwykłe naśladowanie świadomości poprzez sprytną mimikę.

Nie zapominajmy o tym GPT-3 może zdmuchnąć nawet najbardziej cyniczne umysły swoją niesamowitą zdolnością do wydawania się przekonującym, spójnym i przejmującym (nie zapominajmy też, że trzeba kilka razy uderzać „generuj nowy tekst”, aby to zrobić, ponieważ większość z tego wypluwa to śmieci).

Blumowie rozwiązują ten problem, projektując system, który ma jedynie zademonstrować świadomość. Nie będzie próbował zachowywać się jak człowiek ani przekonywać, że myśli. To nie jest projekt artystyczny. Zamiast tego działa trochę jak cyfrowa klepsydra, w której każde ziarnko piasku jest informacją.

Przeczytaj całą historię tutaj…