Technokracja i ukryte niebezpieczeństwo dużych zbiorów danych

W teorii gier „cena anarchii” opisuje, w jaki sposób jednostki działające we własnym interesie w ramach większego systemu mają tendencję do zmniejszania wydajności tego większego systemu. Jest to wszechobecne zjawisko, z którym prawie każdy z nas regularnie się boryka.

Na przykład, jeśli jesteś urbanistą odpowiedzialnym za zarządzanie ruchem, możesz zająć się przepływem ruchu na dwa sposoby. Ogólnie rzecz biorąc, scentralizowane podejście odgórne - takie, które obejmuje cały system, identyfikuje wąskie gardła i wprowadza zmiany w celu ich wyeliminowania - będzie bardziej efektywne niż po prostu pozwalanie indywidualnym kierowcom na dokonywanie własnych wyborów na drodze, przy założeniu, że te wybory doprowadzi do zadowalającego wyniku. Pierwsze podejście zmniejsza koszt anarchii i lepiej wykorzystuje wszystkie dostępne informacje.

Świat jest zalany danymi. W zeszłym roku wyprodukowaliśmy tyle danych, ile powstało we wszystkich poprzednich latach ludzkiej cywilizacji. Szybko zbliżamy się do tego, co włoski pisarz Italo Calvino nazwał wcześniej „pamięcią świata”: pełną cyfrową kopię naszego fizycznego wszechświata.

W miarę rozszerzania się Internetu w nowe królestwa przestrzeni fizycznej za pośrednictwem Internetu przedmiotów cena anarchii stanie się kluczową miarą, a pokusa, aby ją wyeliminować dzięki sile analityki dużych zbiorów danych, wzrośnie.

Przykłady tego są liczne. Zastanów się nad Amazonką. Ma mnóstwo informacji o wszystkich swoich użytkownikach, których używa do przewidywania, co mogą chcieć kupić w następnej kolejności. Podobnie jak we wszystkich formach scentralizowanej sztucznej inteligencji, przeszłe wzorce są wykorzystywane do prognozowania przyszłych. Amazon może spojrzeć na ostatnio zakupione książki 10 i, ze zwiększającą się dokładnością, zasugerować, co możesz przeczytać dalej.

Ale tutaj powinniśmy rozważyć to, co utracone, gdy obniżymy poziom anarchii. Najbardziej znaczącą książką, którą powinieneś przeczytać po poprzednich 10, nie jest ta, która idealnie wpasowuje się w ustalony wzór, ale raczej ta, która zaskakuje lub rzuca wyzwanie spojrzeniu na świat w inny sposób.

W przeciwieństwie do scenariusza przepływu ruchu zoptymalizowane sugestie mogą nie być najlepszym paradygmatem przeglądania książek online. Duże zbiory danych mogą zwielokrotniać nasze opcje, odfiltrowując rzeczy, których nie chcemy widzieć, ale jest coś, co można powiedzieć o odkryciu tej książki 11th po prostu przez przypadek.

To, co jest prawdą w przypadku kupowania książek, dotyczy również wielu innych systemów poddawanych cyfryzacji, takich jak nasze miasta. Scentralizowane systemy miejskie wykorzystują teraz algorytmy do monitorowania infrastruktury miejskiej, od sygnalizacji świetlnej i korzystania z metra po usuwanie odpadów i dostarczanie energii. Wielu burmistrzów na całym świecie jest zafascynowanych ideą centralnego pomieszczenia kontrolnego, takiego jak zaprojektowane przez IBM centrum operacyjne Rio de Janeiro, w którym menedżerowie miast mogą reagować na nowe informacje w czasie rzeczywistym.

Ale ze scentralizowanymi algorytmami zarządzającymi każdym aspektem społeczeństwa, technokracja oparta na danych grozi przytłoczeniem innowacji i demokracji. Tego wyniku należy unikać. Zdecentralizowane podejmowanie decyzji ma kluczowe znaczenie dla wzbogacania społeczeństwa. Z drugiej strony optymalizacja oparta na danych czerpie rozwiązania z ustalonego z góry paradygmatu, który w obecnej formie często wyklucza idee transformacyjne lub sprzeczne z intuicją, które napędzają ludzkość.

Pewna przypadkowość w naszym życiu pozwala na nowe pomysły lub sposoby myślenia, które w przeciwnym razie zostałyby pominięte. I w skali makro jest to konieczne dla samego życia. Gdyby natura zastosowała algorytmy predykcyjne, które zapobiegły przypadkowej mutacji w replikacji DNA, nasza planeta prawdopodobnie nadal byłaby na etapie bardzo zoptymalizowanego organizmu jednokomórkowego.

Zdecentralizowane podejmowanie decyzji może tworzyć synergię między inteligencją ludzką i maszynową poprzez procesy naturalnej i sztucznej koewolucji. Rozproszona inteligencja może czasami obniżyć wydajność w krótkim okresie, ale ostatecznie doprowadzi do bardziej kreatywnego, zróżnicowanego i odpornego społeczeństwa. Cena anarchii jest ceną, którą warto zapłacić, jeśli chcemy zachować innowacyjność przez przypadek.

Przeczytaj całą historię tutaj…

• Carlo Ratti kieruje Senseable City Laboratory w Massachusetts Institute of Technology oraz przewodniczy Global Agenda Council on Future Cities Światowego Forum Ekonomicznego. Dirk Helbing jest profesorem komputerowych nauk społecznych w Szwajcarskim Federalnym Instytucie Technologii w Zurychu.