Retrospekcja 2012 - Atlantyk wiąże Facebook bezpośrednio z technokracją

Dążenie Facebooka do wydajności oznacza, że ​​demokracja się skończyła, a technokratyczne rządy króla programistów są już w toku.

Załóżmy, że Facebook nie jest krajem, że prawdziwe rządy pełnią o wiele więcej funkcji, a ludzie nie są obywatelami swoich sieci społecznościowych.

Niemniej jednak 900 milionów ludzi robi coś w rodzaju życia w niebiesko-białej wirtualnej przestrzeni największej na świecie zorganizowanej sieci ludzi. A ci ludzie wdają się w spory, które oczekują, że zostaną rozstrzygnięte. Po części mają to oczekiwanie, ponieważ Facebook od dawna twierdzi, że chce stworzyć bezpieczne środowisko do łączenia się z innymi ludźmi. (Jak inaczej można skłonić ludzi do „bardziej otwarty i połączony„?) Ale ludzie chcą też, żeby ktoś rządził, chcą autorytetu, do którego mogą się odwołać, jeśli ktoś inny jest palantem.

Z wyjątkiem tego przypadku, ktoś naprawdę jest osobą korporacyjną. Więc kiedy zgłaszasz coś lub ktoś zgłasza coś twojego, to Facebook podejmuje decyzję o tym, co zostało opublikowane, nawet jeśli wiemy, że gdzieś w przyszłości jakiś człowiek musi ucieleśniać korporacyjne my, choćby na tyle długo, aby kliknij przycisk.

Każda indywidualna decyzja zespołu Facebooka - like zdejmując to zdjęcie całującej się pary gejów - łatwo kwestionować. Ken Fisher z Ars Technica szczegółowo cała masa jednorazowych problemów że ludzie napotkali system raportowania Facebooka. W każdym jest pokrzywdzony, ale słyszymy tylko jedną stronę konfliktu, kiedy te problemy się nasilają. Podczas wielu pojedynczych wydarzeń masz dwie osoby (lub podmioty, takie jak firmy), których pragnienia są sprzeczne. To klasyczny przypadek, w którym potrzebujesz jakiegoś rządu.

Nietrudno wyobrazić sobie podjęcie jednej, 20, a nawet 200 decyzji dotyczących zdjęć lub aktualizacji statusu w ciągu tygodnia, ale zastanawiające jest, że Facebook musi to przetworzyć 2 milionów raportów tygodniowoNie obejmuje to prostych wiadomości „oznacz jako spam”.

Jak projektujesz system radzący sobie z tym obciążeniem? Rozmawiałem z Jamesem Mitchellem, który kieruje tym, co Facebook nazywa „integralnością witryny” w swoim dziale obsługi użytkowników, oraz Judem Hoffmanem, kierownikiem globalnej polityki firmy w zakresie procesu raportowania. Są architektami technokracji Facebooka.

„Ilość przemyśleń i debat, które trzeba poświęcić na proces tworzenia i zarządzania tymi regułami, nie różni się zbytnio od procesu legislacyjnego i sądowego połączonych w jeden” - powiedział mi prawnik Hoffman. „A James ma element wykonawczy / sądowniczy. Myślę, że myślenie o tym w kontekście zarządzania nie jest przesadą, ale to inna forma i traktujemy to naprawdę, bardzo poważnie ”.

Mitchell powiedział mi, że kluczowym krokiem było nadanie pewnej struktury w procesie raportowania. Kiedy zaczynał w 2006 roku, nie było żadnej formy skarg od użytkowników. Oznaczało to, że istniała ogromna kolejka niezróżnicowanych problemów. Więc on i jego zespół zaczęli się zastanawiać, jakie problemy napotykają i tworzyli kategorie problemów, które z czasem udoskonalali.

Pozwala to na przesyłanie raportów za pośrednictwem złożonego zestawu procesów i zespołów, tak aby docierały do ​​ludzi lub komputerów, które wiedzą, co z nimi zrobić.

Facebook ujawnił dziś tę infrastrukturę po raz pierwszy. To efekt ponad pięciu lat pracy kilku zespołów w ramach Facebooka, które pracowały nad tym, aby proces obsługi tego zalewu zapytań użytkowników był jak najbardziej efektywny.

Na końcu wielu z tych linii raportowania pojawia się osoba, która musi podjąć decyzję dotyczącą wiadomości użytkownika. Niektóre z tych decyzji są binarne - czy to zdjęcie przedstawia nagość? - i są one na ogół zlecane zespołom, które potrafią zastosować proste i rygorystyczne formuły, takie jak pytanie: „Czy ta osoba jest naga?” Inne decyzje są złożone w sposób, który sprawia, że ​​maszyny bardzo dobrze sobie z nimi radzą. (Na przykład istnieje ponad 50 sygnałów, które algorytmy Facebooka analizują, aby określić, czy profil jest spamem, a automatyczne odpowiedzi są dokładniejsze niż ludzkie).

Jednak większość raportów jest przygotowywana przez bezimienny zespół kilkuset pracowników Facebooka w Mountain View, Austin, Dublinie i Hyderabadzie. Ci ludzie i narzędzia, które stworzyli, stali się de facto ustawodawcami, biurokratami, policją i sędziami quasi-narodu Facebooka. Niektóre podejmowane przez nich decyzje w niewielkim stopniu wpływają na setki milionów ludzi; inne decyzje w wielkim stopniu zmienią życie niewielkiej liczby ludzi.

Fascynujące jest dla mnie to, że Facebook zasadniczo odtworzył biurokrację rządową wraz z regulatorami i organami ścigania, ale zoptymalizowaną pod kątem zupełnie innych wartości niż tradycyjne rządy. Zamiast konstytucji, Facebook ma podwójną misję: uczynić „świat bardziej otwartym i połączonym” oraz zatrzymać użytkowników na swojej stronie poprzez zminimalizowanie ich negatywnych doświadczeń. Przede wszystkim rozwiązanie Facebooka dla wszystkich problemów związanych z zarządzaniem musi być zaprojektowane z myślą o maksymalnej wydajności na dużą skalę.

Jak wspomniano powyżej, rzeczywiste rządy muszą wypełniać wszelkiego rodzaju funkcje poza sporami między obywatelami, ale wystarczy spojrzeć na różnicę w skali między rządem Facebooka a rządem Palo Alto. Palo Alto ma około 65,000 XNUMX mieszkańców i 617 w pełnym wymiarze godzin pracowników. Facebook ma 900 milionów „mieszkańców” i kilkuset biurokratów, którzy podejmują wszystkie decyzje dotyczące treści.

Pragnienie Facebooka dla wydajności oznacza, że ​​demokracja się skończyła, a technokratyczna władza została wprowadzona. Ludzie nie mogą głosować w sprawie zasad, a nawet gdy Facebook zaoferował swoim użytkownikom możliwość głosowania nad nową polityką prywatności w zeszłym tygodniu, frekwencja wyniosła 0.038 procent. Ludzie wiedzą, że Facebook kontroluje dużą część ich cyfrowego życia, ale nie mają poczucia cyfrowego obywatelstwa. A ta apatia daje technokracji Facebooka szansę odniesienia sukcesu tam, gdzie jej historyczni poprzednicy nie.

Oryginalni technokraci byli grupą myślicieli i inżynierów w latach trzydziestych XX wieku, którzy wskrzesili marzenie Platona o królu-filozofach, ale z wirowaniem epoki maszyn. Kierowani przez Thorsteina Veblena, Howarda Scotta i M. Kinga Hubberta opowiadali się za rządami nie ludu, monarchii czy dyktatora, ale inżynierów. Inżynierowie i naukowcy będą rządzić racjonalnie i bezstronnie. Stworzyliby technokrację, która działałaby jak w zegarku i zapewniała wydajną dystrybucję wydajności wszystkich. Opracowali cały system, według którego kontynentem północnoamerykańskim będzie rządzony, z sekwencjami funkcjonalnymi, które pozwolą dyrektorowi kontynentu na załatwienie spraw.