Szalejący przeciw algorytmowi: Google i technologia perswazyjna

Potwory i tytani dzielą etap mitologii w różnych kulturach jako niezbędne realizacje ludzkiej wyobraźni. Od kamiennej jaskini po miejskie mieszkanie, temat jest nieustający; utrzymywane w wyobraźni, takie stworzenia pełnią niewinnie łagodne funkcje. Połów tutaj polega na ludzkiej skłonności do realizacji takich stworzeń. Przyjmują formę inżynierii społecznej i utopii. Szaleńczo związane, takie projekty i przedsięwzięcia kończą się korupcją i poniżaniem. Narodził się potwór i na pierwszy plan wysuwa się okropna prawda: obóz koncentracyjny, stan inwigilacji, gazeta, armia cenzury.

Technologicznymi gigantami obecnej epoki są współczesni utopiści, zaspokajając ludzki głód i interesy, kształtując ich. Jedna firma daje nam archetyp. Jest to Google, który ma niezwykłe rozróżnienie: jest rzeczownikiem i czasownikiem, bytem i działaniem. Potęga Google jest nieproporcjonalnie ogromna, przerażająca bezładność, która zachowuje przejrzystość, której jej brakuje, i cenna informacja, regulując jej zasięg. Jest także bytem, ​​który wykroczył poza zwykłe repozytorium wyszukiwań i danych, próbę wywołania zmian behawioralnych przez użytkowników.

Google zawsze sprawia wrażenie, że jego użytkownicy są na czele, autonomiczni, niezależni w zielonej krainie cyfrowych gier. Pomysł, że sama firma sprzyja takiej zmianie, dokuczając zmianom w zachowaniu, jest odrzucony. W Googleland nie ma Svengalis, ponieważ wszyscy jesteśmy wolni. Bezpłatnie, ale potrzebuję pomocy w chaosie i „wielozadaniowości”.

Ludzie mają co połączenia firmowe „Mikro-momenty”, takie jak ekonomista behawioralny Dan Ariely opisuje jako „mobilne chwile w ruchu”, w których użytkownik podejmuje decyzje, jednocześnie angażując się w szereg zadań: hotele do rezerwacji, wybór podróży, wybór harmonogramu pracy. Podczas gdy Ariely pisze szerzej z perspektywy wszechobecnego marketera cyfrowego, językiem jest czysta Googleleese, klapsa częściowej perswazji i częściowego narzucenia. „Chcesz opracować strategię kształtowania swoich decyzji konsumenckich?” pyta Google. „Zacznij od zrozumienia kluczowych mikro-momentów w ich podróży.” Zrozum je; karm ich umysł; trzymaj za rękę.

Uzależnienie od Google wytwarza coś, co nie może być już postrzegane jako opóźniające, ale sprzyjające. Pokolenie dorasta bez biblioteki badań w formie papierowej, gotowej listy klasyków i środków do przeszukiwania zapisów bez uciekania się do tych przeklętych kluczy cyfrowych. Na pewno będą debaty (niektóre już zanieczyszczają przestrzeń cyfrową) na temat tego, czy jest to koniecznie warunek rozpaczy. Weź udział w amnezji cyfrowej! Aby Google miał istnieć.

Niezaprzeczalne jest to, że środki do wyszukiwania informacji - natychmiastowe, wypełnione po brzegi, desperacko szybkie - stworzyły użytkowników, którzy zamieszkują przestrzeń, która kieruje ich myśleniem, uprzedzaniem, nakłanianiem i dostosowywaniem. Można powiedzieć, że jedna forma umiejętności czytania i pisania jest wypierana przez inną: imbecyl Google jest już na nas.

Biorąc pod uwagę naturę takich efektów, nic dziwnego, że politycy uważają, że Google grozi spleśniałym i zardzewiałym rzemiosłem. Zachowaniem polityka jest dobra - lub niesłuszna - komunikacja; sukces w następnych wyborach zależy od idei, w której wyborcy rozumieją i akceptują to, co zostało im przekazane (czy ten materiał jest faktem, czy nie, kłamstwem, czy czymś innym, nie ma sensu: polityk pragnie przekonać zamówienie, aby wygrać).

Pod tym względem stary titan z wyszukiwarki dostarcza czegoś w rodzaju kłopotów. Z jednej strony oferuje klasom politycznym środki dotarcia do globalnej publiczności, drogę do skrzeczenia i promowania kolejnego włoskiego umysłu, który pojawia się w umyśle aparatu politycznego. Ale co, jeśli komunikat utrudnia po drodze, znajdowanie opóźnień w ramach tak zwanej „optymalizacji pod kątem wyszukiwarek”? Czy Google ponosi winę, czy może bagatelizuje zwykłą zwyczajność polityków?

Politycy amerykańscy uważają, że mają odpowiedź. Tylko oni mogą kontrolować narrację i rozpowszechniać kłamstwo. Ostatnio starają się nakreślić ścieżkę, do której nie są przyzwyczajeni: regulowanie przemysłu, który kiedyś był nazywany strażnikiem wolności, promotorem wolności. Ich skargi zwykle nie są spójne. Z jednej strony uważają różne algorytmy Google za problematyczne (preferowanie prawostronnych witryn, kasza konspiracyjna jako szkodliwa), ale ich nachylenie jest nierówne i wypaczone. Gdyby te algorytmy kierowały korzystnymi wyszukiwanymi hasłami (konformistycznymi, stałymi, niekwestionowanymi, antytrumpowymi), sprawa nie byłaby początkowa. Powiedzieliby, że nasze przesłanie się tam wydostaje.

W tym tygodniu amerykańska Senacka Komisja Handlu, Nauki i Transportu próbowała nadać sens, oskarżając raczej „perswazyjną technologię”. Nanette Byrnes umeblowanie nas z definicją: „pomysł, że komputery, telefony komórkowe, strony internetowe i inne technologie mogą być zaprojektowane tak, aby wpływać na zachowanie ludzi, a nawet na ich postawy”. Papież pozostaje zdecydowanie katolikiem.

Połączenia przesłuchanie w komitecie zawierały takie opinie jak senator John Thune (R-SD), który chciał wykorzystać postępowanie do opracowania przepisów, które „wymagałyby platform internetowych, aby dać konsumentom możliwość współpracy z platformą bez doświadczenia kształtowanego przez algorytmy”. Senator z przyjemnością przyjmuje do wiadomości, że sztuczna inteligencja „napędza automatyzację do wyświetlania treści w celu optymalizacji zaangażowania”, ale widzi diabła w pracach, ponieważ „algorytmy AI mogą mieć niezamierzone, a nawet niebezpieczne zagrożenie”. Jest to równoznaczne z pragnieniem Grand Prix Formuły 1 bez szybkich samochodów i zawodów lekkoatletycznych w zwolnionym tempie.

Przed senatorami ze strony Google stanęła Maggie Stanphill, dyrektor Google User Experience. Jej świadectwo został sformułowany słowami bardziej zbliżonymi do połysku broszury podróżniczej z bezpłatnym posypaniem kokainy. „Inicjatywa Digital Wellbeing Google to główny cel firmy, koncentrujący się na dostarczaniu użytkownikom informacji o ich cyfrowych nawykach i narzędziach wspierających celowe relacje z technologią”. Google jedynie „tworzy produkty, które poprawiają życie osób, które ich używają”. Firma zapewniła dostęp, który „zdemokratyzował informacje i świadczyła usługi dla miliardów ludzi na całym świecie”. Zapytany o to, czy Google robi coś w branży perswazji, Stanphill był jednoznaczny. „Nie stosujemy przekonujących technologii”.

Tematyka sesji była jasna: kupy i mnóstwo treści są dobre, ale muszą być odpowiednie. W Information Utopia, gdzie cyfrowi Adam i Ewa wciąż biegają nago, niegodziwość nie będzie dozwolona. Jeśli ludzie chcą szukać treści, które są „negatywne” (ta przerażająca, arbitralna natura wciąż się pojawia), nie należy im na to pozwolić. Zaknebluj je i upewnij się, że poszukiwane popularne terminy są białe obraźliwe lub niebezpieczne. Nałóż na technologicznych tytanów odpowiedzialność za kontrolowanie negatywów.

Senator Brian Schatz (D-Hawaii) skarżył się na te firmy, „pozwalając tym algorytmom działać dziko […], pozostawiając ludzi na sprzątanie bałaganu. Algorytmy są amoralne. ”Tristan Harris, współzałożyciel i dyrektor wykonawczy Center for Humane Technology, szprycha konkurencji między firmami w zakresie korzystania z algorytmów, które „dokładniej przewidują, co utrzyma użytkowników tam najdłużej”. Jeśli chcesz zmaksymalizować czas spędzony na wyszukiwaniu haseł lub, w przypadku YouTube, oglądając film, skoncentruj się „na całej kolonii mrówek ludzkości w kierunku zwariowanego miasta ”. Dla Harrisa„ technologia kryje ludzkie słabości ”. Morał? Nie dawaj ludziom tego, czego chcą.

Wściekłość na algorytm i przekonanie, że w technologii wyszukiwania nie dochodzi do popychania behawioralnego, jest błędne na kilku frontach. Na pewnym poziomie wszyscy akceptują działanie takich trybów wyszukiwania informacji. Nieporozumienie powstaje w związku z ich konsekwencjami, w rzeczywistości ustępstwem dla użytkownika Google jako imbecy. Stanphill jest nieuczciwy, zakładając, że technologia perswazyjna nie jest funkcją pracy Google (jest to oczywiste, biorąc pod uwagę intencję firmy dotyczącą poprawy „zamierzonych relacji z technologią”). W swoim zeznaniu mówiła o budowaniu „produktów zapewniających prywatność, przejrzystość i kontrolę dla użytkowników, a my budujemy relacje z użytkownikiem przez całe życie, co jest najważniejsze”. Senatorowie z kolei martwią się, że użytkownicy są pod wpływem zachęt. w swoich zainteresowaniach związanych z poszukiwaniem nie są w stanie wymyślić własnych kruchych umysłów.

Charakter zarządzanych informacji w środowisku cyfrowym nie jest, jak pokazują Google, YouTube i podobne firmy, przykładem poszerzenia wiedzy, ale potwierdzeniem istniejących założeń. Komora echa szczeci się potwierdzeniami, a nie wyzwaniami, z wygodami uprzedzeń, a nie dyskomfortem nauki ciężkiej artylerii. Ale wybrani obywatele na Wzgórzu i cyber utopie nadal walczą i flądrują w cyfrowej dżungli, którą postrzegali jako utopię informacyjną równą wszystkim. Dla gigantów Big Tech wszystko jest raczej proste: przyciągający uwagę spektakl, opala się na siedzeniach i mnóstwo plików do pobrania.

Przeczytaj całą historię tutaj…