Facebook wyruszy w jednokierunkową podróż w zapomnienie, jeśli jego programiści Technocrat nie zmienią swojego nawyku wytwarzania danych z powietrza na temat użytkowników na całym świecie. Dane wywnioskowane nie są prawdziwymi, zweryfikowanymi danymi i często są błędne. ⁃ Edytor TN
Na początku tego miesiąca okazało się, że wśród niezliczonych kategorii reklam indukowanych algorytmicznie na Facebooku znajdował się wpis dla użytkowników, którzy według systemów wyszukiwania danych platformy mogą być zainteresowani zdrada przeciwko ich rządowi. Etykieta została nałożona na ponad rosyjskich obywateli 65,000, narażając ich na poważne ryzyko, gdyby ich rząd odkrył etykietę. Podobnie, algorytmy platformy w milczeniu obserwują działania i słowa swoich dwóch miliardów użytkowników, szacując, którzy użytkownicy mogą być homoseksualni i po cichu umieszczają etykietę na ich koncie, rejestrując te szacunki. Co się stanie, gdy rządy zaczną używać tych etykiet do badania, nękania, zatrzymywania, a nawet egzekucji swoich obywateli na podstawie etykiet wyprodukowanych przez algorytmy czarnej skrzynki amerykańskiej firmy?
Jednym z wyzwań związanych z ogromną zautomatyzowaną maszyną, która jest silnikiem reklamowym Facebooka, jest to, że sama skala i zakres oznacza, że nigdy nie będzie ona w pełni pod nadzorem człowieka. Zamiast tego nuci w milczeniu, po cichu obserwując dwóch miliardów użytkowników platformy jako Wielkiego Brata, po cichu przypisując im etykiety wskazujące jej oceny wszystkiego, od rutynowych interesów handlowych po najbardziej wrażliwe i intymne elementy ich osobowości, przekonań i warunków medycznych, które mogą być wykorzystywane przez ich rządy do manipulowania nimi, aresztowania lub egzekucji.
Takie obawy są niestety dalekie od hipotetycznych. Mogę osobiście zaświadczyć, że istnieje wiele rządów na całym świecie, które bardzo dobrze zdają sobie sprawę z potencjału narzędzi reklamowych Facebooka do inwigilacji i faktycznie wykorzystują je aktywnie do śledzenia określonych danych demograficznych i zainteresowań, korzystając z wbudowanych narzędzi sprawozdawczych firmy do identyfikowania obszarów geograficznych i dane demograficzne w celu dalszego nadzoru.
Obecnie znaczna część rządowego wykorzystania narzędzi do kierowania reklam na Facebooku obraca się wokół korzystania z publicznie dostępnych narzędzi do kierowania i raportowania, aby zrozumieć rzeczy, takie jak dzielnice o największej gęstości zaludnienia w określonej grupie demograficznej, które również są przedmiotem szczególnego zainteresowania rządu. Prowadząc dużą liczbę równoległych kampanii obejmujących wszystkie permutacje zestawu danych demograficznych i zainteresowań, rządy mogą nawet dowiedzieć się, które dane demograficzne są najbardziej związane z poszczególnymi zainteresowaniami, a które interesy są najbardziej skorelowane z konkretnymi danymi demograficznymi. Geograficzne narzędzia sprawozdawcze umożliwiają identyfikację na poziomie sąsiedztwa, gdzie te dane demograficzne i interesy się pokrywają, umożliwiając zwiększenie zasobów nadzoru na tych obszarach.
Publiczna dostępność narzędzi do celowania na Facebooku oznacza, że agencje wywiadowcze nie potrzebują nakazów sądowych, aby je wykorzystać, zagraniczne służby wywiadowcze mogą je wykorzystać do śledzenia i kontroli na obcej ziemi, a nawet lokalne organy ścigania mogą z nich korzystać z niewielkimi ograniczeniami. Globalna dostępność platformy reklamowej Facebooka jest szczególnie potężnym i zachęcającym narzędziem dla agencji wywiadowczych, które starają się mapować narody przeciwników, umożliwiając im lepsze zrozumienie korelacji demograficznych i korelacji interesów oraz podobieństwa geograficznego oraz kierowanie alokacją własnych zasobów naziemnych.
Pomimo ich niesamowitej mocy i dostępności publicznej narzędzia reklamowe Facebooka są nadal stosunkowo tępym narzędziem w porównaniu do tradycyjnych narzędzi nadzoru na poziomie indywidualnym.
Jak ja nawiązywał do co dzieje się na początku tego tygodnia, kiedy kraje, w których homoseksualizm jest przestępstwem, które mogą potencjalnie doprowadzić do kary śmierci, wykorzystują narzędzia Facebooka do atakowania tych społeczności? Korzystając wyłącznie z publicznych narzędzi reklamowych Facebooka, mogą oszacować popularne dzielnice i miejsca spotkań, skorelowane zainteresowania w tych obszarach i tak dalej, ale nie mogą łatwo sporządzić listy prawdziwych nazwisk i adresów wszystkich osób w ich kraju, które według Facebooka mogą być homoseksualne.
Biorąc pod uwagę, że homoseksualizm w niektórych krajach jest klasyfikowany jako przestępstwo na podstawie formalnego kodeksu prawnego, czy kraje te mogą zastosować nakaz sądowy, aby zmusić Facebooka do przedstawienia listy wszystkich nazwisk osób w ich kraju, które według jego algorytmów mogą być homoseksualne? Przepisy wielu krajów utrudniają Facebookowi podejmowanie prób ochrony swoich użytkowników przed zgodnym z prawem wnioskiem o listę osób podejrzanych o popełnienie poważnego przestępstwa w tym kraju.
wpDiscuz