Sztuczne wiadomości tworzone przez AI: spersonalizowane, zoptymalizowane i jeszcze trudniejsze do zatrzymania

Fałszywe wiadomości mogły już wpłynąć na politykę w USA, ale będzie znacznie gorzej, ostrzega konsultant AI w CIA.

Sean Gourley, założyciel i dyrektor generalny firmy Elementarz, firma, która wykorzystuje oprogramowanie do wydobywania źródeł danych i automatycznego generowania raportów dla CIA i innych klientów, powiedziała na konferencji w San Francisco, że sztuczna inteligencja nowej generacji będzie znacznie bardziej zaawansowana dzięki sztucznej inteligencji.

„Automatyzacja generowania fałszywych wiadomości sprawi, że będzie bardzo skuteczna”, powiedział Gourley publiczności w EmTech Digital, zorganizowanej przez Przegląd technologii MIT.

Ostrzeżenie powinno wzbudzić niepokój na Facebooku. Sieć społecznościowa została uwikłana w skandal po tym, jak nie udało się zapobiec dotarciu do milionów ludzi w miesiącach poprzedzających wybory prezydenckie w 2016 r., Niektóre z nich stworzone przez rosyjskich agentów. Niedawno firma dotknęła rewelacja, że ​​pozwoliła firmie Cambridge Analytica, firmie związanej z kampanią prezydencką Trumpa, wydobywać dane osobowe użytkowników.

W ostatnich wywiadach dyrektor generalny Facebooka Mark Zuckerberg zasugerował, że firma użyje sztucznej inteligencji do wykrywania fałszywych wiadomości. Według Gourley, sztuczna inteligencja może być również używana w służbie przeciwnego celu.

Gourley zauważył, że fałszywe wiadomości do tej pory były stosunkowo proste, składające się z prymitywnych, ręcznie wykonanych historii publikowanych w mediach społecznościowych w regularnych odstępach czasu. Powiedział, że technologia taka jak Primer może być łatwo wykorzystana do automatycznego generowania przekonujących fałszywych historii, a to może oznaczać fałszywe raporty dostosowane do zainteresowań i sympatii danej osoby i dokładnie przetestowane przed wydaniem, aby zmaksymalizować ich wpływ. „Mogę wygenerować milion opowiadań, zobaczyć, które z nich mają największą przyczepność, podwoić je”, powiedział Gourley.

Gourley dodał, że fałszywe wiadomości były do ​​tej pory przekazywane na platformy społecznościowe, takie jak Facebook, zasadniczo losowo. Bardziej zaawansowane rozumienie dynamiki sieci, a także mechanizmów wykorzystywanych do oceny popularności treści, może wzmocnić efekt postu.

Przeczytaj całą historię tutaj…