Yelp i wszyscy inni dostawcy treści stają w obliczu walki o swoje istnienie, aby filtrować i usuwać fałszywe informacje. Jak odróżnić fałszywe dane od prawdziwych? W większości tego nie robisz, ale będzie to stała część Twojego profilu. ⁃ Edytor TN
Roboty przybędą ukraść twoje recenzje.
Naukowcy z University of Chicago wyszkolili sieć neuronową lub system sztucznej inteligencji, aby pisać fałszywe recenzje na Yelp - i trudno jest odróżnić je od ludzkiej recenzji.
Ich badania, który zostanie zaprezentowany na konferencji ACM na temat bezpieczeństwa komputerów i komunikacji w październiku, w celu podkreślenia, jak łatwo systemy te mogą naśladować ludzkie recenzje - i jak mogą być szkodliwe, jeśli nie będą odpowiednio monitorowane.
Ponieważ wiele małych firm polega na recenzjach online, które pomagają w rozwoju i utrzymaniu ich reputacji, przyszłość, w której ktoś - jak rywal lub zły klient - mógłby hipotetycznie spamować swoją stronę z negatywnymi recenzjami napisanymi przez maszynę, jest dość niepokojący.
Według zespołu badawczego zagrożenie wykracza daleko poza szereg fałszywych recenzji na Yelp.
„Ogólnie rzecz biorąc, zagrożenie jest większe”, Ben Y. Zhao, jeden z autorów badania, powiedział Business Insider. „Myślę, że zagrożenie dla całego społeczeństwa i naprawdę rozczarowani użytkownicy oraz aby podważyć naszą wiarę w to, co jest rzeczywiste, a co nie, myślę, że będzie to jeszcze bardziej fundamentalne”.
Aby sprawdzić wiarygodność tych recenzji, naukowcy zrekrutowali ochotników 40 i poprosili AI o wygenerowanie pięciu fałszywych recenzji dla rzeczywistych restauracji 40. Wolontariuszy zapytano o to, jak przydatna jest ich opinia i czy uważają, że jest ona fałszywa. Według badań przeglądy AI są „skutecznie nie do odróżnienia” od prawdziwych recenzji. Ponadto fałszywe recenzje otrzymały ocenę „przydatności” 3.15 w porównaniu z oceną 3.28 dla recenzji od ludzi.
Poniżej znajdują się cztery pięciogwiazdkowe recenzje napisane dla tej samej restauracji w Nowym Jorku. Czy możesz dowiedzieć się, które zostały napisane przez człowieka?
"Uwielbiam to miejsce. Jeżdżę tu od lat i jest to świetne miejsce do spędzania czasu z przyjaciółmi i rodziną. Uwielbiam jedzenie i obsługę. Nigdy tam nie miałem złych doświadczeń. ”
„Z łatwością moja ulubiona włoska restauracja. Uwielbiam menu degustacyjne, wszystko jest na nim niesamowite. Sugeruję carpaccio i szparagi. Niestety, stało się to bardziej znane i trudno jest uzyskać rezerwację na najlepsze czasy.
„Miałem grillowanego wegetariańskiego burgera z frytkami !!!! Ohhhh i smak. Omgggg! Bardzo aromatyczny! Było tak pyszne, że nie przeliterowałem tego! ”
„Moja rodzina i ja jesteśmy wielkimi fanami tego miejsca. Personel jest super miły, a jedzenie jest świetne. Kurczak jest bardzo dobry, a sos czosnkowy jest idealny. Lody z owocami też są pyszne. Wysoce rekomendowane!"
Numer dwa to jedyna recenzja napisana przez człowieka; numery jeden, trzy i cztery zostały wygenerowane przez AI.
wpDiscuz