Altman, dyrektor generalny OpenAI, alarmuje o sztucznej inteligencji i ChatGPT

Dyrektor generalny OpenAI, Sam Altman i Fang Bingxing – uważani za „ojca chińskiej Wielkiej Zapory Sieciowej”, dołączają do współzałożyciela OpenAI, Elona Muska, w wyrażaniu obaw dotyczących niebezpieczeństw związanych ze sztuczną inteligencją (AI).

„Tutaj musimy być ostrożni” – powiedział 37-letni Altman ABC News w zeszłym tygodniu, dodając: „Myślę, że ludzie powinni być szczęśliwi, że trochę się tego boimy”.

„Szczególnie martwię się, że modele te mogą zostać wykorzystane do dezinformacji na dużą skalę… Teraz, gdy coraz lepiej radzą sobie z pisaniem kodu komputerowego, [ich] mogą zostać wykorzystane do ofensywnych cyberataków”.

To powiedziawszy, Altman uważa również, że może to być „najwspanialsza technologia, jaką ludzkość kiedykolwiek opracowała”.

OpenAI jest firmą stojącą za Chat GPT, która uruchomiła „GPT-4” mniej niż dwa tygodnie temu. Wysoce zaawansowany chatbot może osiągnąć prawie doskonałe wyniki w testach matematycznych SATi zdobądź 90% na egzaminie adwokackim w USA.

I ma konkurentów…

Inne startupy oparte na sztucznej inteligencji również dokonują zaskakujących postępów w tej dziedzinie. sztuczna inteligencja RAD niedawno uruchomiła pierwszą platformę marketingową AI stworzoną do zrozumienia emocji, a niektóre z największych firm na świecie już z niej korzystają.

Genesis AI to startup, który buduje rynek, aby umożliwić każdej firmie integrację sztucznej inteligencji i automatyzacji z jej działalnością. Oznacza to, że wkrótce sztuczna inteligencja może być tak samo integralną częścią firmy, jak sami pracownicy. –Benzinga

Według Altmana jednak ChatGPT-4 wykorzystuje rozumowanie dedukcyjne vs. zapamiętywanie, co może prowadzić do niedokładnych wyników.

„To, czego najbardziej staram się ostrzec ludzi, to to, co nazywamy„ problemem halucynacji ”” – powiedział Altman ABC News. „Model z pewnością przedstawi rzeczy tak, jakby były faktami (ale one) są całkowicie wymyślone”.

myśli Altmann istnieje potrzeba regulacji AI w ogóle.

„Będą inni ludzie, którzy nie nałożą pewnych ograniczeń bezpieczeństwa, które my nałożyliśmy” – powiedział. „Myślę, że społeczeństwo ma ograniczoną ilość czasu, aby dowiedzieć się, jak na to zareagować, jak to uregulować, jak sobie z tym poradzić”.

Zaniepokojony jest również GPT-4 i podobna sztuczna inteligencja Fang Bingxing, ojciec tak zwanego Wielkiego Chińskiego Firewalla.

Zdaniem Fanga takie chatboty mogą prowadzić do „kokonu informacyjnego” (w przeciwieństwie do swobodnego przepływu informacji w Chinach?)

„Perspektywy ludzi mogą być manipulowane, gdy szukają oni wszelkiego rodzaju odpowiedzi od sztucznej inteligencji” – powiedział Red Star News, stowarzyszeniu medialnemu z wspieranym przez państwo Chengdu Economic Daily, jak donosi SCMP.

Fang, informatyk i były urzędnik państwowy, jest powszechnie uważany za głównego projektanta cieszącego się złą sławą chińskiego systemu cenzury i nadzoru internetowego. Odegrał kluczową rolę w tworzeniu i rozwijaniu Wielkiej Zapory sieciowej, wyrafinowanego systemu filtrów i blokad internetowych, który pozwala chińskiemu rządowi kontrolować, do czego obywatele mają dostęp online.

Wielka zapora ogniowa została wzmocniona w ciągu ostatniej dekady, blokując dostęp chińskich internautów do szerokiej gamy zagranicznych stron internetowych i usług online, w tym Facebooka, Twittera i Google. -SCMP

Fang ostrzegł również, że dalszy rozwój sztucznej inteligencji może stanowić zagrożenie dla ludzkości.

„Teraz jest to po prostu oprogramowanie używane w scenariuszu przypominającym czat online. Jeśli zostanie włączony do robotów i samochodów, musimy zachować czujność na potencjalne szkody, jakie mogą wyrządzić ludziom”.

Przeczytaj całą historię tutaj…