Kiedy złożoność sztucznej inteligencji przewyższa zdolność człowieka do zrozumienia, w jaki sposób działa, nie można również zrozumieć konsekwencji jej użycia. Technokraci tworzą, ponieważ mogą, bez względu na bezpieczeństwo lub konsekwencje. Nadejdzie czas, że wtyczka musi zostać wyciągnięta, przywracając cały system do ludzkiej kontroli. ⁃ Edytor TN
Sztuczna inteligencja przekształci świat finansów w ciągu najbliższej dekady przez automatyzację inwestycji i innych usług - ale może również wprowadzić niepokojące systematyczne słabości i ryzyka, zgodnie z nowy raport ze Światowego Forum Ekonomicznego (WEF).
Raport, opracowany na podstawie wywiadów z dziesiątkami wiodących ekspertów finansowych i liderów branży, stwierdza, że sztuczna inteligencja zakłóci branżę, umożliwiając wczesnym użytkownikom przyspieszenie konkurencji. Sugeruje również, że technologia stworzy wygodniejsze produkty dla konsumentów, takie jak zaawansowane narzędzia do zarządzania finansami osobistymi i inwestycjami.
Ale przede wszystkim raport wskazuje na potencjał dużych instytucji finansowych do tworzenia usług opartych na uczeniu maszynowym, które żyją w chmurze i są dostępne dla innych instytucji.
„Dynamika uczenia maszynowego stanowi silną zachętę do łączenia w sieć zaplecza” - mówi główny autor raportu, Jesse McWaters, który prowadzi projekt AI w zakresie usług finansowych na Światowym Forum Ekonomicznym. „Świat bardziej połączony w sieć jest bardziej podatny na zagrożenia cyberbezpieczeństwa, a także stwarza ryzyko koncentracji”.
Innymi słowy, systemy finansowe, które obejmują uczenie maszynowe i są dostępne za pośrednictwem chmury przez wiele różnych instytucji, mogą stanowić świetny cel dla hakerów i pojedynczy punkt awarii systemowej.
Wall Street już szybko stosuje uczenie maszynowe, technologię będącą w centrum boomu sztucznej inteligencji. Firmy finansowe na ogół dysponują dużą ilością danych i dużą motywacją do wprowadzania innowacji. Fundusze hedgingowe i banki zatrudniają naukowców zajmujących się sztuczną inteligencją tak szybko, jak to możliwe, a branża finansowa eksperymentuje z automatyzacją back-office na dużą skalę. Automatyzacja handlu z wysoką częstotliwością już stworzyła ryzyko systemowe, co podkreśla kilka niekontrolowane wydarzenia handlowelub „awaria lampy błyskowej," w ostatnich latach.
Andrew Lo, profesor Sloan School of Management MIT, bada kwestię ryzyka systemowego w systemie finansowym, a on uprzednio ostrzegał że system jako całość może być podatny na zagrożenia ze względu na swoją złożoność.
wpDiscuz
[…] Światowe Forum Ekonomiczne: AI może spowodować upadek globalnego systemu finansowego (technocracy.news) […]