Technokraci, którzy budują tylko dlatego, że mogą, ostatecznie tworzą znacznie więcej problemów, niż rozwiązują w pierwszej kolejności. Rosnąca złożoność niezmiennie powoduje „przeciążenie systemu”, w którym całość wymyka się spod kontroli. ⁃ Edytor TN
Tym, co odróżnia ludzi od maszyn, jest szybkość, z jaką możemy uczyć się z naszego otoczenia.
Ale naukowcy z powodzeniem wyszkolili komputery do korzystania ze sztucznej inteligencji do uczenia się na podstawie doświadczenia - i pewnego dnia mogą być mądrzejsi niż ich twórcy.
Teraz naukowcy przyznają, że są już zdumieni mechanicznymi mózgami, które zbudowali, co zwiększa prawdopodobieństwo, że możemy stracić nad nimi kontrolę.
Komputery już teraz dokonują niesamowitych wyczynów - takich jak prowadzenie samochodów i przewidywanie chorób - ale ich twórcy twierdzą, że nie do końca kontrolują swoje dzieła.
Eksperci ostrzegli, że może to mieć katastrofalne konsekwencje dla cywilizacji.
Weź dziwny samochód bez kierowcy, który pojawił się na ulicach New Jersey w USA w zeszłym roku.
Różnił się od autonomicznych pojazdów Google, Tesli lub Uber, które przestrzegają zasad ustalonych przez twórców technologii, aby reagować na scenariusze podczas podróży.
Ten samochód mógł podejmować własne decyzje po obejrzeniu, jak ludzie nauczyli się jeździć.
A jego twórcy, badacze z firmy produkującej chipy Nvidia (która dostarcza chipy do superkomputerów niektórym największym producentom samochodów), powiedzieli, że nie byli w 100% pewni, jak to się stało, Zgłoszono przegląd technologii MIT.
Jego tajemniczy umysł może być znakiem nadchodzących mrocznych czasów, sceptycy obawiają się.
Podstawowa technologia samochodu, nazwana „głębokim uczeniem się”, jest potężnym narzędziem do rozwiązywania problemów.
Pomaga nam oznaczać znajomych na Facebooku, zapewnia pomoc na naszych smartfonach za pomocą Siri, Cortany lub Google.
Głębokie uczenie pomogło komputerom lepiej rozpoznawać obiekty niż osobę.
Wojsko wlewa miliony technologii, dzięki czemu może być używana do kierowania statkami, kontrolowania dronów i niszczenia celów.
I jest nadzieja, że będzie w stanie zdiagnozować śmiertelne choroby, zrobić miliarderów handlowców czytając giełdę i całkowicie zmienić świat, w którym żyjemy.
Ale jeśli nie upewnimy się, że twórcy w pełni rozumieją, jak to działa, mamy poważne kłopoty, twierdzą naukowcy.
Jeśli nie mogą dowiedzieć się, jak działają algorytmy (formuły, które sprawiają, że komputery wykonują zadania, o które je prosimy), nie będą w stanie przewidzieć, kiedy zawiodą.
Tommi Jaakkola, profesor z MIT, który pracuje nad aplikacjami uczenia maszynowego, ostrzega: „Jeśli masz bardzo małą sieć neuronową [algorytm głębokiego uczenia], być może będziesz w stanie ją zrozumieć”.
„Ale kiedy stanie się bardzo duży i ma tysiące jednostek na warstwę, a może setki warstw, staje się zupełnie niezrozumiały”.
Oznacza to, że samochód bez kierowcy, taki jak samochód Nvidii, może szybować prosto w drzewo i nie mielibyśmy pojęcia, dlaczego to zrobił.
wpDiscuz