Technokraci zwracają się do etyków, by „ocalić ich duszę”

Pięćdziesiąt dwa piętra poniżej szczytu Salesforce Tower spotykam Paulę Goldman w przeszklonej sali konferencyjnej, w której na patchworkowym banerze z patchworku widnieją słowa BIURO RÓWNOŚCI - rodzaj dekoracji, którą można kupić na przyjęcie urodzinowe dziecka.

Goldman ma tytuł magistra w Princeton i doktorat. z Harvardu, gdzie badała, jak kontrowersyjne pomysły stają się głównym nurtem. Dotarła do Salesforce nieco ponad rok temu aby zostać pierwszym w historii dyrektorem ds. etyki i humanitarnego użytkowania, przyjmując bezprecedensowy i zdecydowanie dwuznaczny tytuł, który został stworzony specjalnie dla jej bezprecedensowej, niejednoznacznej, ale bardzo specyficznej pracy: zadbaj o to, aby Salesforce uczynił świat lepszym, a nie gorszym.

„Myślę, że jesteśmy w tej chwili w branży, w której jesteśmy w tym punkcie zwrotnym”, mówi mi Goldman. „Myślę, że branża technologiczna była tu wcześniej, z bezpieczeństwem w latach 80-tych. Nagle pojawiły się wirusy i robaki, i potrzebował zupełnie nowego sposobu myślenia o tym i radzenia sobie z tym. A potem widziałeś, jak rozwija się przemysł bezpieczeństwa. A teraz to tylko standardowy protokół. Nie wysłałbyś ważnego produktu bez połączenia go na czerwono lub upewnienia się, że są w nim odpowiednie zabezpieczenia ”.

„Myślę, że jesteśmy w podobnym momencie, jeśli chodzi o etykę” - mówi. „Wymaga to nie tylko zestawu narzędzi do wykonywania pracy, ale także zestawu norm, które są ważne. Jak więc skalować te normy? ”

Pytam ją, jak te normy są ustalane w pierwszej kolejności.

„W pewnym sensie jest to kwestia miliarda dolarów” - mówi. „Wszystkie te kwestie są niezwykle skomplikowane, a bardzo niewiele z nich jest po prostu absolutnie jasnych. Dobrze? Wiele z tego sprowadza się do tego, jakie wartości utrzymujesz w swoim rachunku różniczkowym? ”

···

Po skandalu z Cambridge Analytica, strajkach pracowników i innych incydentach politycznych i związanych z prywatnością, firmy technologiczne stanęły w obliczu fali Połączenia do zatrudnić co nazywają badacze z Data & Society Research Institute „Właściciele etyki”, ludzie odpowiedzialni za operacjonalizację „starożytnych, przeskakujących domen i nierozwiązywalnych debat na temat wartości ludzkich, które leżą u podstaw badań etycznych” w praktyczny i możliwy do udowodnienia sposób.

Salesforce wynajął Goldmana z sieci Omidyar jako kulminacja siedmiomiesięcznego procesu zarządzania kryzysowego, który nastąpił po tym, jak pracownicy Salesforce zaprotestowali przeciwko zaangażowaniu firmy w prace imigracyjne administracji Trumpa. Inne firmy, odpowiadając na własne kryzysy i obawy, zatrudniły niewielką grupę podobnych specjalistów - filozofów, ekspertów politycznych, językoznawców i artystów - wszystko po to, aby upewnić się, że kiedy obiecują, że nie będą złe, faktycznie mają spójną koncepcję co to oznacza.

Więc co się stało?

Podczas gdy niektóre firmy technologiczne podjęły konkretne kroki, aby wprowadzić etyczne myślenie do swoich procesów, Catherine Miller, tymczasowa dyrektor generalna firmy konsultingowej Doteveryone, mówi, że temat ten jest również „podskakujący”.

Krytycy odrzucają to jako „Mycie etyki, ”Praktyka zwykłego pokłonienia się w kierunku wartości moralnych w celu powstrzymania rządowych regulacji i krytyki mediów. Termin ten należy do rozwijającego się leksykonu wokół etyki technologicznej lub „tetyki”, skrótu, który rozpoczął się jako satyra w programie telewizyjnym „Dolina Krzemowa”, ale od tamtej pory od czasu do czasu trafia do powszechnego użytku.

„Jeśli nie zastosujesz tych rzeczy w rzeczywistych praktykach i strukturach motywacyjnych, jeśli nie masz procesów przeglądu, cóż, wtedy stanie się to jak moralne oprogramowanie” - mówi Shannon Vallor, filozof technologii w Markkula Center dla etyki stosowanej na Uniwersytecie Santa Clara. „To coś, co obiecałeś i chciałeś dostarczyć, ale tak naprawdę nigdy nie dotarło”.

Google niesławnie utworzył Radę AI, a następnie w kwietniu ubiegłego roku rozwiązał to po pracownicy protestowali włączenie rzecznika przeciw LGBTQ. Obecnie podejście Google do etyki obejmuje użycie „Modele kart”, Które mają na celu wyjaśnienie jego AI.

„To nie jest nic, co ma zęby” - mówi Michael Brent, etyk danych w Enigmie i profesor filozofii na Uniwersytecie w Denver. „To tak jak:„ Oto naprawdę piękna karta ”.

Firma poczyniła większe wysiłki: Vallor właśnie ukończyła wizytę w Google, gdzie prowadziła seminaria etyczne dla inżynierów i pomagała firmie we wdrażaniu struktur nadzoru nad rozwojem produktów. „Kiedy mówię o etyce w środowisku organizacyjnym, sposób, w jaki często to przedstawiam, jest taki, że jest to zbiór wiedzy moralnej i umiejętności moralnych, które pomagają ludziom i organizacjom wywiązywać się z obowiązków wobec innych” - mówi mi Vallor.

Ponad 100 pracowników Google ma udział szkolenia z zakresu etyki opracowane w centrum Markkula. Firma opracowała również moduł uczciwości jako część kursu Crash Machine Learning, oraz aktualizacje kwartalna lista „odpowiedzialnych praktyk AI”. „Zdecydowana większość osób, które tworzą te firmy, chce tworzyć produkty dobre dla ludzi” - mówi Vallor. „Naprawdę nie chcą łamać demokracji i naprawdę nie chcą stwarzać zagrożeń dla dobrobytu ludzi i naprawdę nie chcą zmniejszać umiejętności czytania i pisania oraz świadomości rzeczywistości w społeczeństwie. Chcą robić rzeczy, z których są dumni. Więc czy zrobię, co w mojej mocy, aby pomóc im to osiągnąć? Tak."

···

Centrum Markkula, w którym pracuje Vallor, nosi imię Mike'a Markkuli Jr., „nieznany„Współzałożyciel Apple, który, w 1986, przyznał centrum początkową dotację na nasiona w taki sam sposób, w jaki udzielił młodemu Steveowi Jobsowi pierwszej pożyczki. Nigdy nie chciał, aby jego nazwisko widniało na budynku - to była niespodzianka, znak wdzięczności z uniwersytetu.

Markkula wycofał się do spokojnego życia, pracując w swojej rozległej, zamkniętej posiadłości w Woodside. Obecnie nie ma zbyt wielu kontaktów z założoną przez siebie firmą - „tylko wtedy, gdy coś mi się nie powiedzie z komputerem” - mówi mi. Ale kiedy w połowie lat 80. przyjechał do kampusu Santa Clara z córką, aby porozmawiać z córką, był prezesem Apple i martwił się, jak sprawy mają się w Dolinie. „Było dla nas jasne, Linda [jego żona] i ja, że ​​było sporo osób na stanowiskach decyzyjnych, które po prostu nie miały etyki na ekranie radaru” - mówi. „Nie chodzi o to, że byli nieetyczni, po prostu nie mieli żadnych narzędzi do pracy”.

Przeczytaj całą historię tutaj…