Sąd Najwyższy waży tajne algorytmy AI oprogramowania, które skazały człowieka na więzienie

Kiedy w zeszłym miesiącu przewodniczący John G. Roberts Jr. odwiedził Rensselaer Polytechnic Institute, zadano mu zaskakujące pytanie, z nutami science fiction.

„Czy możesz przewidzieć dzień” - zapytał Shirley Ann Jackson, prezes kolegium w stanie Nowy Jork, „kiedy inteligentne maszyny, napędzane sztuczną inteligencją, pomogą w ustalaniu faktów na sali sądowej lub, co bardziej kontrowersyjne, w podejmowaniu decyzji przez sądy?”

Odpowiedź naczelnego sędziego była bardziej zaskakująca niż pytanie. „To dzień, który jest tutaj” - powiedział - „i to znacznie obciąża sposób, w jaki sądownictwo robi różne rzeczy”.

Być może myślał o przypadku mężczyzny z Wisconsin, Erica L. Loomisa, skazany na sześć lat więzienia częściowo oparty na oprogramowaniu zastrzeżonym prywatnej firmy. Pan Loomis twierdzi, że jego prawo do rzetelnego procesu zostało naruszone przez rozważenie przez sędziego raportu wygenerowanego przez tajny algorytm oprogramowania, którego Loomis nie był w stanie sprawdzić ani zakwestionować.

W marcu, sygnalizując, że sędziowie byli zaintrygowani sprawą pana Loomisa, zwrócili się do rządu federalnego złożyć spisek przed sądem przedstawiając swoje opinie na temat tego, czy sąd powinien rozpoznać jego apelację.

Raport w sprawie pana Loomisa został opracowany przez produkt o nazwie Compas, sprzedawany przez Northpointe Inc. Zawierał on szereg wykresów słupkowych, które oceniały ryzyko popełnienia przez pana Loomisa większej liczby przestępstw.

Raport Compasa, prokurator powiedział sędziemu procesowemu, wykazał „wysokie ryzyko przemocy, wysokie ryzyko recydywy, wysokie ryzyko przedprocesowe”. Sędzia zgodził się, mówiąc panu Loomisowi, że „dzięki ocenie Compas zidentyfikowano cię jako osoba, która stanowi duże zagrożenie dla społeczności. ”

Sąd Najwyższy Wisconsin orzekł przeciwko panu Loomisowi. Raport dodał cennych informacji, jak powiedział, i pan Loomis otrzymałby to samo zdanie wyłącznie na podstawie zwykłych czynników, w tym jego przestępstwa - ucieczki przed policją w samochodzie - i jego kryminalnej historii.

Jednocześnie sąd wydawał się niespokojny z użyciem tajnego algorytmu, aby wysłać mężczyznę do więzienia. Sprawiedliwość Ann Walsh Bradley, pisząc do sądu, omawiając na przykład, raport ProPublica o tym Compas zawarta że czarni oskarżeni w hrabstwie Broward w stanie Floryda „byli znacznie bardziej niż biali oskarżeni błędnie osądzeni o wyższym wskaźniku recydywy”.

Sędzia Bradley zauważył, że Northpointe miał zakwestionował analizę. Mimo to napisała: „to badanie i inni budzą obawy dotyczące korelacji czynników ryzyka oceny Compas z rasą”.

Ostatecznie jednak sędzia Bradley zezwolił sędziom skazującym na korzystanie z Compasa. Muszą wziąć pod uwagę ograniczenia algorytmu i otaczającą je tajemnicę, napisała, ale powiedziała, że ​​oprogramowanie może być pomocne „w dostarczeniu sądowi skazującemu jak najwięcej informacji w celu uzyskania zindywidualizowanego wyroku”.

Sprawiedliwość Bradley sprawiła, że ​​rola Compasa w wydawaniu wyroków brzmiała jak uwzględnienie rasy w holistycznym programie rekrutacji na uniwersytet. Pisała, że ​​może to być jeden z wielu czynników, ale nie decydujący.

Przeczytaj całą historię tutaj…