Sztuczna inteligencja w Stanach Zjednoczonych

W setnym, jubileuszowym wydaniu Mojego Miasta poruszyliśmy problematykę wykorzystywania
sztucznej inteligencji (dalej „SI”) w Chinach oraz Unii Europejskiej. Pokazało to szczególną różnicę
w sposobie regulacji SI w obydwóch systemach prawnych, od „humano-centrycznego” w Europie,
po „pro-państwowy” w Chinach. W tym numerze przyjrzymy się, w jaki sposób SI jest wykorzystywana
w wymiarze sprawiedliwości, ze szczególnym uwzględnieniem Stanów Zjednoczonych.

Technologia a prawo wykroczeń

W XXI wieku technologie oparte na nauczaniu
maszynowym są coraz częściej wykorzystywane
w drobnych procesach o wykroczenia lub
realizacji praw konsumenta. Kierowca jadący
na autostradzie z niedozwoloną prędkością
naraża się na zrobienie zdjęcia przez fotoradar.
Następnie, w zależności od kraju, może
on otrzymać mandat oraz (lub) punkty karne.
Proces wystawiania mandatu karnego może
odbywać się całkowicie bez udziału człowieka.
Jest to praktyka powszechna we Francji,
gdzie egzekwowanie wykroczeń drogowych
jest w pełni zautomatyzowane. Zdjęcia zrobione
przez fotoradar są analizowane przez
program komputerowy połączony z krajową
ewidencją kierowców, przez co mandat jest
automatycznie wysyłany pocztą tradycyjną
na adres kierowcy. Ten mechanizm, oparty na
nauczaniu maszynowym, polega na wykonywaniu
powtarzalnych czynności, niewymagających
dużego nakładu pracy. Nie wpływa
to w sposób drastyczny na prawa człowieka
w postaci ograniczenia lub pozbawienia wolności,
z tego względu ten mechanizm nie jest
kwestionowany. Jednakże bardziej rozwinięte
programy bazujące na sztucznej inteligencji są
wykorzystywane m.in. do realizacji tych celów
w Stanach Zjednoczonych.

„Narzędzia
oceny ryzyka” w sądownictwie USA

W Stanach Zjednoczonych powszechną praktyką
stało się wykorzystywanie algorytmów
punktowych oceniających ryzyko ponownego
popełnienia przestępstwa przez oskarżonego
(w warunkach recydywy). Te mechanizmy są bardziej zaawansowane niż nauczanie maszynowe,
ponieważ w większości oparte są na SI.
Wykorzystuje się je w szczególności przy wydawaniu
wyroków skazujących na pozbawienie
lub ograniczenie wolności, oraz decyzjach
o zwolnieniu oskarżonego z aresztu. Przykładami
programów wykorzystywanych przez
sądy amerykańskie są m.in. Ohio Risk Assessment
System Pretrial Assessment Tool (ORAS-
-PAT), Public Safety Assessment (PSA), Virginia
Pretrial Risk Assessment Instrument (VPRAI), czy
będący przedmiotem postępowania przed Sądem
Najwyższym stanu Wisconsin Correctional
Offender Management Profiling for Alternative
Sanctions (COMPAS). Różnicą pomiędzy powyższymi
programami, opartymi na sztucznej
inteligencji, a algorytmami wykorzystywanymi
przy egzekwowaniu kar z wykroczeń jest pełna
autonomia w procesie orzekania. W rezultacie
decyzja o pozbawieniu wolności zostaje wydana
w całości przez program, który przetwarza
statystyki stworzone na podstawie baz danych
zawierających duże ilości wyroków, razem
ze stanami faktycznymi oraz uzasadnieniami
ze spraw sądowych. Ta praktyka była przedmiotem
sporu sądowego pomiędzy USA
a Erykiem Loomisem, który został skazany na
okres sześciu lat bezwzględnego pozbawienia
wolności oraz dodatkowych pięciu lat ograniczenia
wolności przez program COMPAS
(sprawa State v. Loomis, 881 NW 2d 749, Wis.
2016). Skład sędziowski podjął decyzję pod
wpływem wyniku badania wykonanego przez
program COMPAS, który analizował popełnione
przez oskarżonego karalne czyny i jego
zachowanie w przeszłości oraz porównywał je z podobnymi sprawami. Loomis zaskarżył
wyrok jako naruszający jego prawo do rzetelnego
procesu, ponieważ przesłanki wydania
wyroku nie były zindywidualizowane
w odniesieniu do jego sprawy, ale bazowały
na szerszej grupie osób i wartościach statystycznych.
Sąd Najwyższy stanu Wisconsin
oddalił apelację Loomisa twierdząc, że decyzja
sądu federalnego nie jest oparta wyłącznie
na programie COMPAS, a statystyka wykonana
przez program dotyczy najbardziej zbliżonej
do niego grupy osób, które popełniały
podobne przestępstwa.

Kontrowersje

Pomimo pozytywnego celu, jaki przyświeca
„narzędziom oceny ryzyka” w postępowaniach
sądowych, polegającym na odciążeniu sędziego,
należy wskazać wybrane negatywne cechy
tych urządzeń. Po pierwsze, rzetelność analiz
przeprowadzonych przez te technologie nie
jest niezawodna. Rezultat jest zależny od sposobu
ich zaprogramowania i wykorzystywanych
baz danych. Często zdarza się, że dane są błędnie
sklasyfikowane, niedokładne, nieaktualne
lub niekompletne, co wpływa negatywnie na
wiarygodność wyników końcowych. Po drugie,
częstą wadą SI jest jej stronniczość. Słabej jakości
dane, z których tworzone są statystyki wykorzystywane
w procesie decyzyjnym, prowadzą
do wydawania wyroków dyskryminujących ze
względu na kolor skóry czy pochodzenie etniczne.
Stanowi to problem w Stanach Zjednoczonych,
gdzie statystycznie większy odsetek
przestępstw popełniany jest przez obywateli
czarnoskórych, co wpływa na wyniki algorytmów.

Wymierzanie sprawiedliwości od początku
rozwoju koncepcji demokratycznych państw
prawnych pełni kluczową rolę w funkcjonowaniu
społeczeństw. Proces wydawania wyroku
powinien brać pod uwagę dobro osoby –
zarówno oskarżonego, jak i poszkodowanego.
Pomimo dokonania czynu karalnego, skazany
nie traci swojej ludzkiej godności. Z tego
względu wyrok zawsze powinien być zindywidualizowany
do faktów sprawy, a nie oparty na
statystyce. Każdy człowiek ma bowiem prawo
do poprawy i zmiany swojego postępowania.

Michał Barycki