Gadgetshowto
W XXI wieku AI (sztuczna inteligencja) wykonywała takie zadania, jak zręczne pokonywanie ludzi w szachach lub szybkie uczenie ich języków obcych.
Bardziej zaawansowanym zadaniem dla komputera byłoby przewidywanie prawdopodobieństwa popełnienia przez przestępcę kolejnego przestępstwa. To zadanie dla systemu sztucznej inteligencji o nazwie COMPAS (Profilowanie kierownictwa przestępców w zakresie kar alternatywnych). Ale okazuje się, że narzędzie nie jest lepsze od przeciętnego faceta i może też być rasistowskie. Cóż, dokładnie to odkrył zespół badawczy po dokładnym zbadaniu systemu sztucznej inteligencji, który jest szeroko stosowany przez instytucje sądowe.
Zgodnie z artykułem badawczym opublikowanym przez Science Advances, COMPAS został skonfrontowany z grupą ludzkich uczestników, aby przetestować jego skuteczność i sprawdzić, jak dobrze wypada w porównaniu z logicznymi przewidywaniami normalnej osoby. Maszyna i uczestnicy - ludzie otrzymali 1000 opisów testów zawierających wiek, wcześniejsze przestępstwa, płeć itp. Przestępców, których prawdopodobieństwo powtórnych przestępstw miało być przewidywane.
Mając znacznie mniej informacji niż COMPAS (tylko 7 funkcji w porównaniu do 137 COMPAS), niewielki tłum nieekspertów jest tak dokładny jak COMPAS w przewidywaniu recydywy.
COMPAS osiągnął ogólną dokładność 65,4% w przewidywaniu recydywy (tendencja skazanego przestępcy do ponownego popełnienia przestępstwa), co jest mniejszą niż dokładność zbiorowego przewidywania uczestników - ludzi wynosząca 67%.
Teraz poświęć chwilę i zastanów się, że system sztucznej inteligencji, który nie wypada lepiej niż przeciętny człowiek, był używany przez sądy do przewidywania recydywy.
Komercyjne oprogramowanie, które jest szeroko stosowane do przewidywania recydywy, nie jest dokładniejsze ani bardziej sprawiedliwe niż prognozy osób z niewielkim doświadczeniem w sprawach karnych, które odpowiedziały na ankietę internetową.
Co gorsza, uznano, że system jest tak samo podatny na uprzedzenia rasowe, jak jego ludzkie odpowiedniki, kiedy poproszono ich o przewidzenie prawdopodobieństwa recydywy na podstawie opisów, które zawierały również informacje rasowe o przestępcach. Nie powinieneś być zbyt zaskoczony, ponieważ sztuczna inteligencja przyjmuje wzorce, które jej nauczyciele zaprogramują ją do nauki.
Chociaż obie strony drastycznie nie osiągają akceptowalnego wyniku dokładności, kwestia użycia narzędzia AI, które nie jest lepsze niż przeciętna istota ludzka, rodzi wiele pytań.
