Постоје значајне потенцијалне користи од коришћења процена ризика заснованих на подацима у кривичном изрицању казни. На пример, процене ризика су с правом прихваћене као механизам који омогућава судовима да смање или укину затворске казне за преступнике за које је мала вероватноћа да ће поновити кривично дело. Више држава је недавно донело законе који захтевају употребу инструмената за процену ризика. И 2017. године, Амерички правни институт , веома поштована организација која је деценијама радила на појашњењу, модернизацији и на други начин побољшању закона, одобрено предлог коначног нацрта Модела кривичног закона: Одмеравање казне. Документ посебно препознаје вредност изрицања казне засноване на доказима уз помоћ актуарских инструмената који процењују релативне ризике које поједини преступници представљају по јавну безбедност својим будућим кривичним понашањем.
Међутим, заједно са предностима, све већа употреба алата за процену ризика заснованих на алгоритму изазива значајну забринутост због правилног поступка. Прави процес је основно уставно право предвиђено и кроз Пети и Четрнаести амандман, који штите људе од лишења живота, слободе или имовине, без одговарајућег законског процеса. Кључна подкатегорија законитог поступка је процесна законита процедура, која има за циљ да обезбеди правичност у правним поступцима који угрожавају живот, слободу или имовину.
Када се у кривичним поступцима користе алати за процену ризика засновани на алгоритму, могу се појавити проблеми у вези са правом преступника да оспоравају тачност и релевантност информација које се користе при изрицању казне. Издвајамо два од тих изазова. Први се односи на право преступника на информације у вези са алгоритмом који се користи за израчунавање резултата ризика, а други се односи на право преступника да зна који су ти резултати.
У мају 2013., Ерик Лумис се изјаснио кривим на Окружном суду у округу Ла Крос, Висконсин, по оптужбама за покушај бекства од саобраћајног службеника и управљање моторним возилом без пристанка власника. Пре Лумисовог саслушања за изрицање казне у августу 2013, подаци о њему су унети у алат за процену ризика познат као ЦОМПАС (Профил за управљање поправним преступницима за алтернативне санкције). Док је ЦОМПАС алгоритам који се користи за производњу резултата ризика власнички, излаз није. Лумисов извештај ЦОМПАС-а указао је на висок ризик од рецидива.
када је чамац измишљен
На саслушању у августу 2013. Лумис је осуђен на вишегодишњу затворску казну. Позивајући се на ЦОМПАС у својој одлуци, судија је рекао:
Ви сте идентификовани, кроз ЦОМПАС процену, као појединац који је под високим ризиком за заједницу. У смислу вагања различитих фактора, искључујем условну казну због озбиљности злочина и зато што ваша историја, ваша историја о надзору и алати за процену ризика који су коришћени сугеришу да сте изузетно ризични да поново увредити.
Након што је безуспешно тражио помоћ након изрицања пресуде на окружном суду, Лумис се жалио Врховном суду Висконсина, тврдећи да је ослањање на ЦОМПАС кршење његових права у складу са законом јер власничка природа ЦОМПАС-а спречава оптуженог да оспори научну валидност процене. .
2. особа на месецу
Године 2016. Врховни суд Висконсина пресудио је против Лумиса, налаз да ако се правилно користи са свешћу о ограничењима и опрезима . . . разматрање ЦОМПАС процене ризика при изрицању казне не крши право оптуженог на правилан процес. И, писао је суд, иако је судија на рочишту за изрицање казне поменуо ЦОМПАС процену ризика, није било одлучујуће у одлуци да ли Лумис треба да буде у затвору, о висини казне или да ли би могао да буде под безбедним и ефикасним надзором у заједници. . Лумис се потом жалио Врховном суду САД, који је у јуну 2017. одбио да саслуша његов случај.
Када се за израду процене ризика користи власнички алгоритам, питање дужног процеса не би требало да се односи на то да ли је процена ризика — да употребимо израз у пресуди Врховног суда Висконсина — одлучујућа, већ на то да ли је и како коришћена. За Лоомис, резултат ЦОМПАС-а је наводно коришћен само да се појача процена других фактора који су узети у обзир. Врховни суд Висконсина је навео да би суд за изрицање казне изрекао потпуно исту казну и без тога. Сходно томе, утврђујемо да разматрање ЦОМПАС-а од стране окружног суда у овом случају није прекршило Лоомисова права на прописани процес.
Ова логика води до забрињавајућег парадокса. С једне стране, ако је употреба власничког алата за процену ризика при изрицању казне прикладна само када би се иста одлука о казни донела без њега, то сугерише да процена ризика не игра апсолутно никакву улогу у условној осуди или одлукама о казни. Ако је то случај, зашто га онда уопште користити? Ако, с друге стране, то може имати потенцијални утицај - упркос тврдњи суда у Висконсину да је супротно - онда се питање дужног процеса не може одбацити.
Још једно важно питање дужног поступка тиче се тога које информације се преступницима дају – или не – о њиховим оценама ризика. У недавном случај у Канзасу, Џон Волс се изјаснио да не оспорава оптужбу за претњу. Затим је процењен помоћу алата за процену ризика ЛСИ-Р (Левел оф Сервице Инвентори-Ревисед). Када је тражио да види резултате, добио је приступ само насловној страници на којој су сумирани његови општи резултати; његов захтев да види конкретна питања и одговоре и бодове повезане са тим питањима је одбијен.
Након што га је окружни суд осудио на условну казну под строгим надзором која се обично користи за умерено или више ризичне преступнике, он је своју казну оспорио пред Апелационим судом у Канзасу, тврдећи да је одбијање да открије детаље његовог ЛСИ-Р процена повредила његово право на правилан поступак. Апелациони суд је пресудио у корист Волса, напомињући да му је ускраћивање приступа Волсу његовој комплетној процени ЛСИ-Р онемогућило да оспори тачност информација коришћених при одређивању услова за условну казну. Првобитна казна је укинута, а предмет враћен на поновно одлучивање.
Министарство правде САД има признао да коришћење актуарских процена ризика од стране суда за изрицање казне покреће нова уставна питања. А питања нису само уставна – постоје и значајна питања политике и технологије. Као што илуструју два горња примера, недостатак транспарентности може настати у односу на начин на који се израчунавају оцене ризика и на то да ли је преступник у могућности да им приступи. Додатни компликовани фактор су права на пословну тајну, на која ће се компаније које праве власничке алате за процену ризика позвати да тврде да се детаљи њихових алгоритама не могу открити.
фреквенција помрачења Сунца
Питања која ће се све чешће појављивати у наредним годинама укључују: Који ниво детаља о алгоритму за процену ризика и његовим резултатима има право да приступи преступник? Да ли су потребни нови закони да би се олакшао тај приступ? Како се треба позабавити правима на пословну тајну компанија које праве алате за процену ризика? А у будућности, како процене ризика засноване на вештачкој интелигенцији постану уобичајене, како ће динамичка природа алгоритама вештачке интелигенције додатно закомпликовати ова питања?
Као и код многих питања на пресеку закона, политике и технологије, нема лаких одговора. Али темељна претпоставка у дијалогу ће морати да буде да право на правилан поступак не може бити колатерална штета за усвајање све софистициранијих алгоритамских технологија за процену ризика.