1968. Конгрес је усвојен и председник Линдон Б. Џонсон је тада потписао закон Закон о праведном становању (ФХА), који забрањује дискриминацију у вези са становањем на основу расе, боје коже, вере, пола, инвалидитета, породичног статуса и националног порекла. Доношење административних правила и судски спорови у деценијама од доношења ФХА помогли су у обликовању оквира који је, уз све своје недостатке, ипак био витално оруђе за борбу против дискриминације у погледу становања. Али а предложено правило објављено у августу 2019. од стране Одељења за становање и урбани развој (ХУД) прети да поткопа покушаје борбе против дискриминације у погледу становања засноване на алгоритмима.
ФХА ће играти кључну улогу јер алгоритми за финансирање, зонирање, осигурање и друге активности стамбеног сектора добијају широко усвајање у наредних неколико година. Док ће неки алгоритми бити дизајнирани и имплементирани на начине који помажу у ублажавању пристрасности и резултујућих дискриминаторних образаца становања, други ће имати супротан ефекат. Када се то догоди, ФХА би требало да олакша – а не да омета – одлучивање о тужбама за дискриминацију.
ФХА, којим администрира Одељење за становање и урбани развој (ХУД), бави се не само намерном дискриминацијом већ и ненамерном дискриминацијом. На пример, намерна дискриминација се дешава ако власник имовине одбије да прода или изнајми стан на основу заштићене карактеристике као што је раса. Ненамерна дискриминација може настати ако, на пример, зајмодавац има политике које изгледају неутрално у погледу заштићених карактеристика, али ненамерно стављају у неповољнији положај подносиоце захтева за кредит из заштићене групе. Како су прописи развијени под ФХА објаснити , [л]одговорност се може утврдити према Закону о праведном становању на основу дискриминаторног ефекта праксе. . . чак и ако пракса није била мотивисана дискриминаторном намером.
Оквири за решавање ненамерне дискриминације су посебно важни у контексту алгоритама. Иако би се мали број програмера алгоритама за употребу у стамбеном сектору намерно укључио у незакониту дискриминацију, комбинација пристрасности у подацима и слепих тачака чак и међу програмерима са најдобронамернијим програмима значи да ће неки алгоритми ипак произвести дискриминаторне резултате. Ово би могло ојачати или чак појачати постојеће обрасце сегрегације и дискриминације.
Судски систем ће играти виталну улогу у одлучивању о тврдњама да је алгоритам пристрасан на начине који крше ФХА. Нажалост, предложено правило ХУД-а може драматично повећати терет тужитеља на начине који ће озбиљно ограничити ФХА као алат за борбу против дискриминације.
који је једини природни сателит Земље
Предложено правило поставља строги скуп услова – који се назива прима фацие терет – које тужилац који подноси захтев за дискриминаторне последице мора да испуни. Иако овај терет није специфичан за наводе о дискриминацији који укључују алгоритме, биће посебно тешко задовољити га када су алгоритми укључени. Један од услова је да тужилац изнесе чињенице уверљиво наводећи да постоји чврста узрочна веза између оспорене политике или праксе и различитог утицаја на припаднике заштићене класе који показује да је специфична пракса директан узрок дискриминаторног ефекта. Ово ће бити веома тешко урадити без приступа информацијама о интерном раду алгоритма који би често био неопходан за идентификацију дискриминаторне политике. Али те информације углавном не би биле доступне тужиоцу у раним фазама парнице с обзиром на заштиту пословне тајне на коју ће се тужени скоро увек позивати.
Тужилац ће такође морати да наведе чињенице које уверљиво тврде да је оспорена политика или пракса произвољна, вештачка и непотребна за постизање ваљаног интереса или легитимног циља као што је практичан посао, профит, разматрање политике или закон. Ово може ставити непремостиви терет на тужиоце који, због недостатка приступа детаљима алгоритма, можда неће моћи да покажу да је пракса или политика све три произвољне, вештачке и непотребне. Узмимо један пример, показивање да је политика непотребна обично ће захтевати довољно знања о повезаном алгоритму да би се показало да се исти циљ политике може постићи другачијим, мање дискриминаторним приступом.
Поред постављања тешких захтева тужилаца, предложено правило пружа туженима низ афирмативних одбрана, од којих је свака довољна да наведе суд да одбаци случај. Што се тиче наводно пристрасног алгоритма, тужени може избећи одговорност тако што ће показати да оспорени модел производи, одржава или дистрибуира призната трећа страна која одређује индустријске стандарде, улазне податке и методе унутар модела не одређује тужени, а тужени користи модел према намени трећег лица. То је оно што значи да одбрана није моја грешка дозвољавајући оптуженима да пребаце кривицу на субјекте који су даље у ланцу снабдевања алгоритма.
Још један начин на који окривљени могу да избегну одговорност је пружање материјалних фактора који чине инпуте коришћене у оспореном моделу и показивање да се ови фактори ни у једном материјалном делу не ослањају на факторе који су замене или блиски прокси за заштићене класе према Закону о праведном становању. Оптужени ће често бити у стању да изнесе теорију на основу које се ово представљање прави, посебно када се различити улази које алгоритам разматра обрађују на сложене начине.
Према предложеном правилу, комбинација 1) високих препрека са којима се тужиоци суочавају и 2) низа афирмативних одбрана доступних оптуженима учиниће да је захтев ФХА који укључује наводну алгоритамску дискриминацију изузетно тежак. Бољи приступ би био да се формулише правило које препознаје недостатке у погледу информација са којима ће се тужиоци суочити. На пример, од тужиоца у фази прима фацие не би требало захтевати да идентификују одређену политику уграђену у алгоритам као сумњиву. Уместо тога, судови би требало да размотре статистичке доказе о томе да ли алгоритам – у целини – има различит утицај на заштићену групу.
Штавише, у фази прима фацие не би требало захтевати од тужилаца да покажу да алгоритам функционише на начин који није неопходан за постизање легитимног, недискриминаторног циља. Уместо тога, након задовољења прима фацие терета од стране тужиоца, терет би требало да падне на тужене да афирмативно покажу да политике унутар алгоритма служе легитимној, недискриминаторној сврси. Уравнотеженији оквир за парничење ФХА тужби би помогао да се осигура да се алгоритми користе за ублажавање – за разлику од потенцијалног одржавања – дискриминације у стамбеном сектору.