Прошлог месеца, град Сан Франциско је одлучио да забранити употребу технологије за препознавање лица у разним владиним агенцијама. Иако потпуна забрана заувек иде предалеко, она одражава стварну тензију коју полицијска употреба технологије ствара. Градови широм Сједињених Држава суочиће се са сличном дилемом док покушавају да уравнотеже обећање технологије да ће побољшати јавне услуге са огромном моћи владе – и њеном способношћу да нанесе штету. У формулисању кохерентне политике за управљање препознавањем лица, креатори политике треба да размотре како, када и зашто користити тако моћно средство: коришћење одговарајућих прагова поверења за фотографије, коришћење само препознавања лица након чињенице, а не у реалном времену, и ограничавање његову употребу за најтежа кривична дела. Коначно, владе морају да размотре обезбеђивање података како би избегле повреде осетљивих личних података.
На основном нивоу, технологија препознавања лица функционише тако што скенира геометрију лица да би препознала кључне карактеристике (као што су величина носа, облик очију, истакнута брада, итд.) и растојања између њих. Ово омогућава рачунару да креира виртуелну мапу лица, коју онда може да упореди са другим скенираним лицима у својој бази података са одговарајућим прагом поузданости. Тренутно се препознавање лица најчешће користи у апликацијама потрошачке технологије као што су откључавање паметних телефона или категоризација ваших Фацебоок и Гоогле фотографија.
Иако ове апликације нуде погодност за потрошаче, употреба исте технологије од стране владе поставља нека тешка питања — посебно у контексту кривичног правосуђа. За разлику од приватних субјеката, владине агенције не подлежу конкуренција , а њихове грешке обично имају далекосежне последице. Једна је ствар да препознавање лица погрешно идентификује пријатеља на Фејсбуку; сасвим друго је погрешно идентификовати осумњиченог. Штавише, технологија још увек сазрева и детаљи имплементације могу бити незгодни. Стога је разумно захтевати висок ниво тачности и неке здраворазумске мере заштите пре примене ових технологија.
Једна забринутост у вези са употребом препознавања лица од стране владе је та што је, као и други алгоритамски системи, технологија добра онолико колико су добри подаци који се користе за обуку. Амазонов софтвер Рекогнитион—који органи за спровођење закона већ користе у Орегону и Орланду—има доћи под ватру за погрешну идентификацију обојених људи по већој стопи него што погрешно идентификује белце. Амазон се супротставио да ови диспаритети почињу да се распршују када се користи препоручено 99% прагове поверења, али истичу критичари да полицијске управе тренутно нису обавезне да користе те високе стандарде (заиста, познато је да агенције за провођење закона уносе слике славних личности и форензичке скице у софтвер за препознавање лица да покуша да добије шибице ).
која епизода круне је крунисање
Знамо да су расне мањине већ укључене у систем кривичног правосуђа несразмерно великом брзином: А студија по налогу окружног тужиоца Сан Франциска открио је да док су црнци чинили 6% становништва града између 2007. и 2014. године, они су чинили 41% хапшења. Претерано ослањање на погрешну технологију — или лоша примена поменуте технологије — ризикује не само повећање погрешних осуда, већ и даље погоршање расних диспаритета у систему.
Даљу забринутост за грађане Сан Франциска је способност полиције да злоупотреби технологију препознавања лица у оквиру ширег опсега злоупотребе државне моћи. Чак и ако технологија може тачно да идентификује лица, заговорници се брину да би то могло да створи стање надзора, повећавајући хапшења за ситне злочине без побољшања јавне безбедности. Кинеска влада је већ користећи препознавање лица да ухапсе јаивалкере и пратити муслиманске мањинске групе . Ако се користи на неодговарајући начин, технологија препознавања лица може наштетити слободном, демократском друштву – стварајући застрашујући ефекат који негативно утиче на наша права да се окупљамо, протестујемо, гласамо и слободно крећемо по јавним површинама.
С друге стране, требало би да желимо да наше владине агенције иновирају и усвоје најновије алате који ће им омогућити да на најбољи начин служе јавности. Технологија препознавања лица има стварни потенцијал да помогне органима за спровођење закона да ухвате криминалце и побољшају јавну безбедност. На пример, технологија већ јесте помогао да се идентификују Јарод Рамос, осумњичени који се тренутно суочава са пет оптужби за убиство првог степена, када је одбио да се идентификује након што га је полиција ухапсила. Већини грађана би вероватно одговарало да је ово коришћење технологије препознавања лица. И ван традиционалних контекста за спровођење закона, препознавање лица се такође може користити за овлашћивање државних службеника у објектима високе безбедности, борба против трговине децом сексом , и наћи несталих лица .
Дакле, иако је опрез свакако оправдан, потпуна забрана — без икаквих одредби које захтевају ревизију политике — непотребно нас спречава да користимо корисне алате који би могли помоћи органима за спровођење закона у озбиљним случајевима када традиционалне истражне технике не успеју.
Међутим, употреба ове технологије захтева стварне заштите; није искључен привремени мораторијум на његову употребу док се такве заштите развијају. Како би могао изгледати одговарајући надзор над употребом технологије за препознавање лица од стране органа за спровођење закона? Маттхев Феенеи са Цато института поставља неке корисне сугестије, укључујући забрану могућности у реалном времену која би ограничила препознавање лица на истраге након чињенице, што би спречило полицијске камере да постану неограничене машине за надзор, између осталог.
Осигурање да се препознавање лица користи само након тога би такође омогућило преглед треће стране. На пример, законодавци би могли да захтевају од судије или судије да прегледају предложену употребу препознавања лица у сваком случају, слично процесу одобравања налога за претрес. Поред тога, да би се спречило коришћење препознавања лица за мање прекршаје као што је крађа у радњи , законодавци би могли да идентификују која кривична дела достижу ниво озбиљности који би гарантовао нарушавање приватности коју технологија ствара. Снажна ограничења за појединце укључене у скупове података за препознавање лица такође могу спречити да људи који су прекршили прекршаје буду увучени у полицијску мрежу. У идеалном случају, само они са активним налогом за хапшење треба да буду укључени у скуп података.
можете ли да видите планете телескопом
Са прикупљањем биометријских информација попут оних које се користе у технологији препознавања лица долази и до бриге о томе како се такве информације штите и чувају. Прошле недеље су се појавиле вести о а повреда података уговарача царине и граничне патроле, који је разоткрио хиљаде фотографија међународних путника које су прикупљене у сврху препознавања лица. Ризик да лични подаци доспеју у погрешне руке је веома стваран. Да би се овај ризик ублажио, владине агенције (и њихови уговарачи) би требало да буду у обавези да испуне одговарајуће хигијенске стандарде сајбер безбедности. Ограничења у погледу дужине времена складиштења биометријских информација након њиховог прикупљања такође могу смањити штету од повреде.
Коначно, ако градови доводе у питање сопствену способност да приступе техничким перформансама ових алата, требало би да размотре потребу за екстерном ревизијом путем почетног уговора о набавци. Важна провера против злоупотребе владе или случајне алгоритамске пристрасности је способност организација цивилног друштва да независно тестирају ове системе, провере да технологија функционише тачно и обезбеде да ниједна мањинска популација није неправедно циљана.
Како градови попут Оукланда и Сомервила, и државе попут Масачусетса, разматрају сличне законе, постављају се и питања да ли је ове политике најбоље успоставити на нивоу града или државе. Ово није први пут да градови покушавају да предводе реформу правосуђа — на пример, недавно је Атланта забрањено јемство у готовини (иако су законодавци Грузије покушали да предузму ту политику на овој законодавној седници). Локална ограничења полицијске технологије су, међутим, компликованија, пошто случајеви понекад могу да се односе на више надлежности. У идеалном случају, онда би постојала доследност у датој држави у заштити права на приватност грађана, тако да се државни војници и локални органи за спровођење закона држе по истим стандардима.
Иако је Сан Франциско први град који је забранио владину употребу препознавања лица, вероватно неће бити последњи. Градови и државе имају право да притисну дугме за паузу ако на крају одлуче да технологија није спремна за јавну примену. Али такође треба да упаре свако кашњење са опипљивим планом развоја.
Мораторијум може бити користан алат за стварање простора за пажљиво разматрање врста ограничења и заштите које желимо да поставимо. Али крајњи циљ мораторијума би требало да буде правилна употреба ових алата, а не да се олакша реакција на нову технологију која изгледа застрашујуће. Забринутост јавности око ове технологије је разумљива, али постизање уравнотеженог приступа суоченом са таквим страховима ће вероватно исплатити дивиденде у будућности.