Нетрпељивост на мрежи, посебно у рукама широко праћених, утицајних и добро опремљених политичара и влада, може имати озбиљне — па чак и смртоносне — последице. Председник Трамп је 6. јануара 2020. твитовао лажне тврдње о изборној превари и наизглед оправдано примену насиља док су његове присталице јуришале на Капитол САД. Иако лични говор изгледа да најдиректније покреће насиље, Трампово присуство на друштвеним мрежама је играло велику улогу у акцијама мафије. Неколико недеља након што је изгубио на изборима 2020., председник Трамп је твитовао лажне тврдње о изборној превари и охрабривао присталице да спустити се у Вашингтон, 6. јануара , одбијају да узми више, и буди јак. На дан напада, твит да потпредседник Мајк Пенс није имао храбрости да уради оно што је требало да буде уследио је поруке Трампових присталица на платформи друштвених мрежа Габ позива оне у Капитолу да пронађу потпредседника, као и лично певање Где је Пенс? Уочи и током избијања насиља, различите платформе друштвених медија помогле су руљи да се окупи на правом месту и у право време, да координира своје акције и добије упутства од председника и једни од других.
Као што смо се расправљали у недавном чланку за часопис Сурвивал, злоупотреба друштвених медија није ограничена на терористичке групе попут Исламске државе. Компаније друштвених медија такође треба да развију протоколе за хитне случајеве како би се супротставили експлоатацији од стране малигних агената и држава које настоје да подстакну насиље.
Колико год да је напад на Капитол био ужасан, Трампова злоупотреба друштвених медија није јединствена. У 2020. години, у позадини постојећих верских тензија и историје насиља у заједници, политичари индијске Бхаратииа Јаната Партије (БЈП) објавили су запаљиви садржај у вези са муслиманима, неки чак и претећи насиљем осветника . Најмање четири званичника су задржала своје Фејсбук налоге упркос потенцијалном кршењу правила платформе о говору мржње, а само неколико постова је уклоњено након што се Волстрит џорнал распитивао о њима. Фацебооков тим за модерирање садржаја није предузео никакве мере у вези са тврдњама политичара да муслимани намерно шире корона вирус, и док је видео снимак бившег посланика БЈП Капила Мишре који прети насиљем осветника на крају уклоњен, нереди и убиства која су непропорционално погодила муслимане догодила су се убрзо након што је постављен.
Злонамерни државни актери дуго користе комуникациону технологију за постизање насилних циљева или циљева мржње. На пример, током геноцида у Руанди, Хуту екстремисти су наоружавали емисије Радио Телевисион Либре дес Милле Цоллинес како би распламсавали мржњу према Тутси и умереним Хутуима, и да наведите имена, адресе, па чак и бројеве регистарских таблица оних које су желели да побију. Данас државни лидери могу да користе платформе друштвених медија на различите начине, од експлицитних позива на насиље до садржаја који подмукло подстиче мржњу, да на сличан начин погоршавају тензије и подстичу насиље.
слика америчке заставе на месецу
Иако државна експлоатација комуникационе технологије није нова, друштвени медији пружају нове опасности и ризике. С обзиром на домет платформи, државе могу имати огроман утицај на своју популацију ако доминирају наративом на популарним платформама попут Фејсбука и Твитера. Поред тога, друштвени медији олакшавају ехо коморе, где су фидови персонализовани на основу корисничких података и постојећи ставови корисника се појачавају (вероватно до тачке подстицања на акцију), а не оспоравају. Најзад, већина платформи друштвених медија нема чуваре врата и нема уређивачку улогу новина или телевизијских емисија, иако обично имају минималне стандарде заједнице. Обично је мало одговорности, а мали број појединаца или фарми тролова изнајмљених од стране државе може да појача одређену поруку и учини да се маргинална мишљења постану мејнстрим. Широко праћени политичари попут председника Трампа могу директно да комуницирају са огромним деловима становништва. Уз поновљено излагање гласинама које јачају његову уверљивост и вероватноћу да буде опозвано, гласине на друштвеним медијима постају изузетно моћне.
како је престало ропство
Истовремено, недостатак вратара и доминација информационог окружења пружа нову прилику. Друштвени медији могу пружити алтернативу наративу о традиционалним медијима који контролише мржња, повезати заједнице у кризним ситуацијама и пружити информације члановима цивилног друштва, страним владама и другим заинтересованим актерима. Стога, компаније друштвених медија морају признати своју јединствену моћ када су у питању државе и предузети мере против потенцијалног насиља.
Иако још увек несавршене, компаније друштвених медија су напредовале у решавању подлих онлајн активности џихадиста и других насилних група поддржавних група. Међутим, када је у питању модерирање државног садржаја, компаније друштвених медија се боре са тежим питањима о томе како да одрже свој крајњи резултат, прецизно примене технолошке алате и прате своје наметнуте идеале слободе говора док укрштају ове моћне актере. У случају званичника Трампа и БЈП-а, они су такође демократски изабрани, дајући им легитимитет и постављајући питање да ли су стандарди компанија друштвених медија важнији од избора за одређивање ко има право на привилегован приступ овим важним платформама.
Различити гиганти друштвених медија уравнотежили су ове различите мотиве и бриге на различите начине. Твитер и Фејсбук су, на пример, различито одговорили Трампово подстицање насиља 6. јануара добро као Антимуслиманска реторика политичара БЈП . Ове различите политике указују на потешкоће у одговору на основно питање: Како компаније друштвених медија могу и треба да третирају политичаре и владе које подстичу мржњу на интернету?
Иако су Фејсбук и друге компаније посветиле значајне ресурсе проблему лошег садржаја, технички алати и доступни људски модератори често нису у могућности да реше проблем. Људи су неопходни да обучавају и усавршавају технолошке алате, решавају жалбе и третирају нијансирани садржај који захтева разумевање друштвеног, културног и политичког контекста. На пример, пораст употребе аутоматизованог модерирања садржаја током пандемије ЦОВИД-19 довео је до уклањања битних информација – као што су објаве на Фејсбуку сиријског новинара Мохамеда Асакре које документују неправду у земљи и деле их са другим активистима. Чак и у Мјанмару, који је био централна тачка након масовних убистава организованих на друштвеним мрежама 2018. године, модератори људских садржаја често не могу да живе у самој земљи и оптерећени су неколико земаља на својим профилима.
12 недеља колико дана
Изван ових ограничења ресурса, пркошење или деловање против влада може наштетити комерцијалним интересима компанија друштвених медија. Да би приступиле кључним тржиштима, компаније друштвених медија се ослањају на владино одобрење, лиценцирање и повољно регулаторно окружење. Компаније друштвених медија би стога можда биле спремније да се повинују вољи владе и спрече реакцију.
Суочени са овим потешкоћама, једно лакше решење може бити грубљи приступ модерирању садржаја, чинећи одређени садржај недоступним или широко ограничавајући приступ платформама. Међутим, претерано ограничавање може имати подједнако разорне последице. Репресивни режими често гасе интернет у име безбедности док користе тишину да нанесу штету неистомишљеницима или мањинским заједницама. Штавише, ограничавање било каквог садржаја, посебно владиног садржаја, може бити у супротности са наводним принципима технолошких компанија са седиштем у САД. Многе компаније тврде да су посвећене слободи говора за све своје кориснике и не виде себе као арбитре за одговарајући или неприкладан садржај. Доношење ових пресуда ставља компаније друштвених медија у улогу у којој не би требало нити желе да буду. Ипак, са снагом коју ове платформе дају, компаније друштвених медија морају пронаћи начине да се припреме за ову улогу и спрече ескалацију тензија у кризи.
Да би уравнотежиле различите обавезе и предузеле одговарајући одговор на мржњу коју подржава држава на мрежи, компаније друштвених медија морају бити у стању да процене различите ситуације и по потреби примењују протоколе за хитне случајеве. Реторика мржње и гранични садржаји постају најопаснији када су тензије у друштву већ високе. Компаније могу да користе индикаторе научника и институција да препознају да је хитна ситуација близу. Интерно, пораст опасног садржаја који осете системи вештачке интелигенције или људски аналитичари може да изазове појачану контролу. Штавише, компаније морају препознати када је хитна ситуација завршена како би се осигурало да ограничења на друштвеним медијима не представљају непотребно оптерећење. Привремене победе, као што је низ дана без насиља, или најава већих догађаја, попут мировних преговора или повратка избеглица, могли би да укажу на крај кризе. Када се одреде, компаније морају одлучити шта ће предузети током ових ванредних периода.
Компаније имају на располагању мноштво алата за ограничавање ширења опасног садржаја у кризи. Платформе могу применити ознаке упозорења на контроверзне постове како би навеле кориснике да одмах испитају садржај и траже додатне информације. Твитер је користио такву етикету у вези са Трамповом када почиње пљачка, пуцњава почиње да твитује током протеста Блацк Ливес Маттер 2020. Компаније друштвених медија такође могу да појачају постојеће напоре да ограниче видљивост опасног садржаја у кризној ситуацији. Фацебоок већ омаловажава постове идентификоване као лажне, Јутјуб и Фејсбук примењују строже смернице када одлучују да ли ће препоручити садржај или не, а Твитер тврди да уклања теме у тренду ако јесу који доводе у заблуду или ометају јавни разговор . Упитни постови се понекад стављају у ограничено стање са искљученим или ограниченим коментарима, лајковима, дељењем, прослеђивањем и монетизацијом путем огласа. Ове напоре треба повећати у временима кризе и проширити их да би се привремено применили на садржаје који су гранични. На врхунцу кризе, компаније би чак могле да примене ово ограничено државно правило на постове који садрже одређене кључне речи.
Штавише, више ресурса би требало посветити уклањању граничног садржаја са платформе и суспендовању опасних налога током кризних ситуација. И Твитер и Фејсбук, који су дуго били претплаћени на идеју одржавања садржаја јавних личности у име јавног интереса , схватио је опасност од одржавања овог садржаја док су протести 6. јануара у Вашингтону кључали. Твитер је прво Трампове запаљиве твитове означио упозорењима, а затим је председнику привремено блокирао његов налог пре него што га је коначно суспендовао. Фејсбук је у међувремену суспендовао Трампов налог барем до новоизабраног председника Џоа Бајдена инаугурација . Очигледно препознајући да уклањање починилаца на извору може на крају заштитити јавну безбедност, компаније друштвених медија смањиле су претходне одредбе за суспендовање налога и брисање постова за налоге којима је дат преференцијални третман. Смањење ових прагова за редовне рачуне који преносе гласине у кризи може на сличан начин успорити ширење подстрекачке реторике.
Истовремено, друштвени медији такође могу пружити неопходне информације од аполитичних испостава владе, цивилног друштва, оних који први реагују и најближих. Стога треба истаћи позитиван садржај. Кроз партнерство са локалним организацијама цивилног друштва и угледним међународним организацијама, потребно је идентификовати поуздане изворе и истакнути их у изворима вести. Компаније могу да прате ИоуТубе-ов модел тако што ће креирати топ вести или картицу са најновијим вестима на врху почетних страница што чини колекцију ових извора лако доступном. У одређеним ситуацијама, компаније би чак могле да наведу одређене изворе на белој листи и дозволе приступ овим унапред одобреним изворима док би онемогућавале приступ другима.
Ограничавање садржаја на друштвеним мрежама, посебно државних садржаја, садржи ризике како за жртве кризе, тако и за саме компаније. Снага и трајање предузетих корака морају се пажљиво проценити када се мењају перформансе и намена платформе. Ипак, ризици нечињења су већи. Иако мере представљене овде не могу да реше основне пукотине у друштвима, оне могу да умање моћан утицај искоришћавања друштвених медија за ширење мржње и насиља.
песма хенри виии супруге