Konflikty

Moderovanie diskusií na sociálnych sieťach ako odpoveď na nenávisť a dezinformácie

Moderovať, a či nemoderovať - kto mi odpovie... Je lepšie na šírenú dezinformáciu v online priestore odpovedať, alebo ju radšej treba nechať tak? Nahnevám ľudí, ktorí ma sledujú, viac, ak budem nejaké komentáre z diskusie mazať, alebo ak na mojom profile prídu ľudia do kontaktu s nenávisťou a klamstvami? Existuje právo prejavovať akýkoľvek názor, či platí skôr, že hejt nie je názor a do verejného priestoru nepatrí? Ako si vybrať, ktorý obsah je škodlivý? Aké kroky vieme podniknúť? A musíme to všetko robiť sami?


  • Zdieľajte s okolím

    • Ivana Ivanová

      Ivana Ivanová

      03.05.2024 / 14 minút čítania / prečítané 1417x

Zodpovedaním vyššie položených otázok si človek vyjasňuje svoj postoj k téme moderácie diskusií v online priestore. Tá je jedným zo spôsobov, ako reagovať na problematický obsah, no reakcie na takýto druh zásahu sú rozporuplné.     

JE TO TREBA ROBIŤ? ČO HOVORIA DÁTA? 

Diskusie na sociálnych sieťach sú neraz plné problematického obsahu ako nenávistné a násilné prejavy či dezinformácie. Iniciatíva #bezhejtu, za ktorou stojí technologická firma TrollWall a komunikačná agentúra Seesame, urobila v roku 2023 dve analýzy výskytu nenávisti na slovenskom Facebooku. V prvom kole sa pozreli na viac ako pol milióna komentárov na 428 stránkach. V druhej správe sa venovali v rozmedzí troch mesiacov takmer 7 miliónom komentárov na 492 profiloch. Pozorované trendy sa len potvrdili.  

  • Podľa prvej správy, ktorá monitorovala slovenský Facobook v období od 1. do 15. apríla 2023, nieslo 15,47% zo všetkých komentárov znaky nenávistného prejavu. (1) 

  • Druhá správa, ktorá monitorovala obdobie august-október 2023, konštatovala, že 12,9% zo všetkých monitorovaných komentárov bolo vulgárnych alebo nenávistných. (2)

  • Profily, ktoré sa rozhodli nastaviť pravidlá kultivovanej diskusie, monitorovať stav a moderovať komentáre, mali v trojmesačnom analyzovanom období podiel problematických komentárov len na úrovni 1,9%. (3)

ZDROJ: ChatGPT  

PREČO JE TO PROBLÉM? 

Slovensko čelí veľkej polarizácii, ktorá je živnou pôdou pre nenávistné prejavy. Online prostredie, prípadne anonymita, znižujú bariéru na hate-speech a výskyt takéhoto obsahu tvorí toxické online prostredie. Štandardne najviac komentujú ľudia, ktorí majú silné emócie, napríklad sú nahnevaní. Preto je množstvo komentárov v diskusiách negatívnych. To však nereprezentuje verne skutočný väčšinový názor spoločnosti. Ak v online priestore prevládajú nenávistné prejavy, ľudia sa v ňom necítia bezpečne a inkluzívne.  

Na sociálnych sieťach trávia užívateľky a užívatelia množstvo času. Či už chcú, alebo nie, úroveň diskusie, ktorú tam zažívajú, ovplyvňuje to, čo považujú za normálne a prijateľné (aj) v reálnom svete. (4) V momente, kedy sa o svoje sociálne siete staráme a vytvárame tam bezpečný priestor na diskusiu, otvárame priestor aj pre tých, ktorí sa bežne nezapájajú. „Štúdie ukazujú, že ak je priestor nechaný nenávisti, skupiny, ktoré sú už aj tak menej angažované v spoločenskom dialógu, čo na Slovensku znamená prevažne ženy a rôzne minority (sexuálne, rasové, iné), sa nebudú zapájať do diskusie, lebo priestor nevnímajú ako bezpečný.“ (5)

 

PREČO SA MANAŽOVANIE SOCIÁLNYCH SIETÍ NEVYUŽÍVA VŠADE 

Mnohí aktéri spravovaniu komentárov pod svojimi príspevkami nevenujú dostatočnú pozornosť. Dôvodov je viacero a často sa líšia prípad od prípadu, no medzi najčastejšie patria napríklad: 

  • Nízka priorita. Časť ľudí nepripisuje kultúrnej diskusii na vlastnom profile dostatočne veľkú váhu. Za svoju zodpovednosť považujú kvalitu publikovaných príspevkov a nekultivovanú diskusiu pod príspevkami vnímajú ako zlyhanie jednotlivcov, ktorí dané veci napísali, nie svoje.  

  • Obavy z backlashuMedzi udávané dôvody patrí aj strach z negatívnej odozvy na takýto druh zásahu. V momente, kedy profily mažú komentáre či blokujú užívateľov a užívateľky na základe porušenia pravidiel, vždy sa objavia aj nesúhlasné (o)hlasy volajúce po slobode slova a zastavení cenzúry.  

  • Nedostatok kapacít (ľudských, finančných, časových). Ak sa zamýšľame nielen nad osobnými profilmi, pod ktorými je vo väčšine prípadov nízka miera interakcií, ale aj nad profilmi firiem, inštitúcií, médií, neziskových organizácií a podobne, problémom sú aj kapacityObzvlášť menší aktéri často nemajú vyčlenený špecifický úväzok na spravovanie sociálnych sietí. Je to jedna z mnohých úloh v rámci niekoho úväzku a tomu zodpovedá aj množstvo času, ktoré tomu človek v rámci svojej pracovnej doby venuje. 

ZDROJ: ChatGPT  

ČO SI PREDSTAVIŤ POD POJMOM MANAŽOVANIE DISKUSIE?  

Manažovanie alebo moderovanie diskusií je komplexná téma a komunitní manažéri či manažérky nemajú za úlohu sledovať len problematický obsah. Do ich práce spadá aj reagovanie na pozitívne komentáre, konštruktívny nesúhlas či kritiku, odpovedanie na otázky a podobne. Ďalej sa však budeme venovať len tomu, aké sú možnosti reagovania na problematické komentáre (nenávistné, útočné, dezinformačné). 

Medzi základné patria reakcia, skrytie a zmazanie. 

  • Ľudia, ktorí nie sú otvorení tomu, aby akýkoľvek problematický obsah zo sociálnych sietí sťahovali (napríklad tí, ktorí zastávajú absolútnu slobodu slova), majú vždy možnosť v diskusii reagovať na napísaný komentár, či už z hľadiska formy (upozornenie na nevhodný tón/slovník, apelovanie na konštruktívne reakcie a kultivovanú diskusiu) alebo obsahu (reagovanie na pointu napísaného komentáru, poskytnutie faktografickej odpovede na útok/výzvu/otázku). Niekomu sa môže zdať, že je to márny pokus o racionálnu diskusiu s iracionálnym partnerom. Tri možné odpovede. 1) Nie každý, kto sa prejavuje vulgárne či nenávistne, je nutne iracionálny alebo radikálny. 2) Ľudia dokážu meniť svoje názory a šance sú určite vyššie, keď s nimi diskutujeme, než keď ich odpíšeme. 3) Odpoveď nepíšete len konkrétnemu človeku, ale prečítajú si ju aj mnohí iní. Na sociálnych sieťach tvorí obsah len zlomok užívateliek a užívateľov, väčšia časť (no stále minorita) sú diskutujúci a komentujúce...a potom je tam mlčiaca majorita, ktorá obsah konzumuje, no sama necíti potrebu zapájať sa. Odpoveď píšete im všetkým.  

  • Obsah, pri ktorom nechcete, aby sa zobrazoval ostatným náhodným čitateľkám a čitateľom, máte možnosť skryť. To sú situácie, ktoré iste mnohí sami zažili, kedy je pod príspevkom napísané, že v diskusii sa nachádza 28 komentárov, no keď si ich človek rozklikne a začne čítať, zrazu vidí len 15. Skryté komentáre ostávajú naďalej viditeľné ľuďom, ktorí ich napísali a ich priateľom a priateľkám.  

  • Radikálnejším krokom od skrývania je zmazanie komentára. Takýto komentár celkom zmizne zo sociálnej siete. 

Ak komentár človek vyhodnotí ako problematický, má tiež možnosť nahlásiť ho. Pokiaľ sa nájde profil, ktorý porušuje pravidlá opakovane alebo sú jasné indikácie, že ide o falošný profil, existuje možnosť zablokovať mu prístup na stránku aprofil nahlásiť. Niektoré zo zmienených krokov by mali byť ideálne previazané – ak si napríklad myslím, že nejaký komentár je natoľko problematický, že ho chcem stiahnuť z diskusie, mal/a by som ho rovno aj nahlásiť. V prípade, že nejaký užívateľ či užívateľka prekračuje hranice do takej miery, že sa rozhodnem pre zablokovanie prístupu k môjmu účtu, rovnako by bolo dobré pristúpiť aj k nahláseniu takéhoto človeka.  

 

AKO SA TO DÁ ROBIŤ A AKÉ SÚ ŠPECIFIKÁ JEDNOTLIVÝCH PRÍSTUPOV? 

Nech už si človek zvolí akýkoľvek prístup moderácie, je dobré ho transparentne odkomunikovať. Odporúča sa spísať si set pravidiel diskusie na danom profile (aby bolo jasné, čo sa smie a čo už je za hranicou), nechať ho niekde verejne dostupný a následne konzistentne vyžadovať jeho dodržiavanie (ak je napríklad proti pravidlám vyzývanie k nenávisti, nezáleží na tom, či niekto napíše, že by bolo treba spáchať atentát na človeka, ktorého mám rád/rada alebo na jednotlivca, ktorý podľa mňa pácha hrozné činy a nesúhlasím s ním – ku komentárom by mal byť zaujatý rovnaký prístup).  

Jednou zmožností, ako zaistiť dodržiavanie stanovených pravidiel, je využitie ľudskej moderácie. V tomto prípade diskusie prechádza človek ručne – či už ako jednotlivec alebo v rámci tímu komunitných manažérov a manažérok. Niekedy túto funkciu zastávajú interní ľudia z tímu, inokedy sa najímajú externé sily. Akonáhle sa ale rozprávame o profiloch s väčším počtom komentujúcich, rýchlo narazíme na kapacitné limity. Človek zvládne prejsť len isté množstvo komentárov. Okrem toho je prichádzanie do kontaktu s nepríjemným obsahom psychicky náročné a môže prispieť k (už aj tak vysokej) fluktuácii zamestnancov a zamestnankýň. Každého človeka je treba opakovane školiť, čo je časovo aj finančne náročné. Tento typ moderácie je závislý na ľudskom elemente, ktorý má však rôznorodú kvalitu. Nie je možné vyhnúť sa osobným skresleniam, dokážeme ich len limitovať. 

Ďalšou možnosťou je zapojenie umelej inteligencie (AI)Každá firma funguje trochu inak, no aspoň niečo zo zákulisia si môžeme vysvetliť pomocou príkladu slovenského startupu, ktorý sa venuje moderácii sociálnych sietí s pomocou AI. Firma TrollWall, ktorá v marci 2024 oslávila svoje prvé narodeniny, aktuálne funguje v siedmych krajinách a piatich jazykoch. Nástroj automaticky filtruje toxické komentáre a odkazy na dezinformačné weby nielen v slovenskom, ale aj českom, poľskom, rumunskom a nemeckom jazyku. Za rok fungovania skontroloval viac ako 7 000 000 komentárov, skryl viac ako 1 800 000 problematických reakcií a ochraňuje viac ako 200 profilov. TrollWall monitoruje Facebook, Instagram a YouTube. (6) Ďalšie plány zahŕňajú pridávanie nových jazykov, spoluprácu s ďalšími štátmi alebo rozšírenie pôsobnosti na TikTok 

AI vyvíjajú a učia na každý jazyk zvlášť, nakoľko nadávky, hejt či dezinformácie sú veľmi jazykovo špecifické. Na hejt a vulgarizmy používajú natívnych spíkrov v pozícii anotátoriek a anotátorov. Pri dezinfoweboch sa spoliehajú na externých dodávateľov dát, ktorými sú miestne organizácie s vlastnými metodikami (napr. konspiratori.sk na Slovensku alebo nelez.cz v Česku). S každým ďalším jazykom sa ich proces zefektívňuje. „Na slovenčine sme pracovali možno 9 mesiacov, teraz už vieme spracovať nový jazyk za menej ako 2 mesiace,“ povedal spoluzakladateľ firmy. (7) 

ZDROJ: ChatGPT  

Obsah, ktorý AI vyhodnotí ako problematický, skrýva. Okrem pravidelných updejtov sa model vylepšuje aj skrz spätnú kontrolu toho, ako vyhodnotil jednotlivé komentáre, ktorú robia traja nezávislí ľudia. Konečné rozhodnutie je navyše vždy v rukách správcov a správkyň profilov, ktorí môžu obsah stiahnutý umelou inteligenciou ponechať skrytý, zmazať, ale vrátiť ho späť do oficiálnej diskusie. Medzi hlavné výhody zapojenia AI do moderácie sociálnych sietí patrí 

  • Odbremenenie zamestnancov azamestnankýňManažovanie diskusií na sociálnych sieťach je náročné nielen časovo, ale aj z hľadiska psychiky. V momente, kedy sú vulgarizmy, nenávistné prejavy a dezinfo-odkazy filtrované automaticky, osobám, ktoré spravujú sociálne siete, ostáva čas na budovanie vzťahu s komunitou (odpovedanie na otázky, reagovanie na konštruktívne komentáre, tvorbu ďalšieho obsahu a podobne). 

  • Fungovanie 24/7. Len málo aktérov v regióne monitoruje svoje sociálne siete nepretržite. AI nástroje to však dokážu„Dáta ukazujú, že hoci celkový počet komentátorov kvantitatívne v noci klesá, podiel nenávisti sa percentuálne zvyšuje. Pri analýze slovenského Facebooku dosahovala miera nenávisti medzi jednou a štvrtou hodinou ráno úroveň 20%, kým cez pracovný deň to bolo 13%.“ (8) Okrem toho moderácia diskusií nie je práca, ktorú môže človek robiť 8 hodín denne. V praxi sa ukázalo, že už po 4 hodinách presnosť, alebo počet spracovaných komentárov výrazne klesli. (9)  

  • Okamžitá reakcia. Ďalší z rozdielov oproti ľudskej moderácii je rýchlosť reakcie. AI skryje problematický obsah behom pár sekúnd - tieto odkazy teda vôbec nedostávajú priestor, aby boli videné. „Z psychológie fungovania sociálnych sietí vieme, že veľmi dôležitá je instantnosť. Prvý nenávistný komentár začína špirálu negativity a toxicity, na ktorú sa následne nabaľujú či už ďalší hejteri, alebo aj ľudia, ktorí sú tým zasiahnutí.“ (10) 

  • Konzistencia. Každý z ľudských moderátorov a moderátoriek prináša vlastný pohľad. Ani s detailnými metodikami a dobrým systémom zaškolenia nie je možné dosiahnuť rovnakú mieru konzistentnosti vo vyhodnocovaní obsahu, akú zvládne mať stroj.  

  • Škálovateľnosť. Na rozdiel od ponúk externej ľudskej moderácie, ktorá má obmedzené možnosti, keby vznikla aktuálne potreba mnohých aktérov na zapojenie AI moderácie (napríklad viaceré médiá budú čeliť útokom), nástroje umelej inteligencie sú na to technologicky pripravené a dopyt dokážu pokryť. 

Poslednou formou, ktorú chceme zmieniť, je hybridný model, ktorý využíva kombináciu AI aľudskej moderáciePríkladom slovenskej firmy pracujúcej touto metódou je spoločnosť elv.aiV júni 2023 sa projekt ešte pod menom Elfovia.sk oddelil od agentúry New School Communications ako nezávislý startup elv.aiAktuálne moderuje diskusie na Slovensku a v Česku. Pomáha konkrétne 35 českým a 68 slovenským profilom. Počas svojho pôsobenia skontrolovali cez 19 000 000 komentárov, z ktorých skryli viac ako 3 000 000, pretože obsahovali vulgarizmy, nenávistné prejavy, dezinformácie alebo spam. Taktiež identifikovali viac ako 5 000 falošných profilov.  

"Momentálne sa sústredíme najmä na prispôsobovanie a trénovanie našich modelov AI na rôzne jazyky a integrovanie ďalších platforiem, medzi nimi aj YouTube. V blízkej budúcnosti sa chceme zamerať na viac krajín strednej a východnej Európy, popritom budeme však naďalej pôsobiť aj na Slovensku a v Česku. Slováci a Česi sú na tom s hoaxami a dezinformáciami zle. Práve tu tak vnímame najväčšiu potrebu a zmysel našich služieb,“ uviedol riaditeľ. (11) 

ZDROJ: ChatGPT  

Pre lepšiu predstavu - hybridná moderácia v kontexte elv.ai znamená, že potrebujú jedného človeka na plný úväzok pri 160.000 komentároch mesačne, ktoré si vyžadujú ľudskú moderáciu.  

Ak by sme porovnávali hybridný model s modelom moderácie čisto prostredníctvom AI:  

  • Výhodou je presnejšie vychytanie šedej zóny, na ktorú ešte nie je model dostatočne natrénovanýZo skúsenosti elv.ai vyplýva, že pod profilmi, ktoré spravujú, môže byť bez moderácie level toxicity až na úrovni 25%. V rámci týchto 25% tvoria gro nenávistné prejavy (≈80%), nasledujú dezinformácie (≈8-10%) a zvyšok (≈10-12%) spadá do tzv. šedej zóny. V ich modeli sú automaticky skryté odkazy na dezinformačné weby a dezinformácie, ktoré už boli ich partnerskými organizáciami vyvrátene a tiež nenávistné prejavy, ktorými si je AI istá na 95% a viac. Zvyšok si žiada ľudskú moderáciu – rozhodnutie urobí človek a na schválenie/zamietnutie ho ešte dostane niekto zo seniorného tímu kvôli dvojitej kontrole. Rovnako je to jedna z ciest, ako vychytať falošne pozitívne (skryjem niečo, čo nemalo byť skryté) alebo falošne negatívne (neskryjem niečo, čo malo byť skryté) prípady, ktoré sa vyskytujú pri každom modeli. (12) Treba však dodať, že aj modely, ktoré fungujú bez platených ľudských moderátoriek a moderátorov, chybovosť tiež riešia, hoci inými cestami. Trollwall má napríklad nastavený viacnásobný automatický systém na zachytávanie potenciálne chybných detekcií, v ktorom ide o spojenie spätnej väzby od užívateľov a užívateliek, náhodnej kontroly, kontroly rozhodnutí, kde malo AI nižšiu istotu, ako aj o systematické zachytávanie slov a slovných spojení, ktoré sa dovtedy v datasetoch nevyskytovali. Všetky tieto dáta na týždennej báze anotujú nezávisle aspoň traja ľudia, čím sa AI model adaptuje. Robia to však spätne (model obsah nejako určil - človek sa naň pozrie - možno [už urobené] rozhodnutie zmení), nie preemptívne 

  • Špecifikom je aj možnosť promptnej reakcie na novovzniknuté situácie, na ktoré nie je model natrénovaný. Problémy vznikajúce v reálnom čase, ktoré cez model naučený na datasete neobsahujúcom nové veci prepadávajú, dokážu zachytávať ľudia. Zároveň tým hneď vytvárajú testovací dataset, na ktorom sa dá model rýchlo natrénovať. (13) Rizikom tohto prístupu je, že rozhodnutie robí malé množstvo ľudí a pod časovým tlakom.  

  • Nevýhodou môžu byť väčšie náklady. Ľudská moderácia si vyžaduje nájdenie, zaškolenie a zamestnávanie komunitných manažérov a manažérok. Spolupráca s ľuďmi ovládajúcimi každý zo zapojených jazykov je rovnako nutná dlhodobejšie a vo väčšom objeme, než len pri natrénovaní AI na nový jazyk a pravidelných updejtoch. Rovnako ostáva nevýhoda negatívnych dopadov na ľudí, ktorí túto prácu vykonávajú. Neustále prichádzanie do kontaktu s toxickým obsahom sa odráža na ľudskej psychike. Oproti moderácii čisto prostredníctvom AI chýba aj instantnosť reakcie – ľudské moderátorky a moderátori vedia garantovať odpoveď v rádoch minút/hodín. 

V porovnaní s čistou ľudskou moderáciou platia niektoré z výhod, ktoré boli zmienené vyššie (odbremenenie ľudí, konzistentnosť, schopnosť zvládnuť väčší objem práce).  

 

AKO SI VYBRAŤ? 

Voľba vhodnej metódy moderácie sociálnych sietí závisí od mnohých faktorov. Je treba zvážiť napríklad objem práce, povahu obsahu, potrebu rýchlosti zásahu, náklady, premyslieť si právne a etické aspekty... Nie je však podstatné, ktorú formu moderácie si aký aktér zvolí. Dôležité je, aby si jednotlivé profily na sociálnych sieťach uvedomovali svoju spoločenskú zodpovednosť a že staraním sa o diskusiu na vlastných sieťach môžeme spoločne tvoriť prostredie, ktoré je menej toxické a polarizované, v ktorom nie je toľko dezinformácií, kde ľudia neváhajú vyjadriť svoje slušné a konštruktívne postrehy a kde sa týmto všetkým presadzuje kultivovaná diskusia ako štandard, nie vzácnosť či nedosiahnuteľný ideál.  


--------------------------------------------------------------------------------------

ZDROJE

1) #BEZHEJTU. Analýza hejtu na slovenskom Facebooku [online]. Dostupné 4.4.2024 na https://lnk.sk/ihw0

2) #BEZHEJTU. Analýza hejtu na slovenskom Facebooku #2 [online]. Dostupné 4.4.2024 na https://lnk.sk/suaj 

3) #BEZHEJTU. Analýza hejtu na slovenskom Facebooku #2 [online]. Dostupné 4.4.2024 na https://lnk.sk/suaj 

4) #BEZHEJTU. O nás [online]. Dostupné 4.4.2024 na https://bezhejtu.sk/about 

5) Rozhovor s Tomášom Halászom (CEO TrollWall) zo 4.3.2024.

6) FACEBOOK. TrollWall [online]. Dostupné 4.4.2024 na https://lnk.sk/bqf7

7) Rozhovor s Tomášom Halászom (CEO TrollWall) zo 4.3.2024.

8) Rozhovor s Tomášom Halászom (CEO TrollWall) zo 4.3.2024.

9) Rozhovor s Jakubom Šusterom (CEO elv.ai) z 3.4.2024.

10) Rozhovor s Tomášom Halászom (CEO TrollWall) zo 4.3.2024.

11) Rozhovor s Jakubom Šusterom (CEO elv.ai) z 3.4.2024.

12) Rozhovor s Jakubom Šusterom (CEO elv.ai) z 3.4.2024.

13) Rozhovor s Jakubom Šusterom (CEO elv.ai) z 3.4.2024.


    • Komunity
    • Hodnotové konflikty
    • Európa

  • Môže sa vám ozvať naša Monika?

    Ak chcete mať čerstvé informácie o našich lunchseminároch, otvorených kurzoch, konferenciách, či vzdelávacích olovrantoch, nechajte nám na vás kontakt. Sľubujeme, že vás nebudeme otravovať :).

    Prihlásiť sa na odber noviniek
  • Monika Straková - Riaditeľka kancelárie

    Monika Straková

    Riaditeľka kancelárie


    / +421 2 5292 5016