Ce urmăresc moderatorii de conținut care atacă Facebook?

Conform propriilor sale estimări, Trevin Brownie a văzut mai mult de 1.000 de persoane decapitate.

În munca sa, el a trebuit să urmărească un nou videoclip pe Facebook aproximativ la fiecare 55 secunde, spune el, eliminând și clasificând conținutul cel mai dăunător și grafic. În prima sa zi, el își amintește că a vomitat de repulsie după ce a vizionat un videoclip cu un bărbat care se sinucide în fața copilului său de trei ani.

După aceea, lucrurile s-au înrăutățit. „Primești pornografie infantilă, primești bestialitate, necrofilie, vătămare împotriva oamenilor, vătămare împotriva animalelor, violuri”, spune el, cu vocea tremurândă. „Nu vezi asta pe Facebook ca utilizator. Este treaba mea ca moderator să mă asigur că nu vezi așa ceva”.

După un timp, spune el, ororile neîncetate încep să îl afecteze pe moderator în moduri neașteptate. „Ajungi la un punct, după ce ai văzut 100 de decapitări, când chiar începi să speri ca următoarea să fie mai macabră. Este un fel de dependență”.

Brownie este unul dintre cele câteva sute de tineri, majoritatea în vârstă de 20 de ani, care au fost recrutați de Sama, o companie de externalizare cu sediul în San Francisco, pentru a lucra în centrul său din Nairobi, moderând conținutul Facebook.

Sud-african, el face acum parte dintr-un grup de 184 de petiționari într-un proces împotriva Sama și a proprietarului Facebook, Meta, pentru presupuse încălcări ale drepturilor omului și reziliere abuzivă a contractelor.

Cazul este unul dintre cele mai mari de acest gen din lume, dar unul dintre cele trei procese intentate împotriva Meta în Kenya. Împreună, acestea au implicații potențial globale pentru condițiile de angajare a unei armate ascunse de zeci de mii de moderatori angajați pentru a filtra cele mai toxice materiale de pe rețelele de socializare din lume, spun avocații.

În 2020, Facebook a plătit 52 de milioane de dolari pentru a soluționa un proces și a oferi tratament de sănătate mintală pentru moderatorii de conținut americani. Alte cazuri intentate de moderatori din Irlanda au cerut despăgubiri pentru presupuse tulburări de stres post-traumatic.

Mercy Mutemi și colegii avocați urmăresc procedurile în timpul unei consultări virtuale înainte de proces luna trecută. În cazul în care procesul moderatorilor kenyeni împotriva Meta va avea succes, ar putea schimba condițiile de lucru în mult mai multe locuri © Tony Karumba/AFP/Getty Images

Dar cazurile din Kenya sunt primele intentate în afara SUA care încearcă să schimbe prin proceduri judiciare modul în care sunt tratați moderatorii de conținut de pe Facebook. În cazul în care vor avea succes, acestea ar putea duce la multe altele în locurile în care Meta și alți furnizori de social media filtrează conținutul prin intermediul unor furnizori terți, îmbunătățind potențial condițiile pentru mii de lucrători plătiți comparativ puțin pentru a se expune la ce este mai rău în materie de umanitate.

La fel cum munca pe podelele fabricilor sau inhalarea prafului de cărbune a distrus corpurile muncitorilor din epoca industrială, spun avocații moderatorilor, la fel și cei care lucrează în atelierul digital al social media riscă să le fie distruse mințile.

„Acestea sunt probleme de primă linie pentru drepturile de muncă ale acestei generații”, spune Neema Mutemi, lector la Universitatea din Nairobi, care ajută la mediatizarea cazului. Solicitat să răspundă la acuzații, Meta a declarat că nu comentează litigiile în curs de desfășurare.

Prejudicii online

În ultimii ani, Meta a fost supusă unor presiuni tot mai mari pentru a modera vitriolul și dezinformarea pe platformele sale, care includ Facebook, WhatsApp și Instagram.

În Myanmar, s-a confruntat cu acuzații potrivit cărora algoritmii săi au amplificat discursul instigator la ură și că nu a reușit să elimine postările care incitau la violență împotriva minorității Rohingya, dintre care mii de persoane au fost ucise și sute de mii au fugit în Bangladesh.

În India, experții au afirmat că nu a reușit să elimine dezinformarea și incitarea la violență, ceea ce a dus la revolte în această țară, cea mai mare piață a sa.

În 2021, denunțătorul Frances Haugen a divulgat mii de documente interne care dezvăluiau abordarea companiei în ceea ce privește protejarea utilizatorilor săi și a declarat în Senatul SUA că societatea a acordat prioritate „profitului în detrimentul siguranței”.

Meta a eșuat în special în filtrarea conținutului divizoriu și în protejarea utilizatorilor din țările non-occidentale, cum ar fi Etiopia, Afganistan și Libia, au arătat documentele, chiar și atunci când propriile cercetări ale Facebook le-au marcat „risc ridicat” din cauza peisajului politic fragil și a frecvenței discursurilor de ură.

Fostul angajat al Facebook și denunțător Frances Haugen a declarat în fața Senatului american în 2021 că firma a acordat prioritate „profitului în detrimentul siguranței” © Drew Angerer/Pool/Reuters

În ultimii ani, Meta a investit miliarde de dolari pentru a aborda daunele din aplicațiile sale, recrutând aproximativ 40.000 de persoane pentru a lucra în domeniul siguranței și securității, multe dintre acestea fiind contractate prin intermediul unor grupuri terțe de externalizare, precum Accenture, Cognizant și Covalen.

Se estimează că 15.000 sunt moderatori de conținut. În afara SUA, Meta lucrează cu companii din peste 20 de locații din întreaga lume, inclusiv India, Filipine, Irlanda și Polonia, care acum ajută la cernerea conținutului în mai multe limbi străine.

În 2019, Meta a solicitat ca Sama – care lucra în Nairobi de mai mulți ani la etichetarea datelor pentru a antrena software-ul de inteligență artificială pentru clienți, inclusiv Meta și Tesla – să preia activitatea de moderare a conținutului. Aceasta ar face parte dintr-un nou hub african, care să se concentreze pe filtrarea conținutului în limbi africane.

Sama spune că nu a mai făcut niciodată acest tip de muncă până acum. Dar echipa sa de la fața locului a sprijinit preluarea acestei sarcini, care altfel ar fi putut fi trimisă în Filipine, dintr-un sentiment de responsabilitate de a aduce expertiză culturală și lingvistică pentru moderarea conținutului african. Aceasta a început să angajeze persoane din țări precum Burundi, Etiopia, Kenya, Somalia, Africa de Sud și Uganda pentru a veni să lucreze la sediul său din Nairobi.

Avea să se dovedească a fi o greșeală. La patru ani după ce a început moderarea de conținut, Sama a decis să iasă din afacere, punând capăt contractului cu Facebook și concediind o parte dintre managerii care au supravegheat noua activitate.

Brownie, care fusese recrutat în 2019 în Africa de Sud pentru a lucra la hub-ul din Nairobi, s-a numărat printre cei care au primit preavizul în luna ianuarie a acestui an, când Sama le-a spus angajaților săi că nu va mai modera conținutul Facebook.

„Este o muncă importantă, dar cred că devine destul de, destul de provocatoare”, a declarat Wendy Gonzalez, directorul executiv al Sama, pentru FT, adăugând că moderarea conținutului a reprezentat vreodată doar 2% din activitatea Sama. „Am ales să ieșim din această activitate ca întreg”.

Mulți dintre moderatorii care lucrează în Kenya spun că munca lor îi lasă marcați psihologic, chinuiți de flashback-uri și incapabili să mențină relații sociale normale.

„Odată ce ai văzut, nu mai poți să nu vezi. Mulți dintre noi acum, nu putem dormi”, spune Kauna Ibrahim Malgwi, un nigerian absolvent de psihologie care a început la hub-ul Sama din Nairobi în 2019 și a moderat conținut în limba hausa, vorbită în toată Africa de Vest. Acum ia antidepresive, spune ea.

Cori Crider, director la Foxglove, o firmă juridică non-profit cu sediul la Londra care sprijină foștii moderatori Sama cu cazul lor, spune că moderatorii primesc o protecție total inadecvată împotriva stresului mental.

Moderatorii din Nairobi au votat luna aceasta pentru a forma un sindicat – ceea ce avocatul lor, Mercy Mutemi, spune că este primul de acest fel din lume © Favier/Foxglove

„Polițiștii care investighează cazurile de imagistică a abuzurilor asupra copiilor au o armată de psihiatri și limite stricte în ceea ce privește cantitatea de materiale pe care le pot vedea”, spune ea. Dar consilierii angajați de Sama în numele lui Meta „nu sunt calificați să diagnosticheze sau să trateze tulburările de stres post-traumatic”, susține ea. „Acești antrenori îți spun să faci respirație profundă și să pictezi cu degetele. Ei nu sunt profesioniști”.

Sama spune că toți consilierii pe care i-a angajat aveau calificări profesionale kenyene.

Meta a susținut că instanțele din Kenya nu aveau jurisdicție în acest caz. Dar, la 20 aprilie, în ceea ce moderatorii și avocații lor au considerat o victorie majoră, un judecător kenyan a decis că Meta poate fi într-adevăr dat în judecată în această țară. Meta a făcut apel.

„Dacă Shell a venit și a aruncat lucruri în largul coastei kenyene, ar fi foarte evident dacă Kenya are sau nu jurisdicție”, spune Mercy Mutemi, avocat kenyan la Nzili and Sumbi Advocates, care îi reprezintă pe moderatori. „Acesta nu este un lucru fizic, tangibil. Este vorba de tehnologie. Dar argumentul este același. Ei au venit aici pentru a face rău”.

Condițiile de muncă

Cazul celor 184 de moderatori este unul dintre cele trei procese intentate în numele moderatorilor de conținut de către firma de avocatură a lui Mutemi, cu sprijinul Foxglove.

Prima a fost depusă anul trecut în numele lui Daniel Motaung, un moderator sud-african care lucrează în Nairobi, atât împotriva lui Sama, cât și a lui Meta. Și în acest caz, un judecător kenyan separat a respins afirmația lui Meta că instanțele kenyene nu aveau jurisdicție.

Motaung susține că a fost concediat pe nedrept după ce a încercat să formeze un sindicat pentru a face presiuni în vederea obținerii unor salarii și condiții de muncă mai bune. El susține, de asemenea, că a fost ademenit la locul de muncă sub pretexte false, fără să știe exact ce presupune acest lucru.

Sama contestă aceste afirmații, spunând că moderatorii de conținut au fost familiarizați cu postul în timpul procesului de angajare și de formare și că Motaung a fost concediat pentru că a încălcat codul de conduită al companiei. „În ceea ce privește formarea sindicatului, avem politici în vigoare pentru libertatea de asociere”, spune Gonzalez. „Dacă se forma un sindicat, asta nu este o problemă”.

Moderatorii de conținut recrutați din afara Kenyei au fost plătiți cu aproximativ Ks60.000 pe lună, inclusiv o indemnizație de expat, echivalentul a aproximativ 564 de dolari la cursul de schimb din 2020.

Daniel Motaung, un moderator sud-african care lucrează în Nairobi, a intentat un proces împotriva Sama și Meta, susținând că a fost concediat pentru că a încercat să formeze un sindicat © Favier/Foxglove

Moderatorii lucrau de obicei în ture de nouă ore, cu o pauză de o oră, două săptămâni în timpul zilei și două săptămâni în timpul nopții. După impozitare, primeau un salariu orar de aproximativ 2,20 dolari.

Sama spune că aceste salarii erau de câteva ori mai mari decât salariul minim și echivalente cu salariul primit de paramedicii kenyeni sau de profesorii cu studii superioare. „Acestea sunt salarii semnificative”, spune Gonzalez.

Datele sugerează că salariile pentru lucrătorii expatriați sunt de puțin peste patru ori mai mari decât salariul minim din Kenya, dar Crider de la Foxglove spune că nu este impresionată: „2,20 dolari pe oră pentru a te supune la filmări repetate de crime, tortură și abuzuri asupra copiilor? Este o nimica toată”.

Haugen, denunțătorul de pe Facebook, a declarat că lupta lui Motaung pentru drepturile muncitorilor a fost echivalentul din era digitală al luptelor anterioare. „Oamenii care se luptă unii pentru alții este motivul pentru care avem săptămâna de lucru de 40 de ore”, a spus ea, vorbind la un eveniment alături de Motaung la Londra anul trecut. „Trebuie să extindem această solidaritate pe noul front, pe lucruri precum fabricile de moderare a conținutului.”

Luna aceasta, moderatorii din Nairobi au votat pentru a forma ceea ce avocații lor spun că este primul sindicat al moderatorilor de conținut din lume. Motaung a numit rezoluția „un moment istoric”.

Ultimul dintre cele trei cazuri judecate în Kenya nu se referă la dreptul muncii, ci la presupusele consecințe ale materialelor postate pe Facebook. Aceasta susține că eșecul Facebook de a trata discursul instigator la ură și incitarea la violență a alimentat violențele etnice în războiul civil de doi ani din Etiopia, care s-a încheiat în noiembrie.

Crider spune că cele trei cazuri sunt legate între ele deoarece tratamentul deficitar al moderatorilor de conținut are ca rezultat direct faptul că conținutul nesigur este lăsat să se răspândească fără control de către platformele Meta.

Abrham Meareg, fiul unui academician etiopian împușcat mortal după ce a fost atacat în postări pe Facebook, a intentat un proces împotriva Meta pentru presupusa incapacitate de a gestiona discursul instigator la ură © Foxglove

Unul dintre cei doi reclamanți, cercetătorul Abrham Meareg, susține că tatăl său, un profesor de chimie, a fost ucis în regiunea Amhara din Etiopia în octombrie 2021, după ce o postare pe Facebook i-a dezvăluit adresa și a cerut uciderea sa. Abrham spune că a cerut de mai multe ori Facebook să elimine conținutul, fără succes.

Sama a angajat în jur de 25 de persoane pentru a modera conținutul din Etiopia în trei limbi – amharică, tigrinya și oromo – în perioada unui conflict care a stârnit animozități etnice și care ar fi putut face până la 600.000 de victime.

Avocații cer crearea unui fond de 1,6 miliarde de dolari pentru victime și condiții mai bune pentru viitorii moderatori de conținut. În mod crucial, ei cer, de asemenea, modificări ale algoritmului Facebook pentru a preveni ca acest lucru să se mai întâmple în viitor.

Avocații spun că, pentru a concura cu alte platforme, Facebook maximizează în mod deliberat implicarea utilizatorilor pentru profit, ceea ce poate ajuta conținutul nesigur sau periculos să devină viral.

„Abrham nu este un caz izolat sau singular”, spune Rosa Curling, director la Foxglove. „Există exemple nesfârșite de lucruri care au fost publicate pe Facebook, (apeluri pentru ca oamenii) să fie uciși. Și apoi, de fapt, asta se întâmplă”.

Curling spune că calitatea moderării Facebook în hub-ul din Nairobi este afectată de practicile de lucru care sunt acum contestate în instanță.

Gonzalez de la Sama recunoaște că reglementarea moderării conținutului este deficitară, spunând că această problemă ar trebui să fie „prioritară” pentru șefii companiilor de social media. „Aceste platforme, și nu doar aceasta (Facebook) în special, ci și altele, sunt într-un fel în sălbăticie”, spune ea. „Trebuie să existe verificări, echilibre și protecții puse în aplicare”.

Soldați etiopieni captivi trec pe lângă mulțimea care aplaudă în Mekele, capitala regiunii Tigray, în 2021. Un tribunal din Kenya a fost informat că materialele postate pe Facebook au alimentat violențele etnice în timpul războiului civil de doi ani din Etiopia © Yasuyoshi Chiba/AFP/Getty Images

În timp ce Meta contractează zeci de mii de moderatori umani, investește deja masiv în înlocuirea acestora: un software de inteligență artificială care poate filtra dezinformarea, discursul instigator la ură și alte forme de conținut toxic pe platformele sale. În cel mai recent trimestru, a declarat că 98% din „conținutul violent și grafic” retras a fost detectat cu ajutorul inteligenței artificiale.

Cu toate acestea, criticii subliniază că volumul copleșitor de conținut dăunător care rămâne online în locuri precum Etiopia este o dovadă că software-ul de inteligență artificială nu poate încă să capteze nuanțele necesare pentru a modera imaginile și discursul uman.

„Nu este o muncă normală

Pe lângă faptul că ar putea crea un precedent juridic, cazurile din Kenya oferă o perspectivă rară asupra vieții profesionale a moderatorilor de conținut, care în mod normal muncesc în anonimat.

Acordurile de confidențialitate pe care sunt obligați să le semneze, de obicei la îndemnul unor contractori precum Sama, le interzic să împărtășească detalii despre munca lor chiar și cu familiile lor. Gonzalez spune că acest lucru este pentru a proteja datele sensibile ale clienților.

Frank Mugisha, un fost angajat al Sama din Uganda, are o altă explicație. „Nu am avut niciodată șansa de a-mi împărtăși povestea cu nimeni, pentru că am fost mereu ținut ca un secret murdar”, spune el.

În urma pierderii locurilor lor de muncă, angajații Sama din afara Kenyei se confruntă acum cu posibilitatea expulzării din țară, deși un tribunal a emis un ordin provizoriu care împiedică Meta și Sama să rezilieze contractele moderatorilor până când se va judeca legalitatea concedierii lor.

Cu toate acestea, mai mulți foști angajați ai Sama nu au fost plătiți din aprilie, când compania și-a reziliat contractul cu Meta, și riscă să fie evacuați pentru neplata chiriei.

Toți moderatorii de conținut care au vorbit cu FT au semnat acorduri de confidențialitate. Dar avocații lor au declarat că acestea nu îi împiedică să discute despre condițiile lor de muncă.

Poliția kenyană de revoltă monitorizează o demonstrație a moderatorilor de conținut Facebook, implicați într-un caz de concediere, în fața birourilor Sama din Nairobi la începutul acestei luni © Daniel Irungu/EPA-EFE

Moderatorii dintr-o serie de țări din Africa au fost consecvenți în criticile lor. Cu toții au declarat că au acceptat postul fără a fi informați în mod corespunzător cu privire la ceea ce implică acesta. Toți s-au plâns de presiunea constantă din partea managerilor de a lucra în viteză, cu cerința de a trata fiecare „bilet”, sau element, în 50 sau 55 de secunde.

Meta a declarat că nu impune cote pentru revizorii de conținut și a precizat că aceștia „nu sunt presați să ia decizii pripite”, deși a spus că „eficiența și eficacitatea” sunt factori importanți în această muncă.

Malgwi, absolventul nigerian de psihologie, este disprețuitor față de ceea ce moderatorii susțin că este o încercare a Facebook de a păstra distanța prin utilizarea unor companii terțe precum Sama. „Ne conectăm în fiecare dimineață la platforma Meta”, spune ea. „Vedeți: ‘Bine ați venit. Vă mulțumim că protejați comunitatea Meta'”.

Fasica Gebrekidan, un moderator etiopian care a studiat jurnalismul la universitatea din Mekelle, a obținut un loc de muncă la Sama la scurt timp după ce a fugit din războiul civil din Etiopia în 2021. După ce a aflat că va lucra indirect pentru Meta, ea s-a gândit „poate că sunt cea mai norocoasă fată din lume”, spune ea. „Nu mă așteptam la cadavre dezmembrate în fiecare zi în urma atacurilor cu drone”, adaugă ea.

Până acum, Gebrekidan nu a vorbit cu nimeni, ascunzând natura muncii sale chiar și de mama ei. „Știu că ceea ce fac nu este o muncă normală”, spune ea. „Dar mă consider un erou pentru că filtrez toate aceste lucruri toxice și negative”.

Sursa – www.ft.com

Parteneri

Articole recomandate din rețeaua noastră

GetPonyMașinile pot fi furate fără cheia proprietarului. Ce verificări și protecții recomandă un expert în securitateBravonetProcurorii au dispus control judiciar pentru Toma Cuzin după accidentul produs cu permisul suspendatLylaPacienților cu cancer li se vând promisiuni de vindecare. Proiectul de norme lasă reclamele nereglementateRevista IoanaTe muți la țară? Lemnele de la Romsilva pornesc de la 200 lei pe metru cub, la locul recoltăriiNews24Yara J ar fi fost atacată cu o dronă lângă Sulina. Cei 17 marinari au fost salvațiDolce SportLisandro Martinez reproșează șefilor lui Manchester United transferurile după 0-2 cu Atlético Madrid