Astăzi oricine are șansa de a-și face cunoscute public ideile și convingerile; afirmația este deja un truism. Tehnologia a înlăturat multe dintre barierele în comunicare – spre exemplu, în cazul unor mesaje scurte și punctuale cum sunt postările pe social media, costurile pot fi considerate practic nule atât pentru creatorii lor, cât și pentru cititori. Chiar și pentru materiale mai ample, costurile de a le realiza și distribui vor fi mult mai mici decât dacă ar avea format fizic. La rândul său, publicul potențial este mult mai extins și poate accesa mai rapid o cantitate mai mare de informații decât oricând altcândva.
Nu este un secret pentru nimeni nici faptul că tehnologia, alături de evidentele avantaje, a atras și consecințe negative. Fără a avea pretenția unei liste exhaustive, menționăm răspândirea știrilor false, a conținutului care îndeamnă la gesturi periculoase sau violente, a mesajelor manipulatoare, precum și efectul camerei de ecou – amplificate uneori artificial, de algoritmii platformelor online sau de entități cointeresate.
O parte dintre materiale, cele cu caracter evident ilegal, sunt rapid eliminate din social media cu ajutorul algoritmilor care detectează conținutul periculos, însă nu orice tip de mesaj cu potențial negativ este pasibil a fi îndepărtat. Dilema cu privire la limitele în care conținutul controversat poate fi publicat nu este nouă. Lejeritatea cu care poate fi creat și accesat a dat, însă, o nouă dimensiune discuției. A intrat în uz un nou termen pentru a desemna astfel de materiale: conținut borderline.
Ce este conținutul borderline și de ce este periculos?
Nu regăsim o definiție universal acceptată a conținutului borderline (literalmente, „la graniță” sau „la limită”). Generic vorbind, în mediile academice conținutul borderline este considerat nepotrivit a fi exprimat sau distribuit în public (definiție vagă și inexactă, lăsând loc de interpretare). Pentru platformele de social media, este conținutul care se apropie de limitele impuse de proprii termeni și condiții, fără a le depăși. Pentru a aduce termenul mai aproape de concret, instituțiile europene au trasat propriile direcții de definire a materialelor borderline, făcând referire în mod explicit la impactul negativ pe care îl pot avea asupra societății. Astfel, într-o descriere cât mai cuprinzătoare, conținutul borderline promovează narațiunile curentelor extremiste, incită la acte de violență sau are un efect polarizator asupra societății în ansamblul său. Un joc de cuvinte concis și de impact, des folosit pentru a-l descrie, este lawful but awful.
Printre tematicile cel mai des întâlnite se regăsesc: discursul instigator la ură; stereotipurile negative și dezumanizarea uneia sau mai multor categorii; simbolurile asociate cu grupurile extremiste; conținutul explicit violent; materiale care descriu tactici de utilizare a armamentului; retorica populistă; discursurile anti-autorități și anti-UE.
Dintr-o altă perspectivă, conținutul borderline se împarte în funcție de ușurința cu care poate fi recepționat mesajul. Unele materiale transmit explicit ceea ce vor să spună și pot fi înțelese rapid, fără foarte mult context sau explicații. În alte situații, mesajele sunt codate și pot fi descifrate doar de către cunoscători. Iată câteva exemple alese aleatoriu: emoji-ul „caracatiță” este utilizat ca prescurtare pentru teoria conspirației potrivit căreia evreii ar controla lumea, iar combinația de emoji-uri pompă de benzină (gas în engleză) și săpun face aluzie la Holocaust; pinul este simbolul folosit de ecofasciști pentru a se autodefini; iar două bile de biliard „8” semnifică „88”, cu trimitere la „HH”, adică „Heil Hitler”. Pe de-o parte, astfel de mesaje sunt aparent benigne, apelând la simboluri (imagini, emoji-uri, abrevieri) care, scoase din context, nu au vreo semnificație aparte, răuvoitoare sau instigatoare. Prin urmare, există o șansă mai mare să nu fie recunoscute de moderatorii platformelor online – în special dat fiind că simbolistica poate evolua rapid.
Mai mult decât atât, existența unui limbaj comun codat, accesibil doar inițiaților, contribuie la crearea sentimentului de coeziune a grupului și a identității colective. Membrii se simt nu doar mai strâns legați unul de altul, ci posibil și superiori față de necunoscători, de cei din afară. Abordarea pare – și este – juvenilă, ceea ce nu e surprinzător. În definitiv, majoritatea celor care apelează la astfel de tactici sunt tineri (uneori minori) – aspect asupra căruia nu vom intra în detaliu, excedând scopurilor propuse în articolul de față. Inés Bolaños Somoano, cercetătoare în cadrul European University Institute din Florența, atrage atenția asupra faptului că utilizarea meme-urilor în diseminarea narațiunilor extremiste poate spori acceptabilitatea ideologiilor respective (folosind umorul pentru a masca ura și intoleranța).
Provocări practice
În situații conexe terorismului, Regulamentul (UE) 2021/784 privind prevenirea diseminării conținutului online cu caracter terorist stabilește reguli pentru eliminarea materialelor diseminate online. Dar în acest caz, vorbim despre o încălcare explicită a legii, nu despre materiale la limita ei.
O soluție propusă pentru cazurile borderline se referă la de-amplificare (eliminarea din algoritmii de regăsire și recomandări, restricționarea posibilității de diseminare), menită să reducă vizibilitatea, fără a șterge efectiv conținutul de pe platformă. Măsurile trebuie să fie atât necesare, cât și proporționale, și să urmărească un obiectiv legitim, cum ar fi prevenirea unor acte violente sau asigurarea securității naționale. Rămân însă unele probleme practice. Conținutul ar fi mai puțin vizibil, dar poate fi accesat în continuare astfel că există șansa ca indivizi vulnerabili la narațiuni extremiste să îl acceseze, întărindu-și convingerile. De asemenea, unele mesaje sunt dificil de sesizat și încadrat în categoria borderline (v. exemplele de mai sus).
Prin urmare, este necesară dezvoltarea unor soluții alternative și complementare – configurarea unor unelte de educație a publicului pentru recunoașterea conținutului cu intenții provocatoare, polarizatoare și radicalizatoare este nu doar oportună, ci ar aduce efecte pozitive succesive, cumulativ amplificate. Practic, este vorba despre crearea unor strategii de reziliență și în special a unei educații în favoarea gândirii critice, implicând un efort concertat care să implice societatea ca întreg, dar și fiecare persoană, căreia îi revine responsabilitatea totală a propriilor acțiuni.
Abstract
This article explores what borderline content is and the way it may be used to spread propaganda and disinformation online, contributing to radicalization and social polarization. In the second part, we try to sketch some solutions that might limit the influence of malicious messages.
Autor: Simona Barbu-Niculescu
