Din punct de vedere informațional, la nivel mondial, ultimul deceniu a fost marcat de extinderea excesivă a fenomenului fake news, realizată prin intermediul unor factori de propagare răspândiți pe teritoriul tuturor statelor vizate. Fake news a devenit, astfel, una dintre principalele unelte utilizate de diverse entități statale sau non-statale pentru realizarea operațiunilor de propagandă, dezinformare și, implicit, manipulare a maselor. De asemenea, având în vedere tranziția continuă a activităților cotidiene către mediul online și cantitatea extrem de ridicată de date care circulă în cadrul platformelor din spațiul online, notorietatea știrilor false atinge deseori un nivel ridicat, aspect generat de ușurința cu care acestea pot fi accesate voluntar sau involuntar de către utilizatori.
Inteligenţa artificială, armă ofensivă
Concomitent, poate fi observată o conexiune formată pe parcursul ultimului deceniu între domeniului Inteligenței Artificiale (IA) și metodele de propagare a știrilor false din mediul online. În acest sens, au fost identificate multiple campanii de distribuire a știrilor false derulate prin tehnologiile bazate pe IA, acestea fiind create și configurate pentru a interacţiona cu utilizatori ai platformelor de socializare vizate. Rolul IA în propagarea fake news este important atât pentru coordonarea rețelelor de boți utilizate pentru distribuirea articolelor cu conținut fals, cât și pentru adaptarea acelorași articole în funcție de publicul țintă. De asemenea, tehnologiile pe bază de IA pot influenţa psihologic nivelul de încredere acordat unei surse informaționale, creând aparența unei interacțiuni cu utilizatori ai platformelor, exprimată printr-un număr ridicat de „aprecieri virtuale” a conținutului postat de aceștia.
Cu toate acestea, implicarea IA și în acest tip de operațiuni de propagandă nu este în totalitate surprinzătoare, având în vedere că dezvoltarea IA în majoritatea domeniilor de activitate a devenit o prioritate pentru statele producătoare de tehnologii IT&C. Scopul final al producătorilor este acela de a crea soluții tehnologice capabile să înlocuiască componenta umană dintr-o serie de procese și activități, crescând, totodată, eficiența în îndeplinirea sarcinilor. Mai mult decât atât, empiric, a fost remarcată o tendință de perfecționare a metodelor de acțiune ale unor actori cibernetici ofensivi prin includerea tehnologiilor pe bază de IA.
Practic, pe parcursul timpului, au fost descoperite diverse soluții tehnice pe bază de IA ce pot fi utilizate în cadrul unor campanii cibernetice de spear phishing, în vederea creșterii veridicității e-mail-urilor cu conținut malware transmise de entități ofensive din spațiul cibernetic. Tendința de implicarea a IA în campaniile cibernetice a apărut pe fondul dificultăților generate de crearea unor mesaje care să fie utilizate în atacurile de tip spear phsihing. Spre exemplu, pentru scrierea unor astfel de e-mailuri este necesară o investiție semnificativă de timp, în special pentru colectarea unui pachet de date personale referitoare la preferințe digitale ale viitorului receptor al e-mailului. Aceste date măresc șansele ca receptorul să accesese conținutul e-mailului și, implicit, să ofere atacatorului acces neautorizat în cadrul sistemului. De asemenea, mesajul trebuie redactat cu un grad mare de acuratețe, într-o limbă care nu este întotdeauna familiară atacatorului, deoarece eventuale greșeli de scriere pot ridica suspiciuni destinatarului, diminuând șansele de materializare ale atacului cibernetic. Aceste dificultăți întâmpinate în realizarea unor campanii cibernetice pot fi argumentele care susţin interesul actorilor cibernetici ofensivi din mediul virtual pentru tehnologiile IA.
Alianţa defensivă
Pe de altă parte, în afară de stimularea propagării produselor de tip fake news, creșterea prezenței IA poate contribui la susținerea eforturilor de combatere a aceluiași fenomen. Astfel, în procesele de filtrare şi eliminare a știrilor false sunt folosite tehnologii de analiză Big Data bazate pe inteligenţa artificială, capabile să parcurgă și analizeze un număr mare de articole publicate în mediul online. De asemenea, tehnologiile pot identifica posibile orientări propagandiste, pe baza unor elemente de comparație specifice IA, care altfel ar fi putut fi omise de către analistul uman, având în vedere cantitatea enormă de articole incluse în proces.
Având în vedere aceste tendințe din spațiul digital, pot fi punctate trei direcții majore de utilizare a tehnologiilor IA în analiza Big Data, pentru diminuarea fenomenului fake news. Aceste direcții au fost evidenţiate în urma analizării unor programe informatice, în curs de dezvoltare, agreate la nivelul principalelor entități producătoare de soluții tehnologice.
Tehnologii de verificarea comparativă a informațiilor publicate. Aceste soluții tehnice urmăresc filtrarea articolelor și selectarea informațiilor cheie pentru realizarea unei comparații între perspectiva prezentată și datele obținute de pe platforme oficiale. Această gamă de soluții este dependentă direct de IA deoarece presupune parcurgerea a milioane de articole postate și compararea lor cu toată cantitatea de date oficiale obținute din mediul online.
Soluții pentru identificarea unor structuri lexicale, utilizate pentru captarea atenției cititorilor. Deseori, articolele din sfera fake news includ sintagme menite să şocheze, folosite pentru maximizarea notorietății materialului și, implicit, pentru creșterea numărului de accesări ale acestuia. Prin intermediul IA, aceste structuri lexicale pot fi identificate și indicate ca fiind posibile produse de tip fake news.
Ierarhizarea website-urilor în funcție de notele acordate de IA. Soluțiile de acest tip urmăresc acordarea unui calificativ platformelor web pe baza articolelor publicate, făcând posibilă diferenţierea acestora de către utilizatori în funcţie de nivelul de credibilitate. Calificativele de acest tip corelează rezultatele generate de primele 2 categorii de software, indicând, astfel, website-urile suspecte de propagarea știrilor false.
Deși operaționalizarea la nivel mondial a acestor inovații bazate pe IA este încă dificilă, pot fi remarcate multiple progrese realizate de dezvoltatori. Odată aplicate, aceste soluții vor produce schimbări majore în spațiul cibernetic, atât de natură ofensivă, cât și defensivă. În cazul fenomenului fake news, majoritatea perspectivelor de combatere a extinderii acestuia presupun utilizarea IA, în condiţiile în care interacțiunea cu mediul online este extrem de ridicată, iar monitorizarea conținutului creat şi vehiculat în spațiul cibernetic devine imposibil de realizat de către operatorii umani.
Abstract
Fake news has become one of the main support tools in propaganda, deception and manipulation campaigns. Artificial Intelligence (AI) has extensively been used to promote online fake news. Nevertheless, AI can be used both to promote and to fight the fake news phenomenon. Fake news contents can be filtered by using AI- based software which is also able to scan Big Data.
Autor: Mihai Olteanu
