În inginerie este foarte bine cunoscut faptul ca un lanț este atât de puternic pe cât este cea mai slabă verigă a sa. De ce am început așa? Simplu, pentru că și în contextul securității cibernetice se aplică acest principiu. Indiferent cât de robuste ar fi măsurile de protecție a unei infrastructuri informatice, întregul sistem poate fi compromis printr-o singură vulnerabilitate. Fie că este vorba despre o componentă hardware, un utilizator neglijent, un software neactualizat sau o configurare greșită, oricare dintre acestea poate deveni punctul de acces al unui atac cibernetic.
Într-un peisaj digital în continuă evoluție, unde tehnologiile devin din ce în ce mai interconectate, această verigă slabă poate avea consecințe devastatoare. Deoarece sistemele informatice au ajuns să facă parte din viața noastră de zi cu zi, dar înțelegerea unor astfel de sisteme nu este complet la îndemâna oricui, aleg să mai introduc o referință, poate chiar și mai populară decât prima… cea a Calului Troian. Așa cum războinicii ahei s-au ascuns într-un cal de lemn pentru a cuceri Troia, tot așa și atacatorii cibernetici se ascund în spatele unor mesaje aparent inofensive, cum ar fi un email, un sms sau un apel telefonic care să te anunțe că ai câștigat un mare premiu. În schimb, în loc de premiu vei primi doar dureri de cap, bani pierduți, conturi compromise sau, cine știe, poate chiar vei „reuși” să lași fără curent o localitate sau o parte a unui oraș. Vi se pare că exagerez? Vă asigur că nu!
Într-o lume tot mai interconectată, unde infrastructurile informatice devin nucleul funcționării societății moderne, Inteligența Artificială (Artificial Intelligence – AI) promite atât soluții inovatoare, cât și provocări majore.
Cum folosesc infractorii cibernetici Inteligența Artificială?
De la phishing avansat la atacuri DDoS automate, AI amplifică capacitatea actorilor cibernetici de a lansa atacuri devastatoare. Pentru a exemplifica cât mai bine influența acestei noi tehnologii, voi prezenta, în ordine, etapele unui atac cibernetic.
Reconnaissance sau prima etapă a unui atac cibernetic reprezintă etapa în care sunt colectate date despre sistemul informatic țintă. Astfel, AI-ul poate automatiza scanarea și identificarea de vulnerabilități. Cu cât actorul este mai priceput cu atât aceasta tehnologie poate fi mai periculoasă pentru sistemul atacat.
A doua etapă a unui atac cibernetic este reprezentată de construirea unui malware care să exploateze vulnerabilitățile identificate anterior (Weaponization). În această etapă impactul AI poate fi chiar mai mare și mai dăunător. Dacă înainte de AI această etapă era oarecum rezervată unor actori cibernetici cu capabilități tehnice considerabile, acum este disponibilă oricărui individ care caută să facă rău fără a mai fi nevoie de un background tehnic consistent. Prin intermediul unor chat-boți prezenți în DarkWeb, precum WormGPT, orice individ poate crea un malware complex doar folosind câteva prompt-uri care să descrie modul de acțiune a software-ului rău intenționat. Spre deosebire de chat-boții prezenți în ClearWeb, care dispun de o serie de reguli specifice care te împiedică să creezi instrumente de atac cibernetic, versiunile disponibile în DarkWeb nu au astfel de reguli.
Pentru a ne putea imagina mai ușor despre ce vorbim, vom folosi un exemplu concret. Un malware celebru, Stuxnet, avea în jur de 15.000-20.000 linii de cod și a implicat o echipă de programatori cu un background excelent în domeniu, și cu toate acestea se spune că dezvoltarea sa a durat mai mulți ani. Este adevărat, perioada în care a apărut Stuxnet, era considerată mai mult o perioadă de pionierat în special în domeniul atacurilor cibernetice de sabotaj de înaltă precizie. Chiar și așa, un programator profesionist poate scrie între 300 și 500 de linii de cod pe zi pentru un cod simplu sau chiar și mult mai mult pentru un cod complex. Inteligența Artificială poate genera un astfel de cod în câteva secunde, singura operațiune cronofagă fiind cea de alcătuire a unui prompt corespunzător pentru codul dorit, care nu poate lua mai mult de o oră unui utilizator experimentat al AI. În plus, mai există o diferență majoră: dacă pentru a scrie cod-sursă ai nevoie de multă experiență de programator în spate, pentru a utiliza AI să scrie cod în locul tău, ai nevoie de mult mai puține cunoștințe tehnice.
Etapa care depinde, în general, cel mai mult de factorul uman, este cea de livrare a malware-ului (Delivery). E-mailurile și SMS-urile de phishing create cu AI sunt – de cele mai multe ori – mai convingătoare decât cele redactate de om. Folosind algoritmi de machine learning, pot fi analizate comunicațiile unui utilizator și pot fi generate mesaje care imită perfect stilul de scriere al acestuia. De asemenea, AI poate fi utilizată și pentru a selecta ținte mai vulnerabile, folosind doar analiza comportamentală. Mai mult decât atât, odată identificată cea mai vulnerabilă țintă, deep learning poate face atacul mult mai precis și personalizat pentru a compromite acea țintă (Spear Phishing). Atacatorii nu au scrupule și se vor folosi de tot felul de trucuri pentru a te determina să le furnizezi o informație, să accesezi un link sau să deschizi un document.
În 2019, un manager al unei companii britanice aparținând unui grup german a trimis 220.000 euro în Ungaria după ce a primit un telefon „de la șeful său”. Mai recent, un angajat a efectuat aproximativ 15 tranzacții prin care a transferat aproximativ 25 de milioane de dolari din conturile companiei unde lucra, în conturile atacatorilor după ce aceștia l-au convins, prin intermediul unei videoconferințe la care participau mai mulți angajați printre care și „conducerea companiei”, să o facă. În ambele situații vorbim despre Deepfake creat cu AI. Dacă în prima situație atacatorii au simulat doar vocea unei persoane, în cel de-al doilea exemplu ei au replicat și vocea și imaginea mai multor persoane, nicio altă persoană prezentă în acea videoconferință nefiind reală.
În următoarele etape de exploatare, instalare, comandă și control, precum și exfiltrare, un malware construit cu ajutorul AI sau care are implementat în codul sursă elemente de Inteligență Artificială (sau mai exact de Deep Learning) poate învăța care este comportamentul normal al sistemului informatic infectat și care sunt soluțiile antivirus instalate. Prin acestea el poate să acționeze astfel încât să evite detecția și să asigure persistența pe termen lung în sistemul informatic.
Vulnerabilitățile infrastructurilor critice și impactul asupra securității naționale
Odată cu digitalizarea și interconectarea infrastructurilor informatice, apar noi provocări legate de securizarea sistemelor de calcul. De la vulnerabilitățile existente într-un site web, se poate ajunge la accesul către serverul ce găzduiește acel website. Dacă pe acel server se află și rețeaua internă a unei infrastructuri de comandă și control (de tip SCADA), atunci implicațiile pot avea chiar valențe cyber-teroriste. Să ne imaginăm că un actor rău intenționat obține control asupra dispozitivelor programabile (Programmable Logic Controllers – PLC) care controlează distribuția de energie electrică într-un oraș mare, pe timp de iarnă? Nu cred că trebuie să continui această idee, vă imaginați și singuri… Sau ce s-ar întâmpla dacă un actor ar obține un simplu acces de vizualizare a unor note dintr-un catalog electronic și ar forța posibilitatea de a modifica acele note, sau a adăuga alte note, ori dacă ar putea manipula admiterea în cadrul unor licee sau facultăți? Ar distruge cu siguranță câteva destine.
Și totuși, cum contracarăm astfel de atacuri?
Răspunsul stă tot în adoptarea unor tehnologii AI defensive, pentru protejarea infrastructurilor critice, sisteme care să detecteze un comportament anormal în rețea, chiar și un comportament simulat de un malware construit pentru a face așa ceva.
Se impune, de asemenea, necesitatea implementării unor reglementări stricte în ceea ce privește dezvoltarea viitoare a acestor tehnologii, dar și o colaborare la nivel global pentru a limita potențialul distructiv al Inteligenței Artificiale ajunsă în mâini greșite.
În fața acestor provocări, rămân o serie de întrebări: Suntem pregătiți să protejăm infrastructurile care susțin întreaga noastră societate? Să ne protejăm stilul modern de viață? Să ne protejăm datele personale și intimitatea?
Putem încerca! Prin conștientizarea schimbărilor aduse de această tehnologie și prin educarea corespunzătoare a fiecăruia dintre noi cu siguranță le vom face misiunea mult mai grea actorilor rău intenționați.
Cum putem face asta? Un prim pas ar fi să îmbrățișăm tehnologia, să nu ne ferim de Inteligența Artificială, să o folosim, să înțelegem ce capabilități oferă, să învățăm să diferențiem un mesaj creat cu AI de unul creat de om. Această tehnologie este în continuă dezvoltare și noi trebuie să ținem pasul cu ea, să ne informăm ce poate și ce nu poate face, cum ne poate ajuta sau cum ne poate încurca. Să învățăm să verificăm informațiile furnizate de un AI pentru că aceasta poate oferi și rezultate eronate și poate chiar și încerca să te convingă prin orice mijloace că acela este răspunsul căutat. Această încercare din partea unui AI poate fi considerată o eroare a acelui program complex, iar cercetătorii din domeniu încă încearcă să înțeleagă cum s-a produs aceasta.
În final, trebuie conștientizat și impactul Inteligenței Artificiale asupra vieții de zi cu zi. La fel cum un mesaj te poate convinge că ai câștigat un premiu la o loterie/concurs la care nu ai participat vreodată sau că ai de completat adresa de livrare pentru un colet niciodată comandat, la fel te poate convinge de alte lucruri care nu s-au întâmplat niciodată. Este important să recunoaștem că lumea cibernetică este într-o continuă schimbare și fiecare dintre noi are responsabilitatea de a rămâne informat și de a-și actualiza constant cunoștințele în domeniul securității cibernetice. Doar printr-o abordare colectivă și printr-o învățare continuă putem face față provocărilor din acest domeniu complex și dinamic.
Abstract
In the realm of engineering, it is well-known that a chain is only as strong as its weakest link. This principle applies equally to the realm of cybersecurity, where even the most robust systems can be compromised by a single vulnerability. As Artificial Intelligence (AI) becomes a tool for cybercriminals, the potential threats to critical infrastructures grow exponentially. From advanced phishing schemes to AI-driven malware, cyberattacks are becoming increasingly sophisticated and difficult to defend against. This article explores how cybercriminals are weaponizing AI to target critical infrastructures and highlights the urgent need for heightened awareness and proactive defenses. As we navigate this evolving landscape, it is crucial for individuals and organizations alike to stay informed, understand the risks, and continuously update their knowledge to protect the systems that underpin our modern society.
The article concludes by inviting readers to delve deeper into these challenges, emphasizing the importance of collective awareness and of ongoing education in combating the threats posed by AI in the hands of malicious actors.
Autor: Vlăduț Vicol
