Explozia inteligenței artificiale din ultimii ani este imposibil de ignorat. Dincolo de entuziasmul legat de productivitate, automatizare și inovație, a devenit tot mai clar faptul că impactul AI se resimte și în alte zone mai sensibile, mai puțin vizibile, precum securitatea cibernetică. Atât în sistemele software, cât și la nivelul securității individuale, dinamica atacurilor pare să se transforme radical.
Până nu demult, atacurile cibernetice sofisticate presupuneau cunoștințe tehnice avansate, timp și resurse considerabile. Astăzi, inteligența artificială a schimbat radical această realitate. Instrumentele AI generative au redus drastic barierele de intrare, permițând aproape oricui să creeze mesaje de phishing convingătoare, cod malițios sau campanii automatizate, cu un efort minim.
Această democratizare nu înseamnă doar mai mulți atacatori, ci și atacuri mai bine adaptate contextului. AI permite personalizarea mesajelor la nivel individual, analiza rapidă a datelor publice și scalarea tentativelor de atac într-un ritm fără precedent. Atacurile care înainte necesitau expertiză avansată pot fi astăzi replicate rapid și la scară largă.
Consecința este o expunere tot mai mare - atât în mediul profesional, cât și în viața personală.
Criminalitatea cibernetică nu mai este opera unui individ izolat, ci a unei industrii globale cu venituri de peste 10 trilioane de dolari anual - a treia economie a lumii. Structurile din spate seamănă tot mai mult cu organizații legitime: roluri bine definite, servicii la cerere și modele de business clare.
În spatele tehnologiei se află motivații profund umane. Pentru unii atacatori, miza este ego-ul și dorința de a "învinge sistemul". Atacul devine astfel un joc al vulnerabilităților - atât în cod, cât și în oameni.
Dacă până acum am vorbit despre motivație și organizare, într-o lume dominată de AI se schimbă natura confruntării. Atacurile nu mai sunt doar inițiate și executate, ele au devenit ajustate, testate și optimizate aproape în timp real.
Pe latura umană, inteligența artificială face manipularea mai credibilă decât oricând. Phishingul nu mai este un mesaj generic, ci unul adaptat contextului personal sau profesional al victimei. Deepfake-urile și clonarea vocii reduc distanța dintre autentic și fals: un apel aparent legitim din partea unui director, un mesaj video convingător sau o voce familiară pot declanșa transferuri financiare, divulgarea de informații sau reacții emoționale puternice.
Diferența majoră este că atacatorul nu mai trebuie să fie convingător: modelul este. AI poate genera tonul potrivit, limbajul potrivit și chiar emoția potrivită, transformând manipularea într-un proces scalabil.
Inteligența artificială nu este doar un instrument folosit în atacuri, întrucât ea poate deveni, la rândul ei, ținta. Modelele pot fi influențate prin prompt injection, pot fi manipulate prin date contaminate sau pot produce rezultate eronate care afectează decizii operaționale. Un model compromis nu mai este doar un instrument defect, ci devine o vulnerabilitate strategică.
Organizațiile care integrează AI în procese importante trebuie să înțeleagă că protejarea infrastructurii nu este suficientă. Trebuie protejat și modelul, datele din care învață și fluxurile prin care interacționează cu alte sisteme.
Dacă până acum AI a fost un instrument, următorul pas este mult mai neliniștitor, referindu-se la folosirea sa ca atacator strategic, capabil să orchestreze, adapteze și optimizeze campanii la scară largă. Atacatorii ar putea să își construiască propriul model AI, capabil să lanseze simultan mii sau milioane de variante ale aceluiași atac, fiecare adaptată profilului victimei. Analizând reacțiile și ajustând mesajele în timp real, mecanismul ar învăța din fiecare eșec și și-ar rafina tacticile.
Modelul ar putea colecta și corela informații publice - roluri profesionale, relații, expunere online - cu date apărute în darknet, precum adrese de email compromise, parole reutilizate sau alte informații sensibile, construind astfel profiluri detaliate ale potențialelor ținte.
Această dinamică schimbă fundamental regulile confruntării.
Peste 90% dintre incidentele de securitate implică, direct sau indirect, o eroare umană. Atacatorii exploatează emoțiile și reflexele la fel de eficient cum exploatează o breșă de sistem. Urgența, autoritatea, frica sau dorința de a ajuta devin puncte de intrare.
Un email care anunță o activitate "suspectă", un apel aparent venit din partea unui superior sau, în plan personal, un mesaj vocal în care "nepotul" cere ajutor urgent.
AI face aceste mecanisme mai credibile și mai greu de detectat. Însă principiul rămâne același: exploatarea vulnerabilităților umane.
Dacă atacatorii folosesc AI pentru a învăța și a se adapta, atunci apărarea nu mai poate fi exclusiv reactivă. Securitatea cibernetică trebuie să devină la rândul ei adaptivă.
La nivel organizațional, acest lucru înseamnă guvernanță clară asupra modului în care AI este utilizată. Fie că vorbim despre modelele dezvoltate intern sau despre soluții integrate din exterior, sunt esențiale monitorizarea continuă, evaluarea riscurilor și controlul asupra datelor din care aceste sisteme învață. În același timp, dezvoltarea competențelor nu mai este opțională. Upskillingul echipelor de securitate și înțelegerea fundamentală a tehnologiilor AI devin componente esențiale ale strategiei de securitate.
În plan social, educația are un rol la fel de important. Conștientizarea tipurilor de fraudă, înțelegerea modului în care pot fi manipulate vocea sau imaginea și dezvoltarea unui reflex de verificare înainte de reacție pot reduce semnificativ impactul atacurilor. Într-o lume dominată de AI, apărarea începe cu oameni informați.
Inteligența artificială amplifică atât oportunitățile, cât și riscurile. Iar provocarea nu este să oprim AI, ci să evoluăm responsabil odată cu ea.
de Radu Dănescu
de Ovidiu Mățan
de Gelu Vac
