Odată cu tranziția accelerată de la faza de AI training la cea de AI inference, tot mai multe organizații încep să ruleze modele de inteligență artificială direct pe infrastructura proprie. Din perspectivă de business, acest lucru reprezintă un pas important înainte: oferă un control mai mare asupra datelor, reduce dependența de furnizori externi și îmbunătățește semnificativ nivelul de confidențialitate.

În același timp, această mutare vine cu un efect secundar inevitabil: extinderea considerabilă a suprafeței de atac. Proiectele recente derulate de Datanet Systems arată că sistemele AI nu mai sunt doar componente izolate de analiză, ci devin puncte active de interacțiune cu utilizatorii, aplicațiile și datele organizației. Astfel, devine din ce în ce mai evident că sistemele AI sunt – sau vor deveni în foarte scurt timp – unele dintre principalele ținte ale atacatorilor cibernetici.

 

 

Pentru a răspunde acestei noi realități, Datanet Systems aduce pe piața locală o soluție integrată de la F5, construită special pentru securizarea sistemelor de „private AI”. Este vorba despre un stack complet de securitate pentru AI, format din două componente complementare: F5 AI Guardrails și F5 AI Red Team – prima oferă protecție în timp real, la nivel de runtime, iar a doua simulează atacuri pentru a descoperi vulnerabilități înainte ca acestea să fie exploatate. Împreună, cele două creează un ciclu continuu de testare, protecție și optimizare a securității AI.

 

Povești de evitat

Nevoia de protecție a sistemelor AI nu mai este o ipoteză teoretică, ci o realitate confirmată de numeroase incidente recente. Tot mai multe cazuri demonstrează cum sistemele bazate pe AI pot fi exploatate, uneori cu impact financiar sau reputațional major.

Un exemplu relevant este incidentul asociat platformei AI interne „Lilli”, utilizată în cadrul McKinsey & Company. În acest caz, cercetători în securitate au reușit să exploateze un agent AI autonom și să obțină acces la date sensibile prin combinarea unor tehnici precum exploatarea documentației API expuse și atacuri de tip SQL injection. În doar câteva ore, atacul a dus la expunerea a milioane de mesaje, sute de mii de fișiere și zeci de mii de conturi de utilizatori, demonstrând cât de rapid poate fi compromis un ecosistem AI atunci când controalele de securitate nu sunt suficient de riguroase.

Un alt caz spectaculos este cel al companiei Arup, unde un angajat din departamentul financiar a fost păcălit să transfere peste 25 de milioane de dolari. Atacatorii au folosit tehnologie deepfake pentru a simula un apel video cu membri ai conducerii, transformând AI-ul într-un instrument de inginerie socială extrem de eficient.

Dat poate cel mai actual caz vine din zona modelelor AI avansate, unde Anthropic a investigat acces neautorizat la modelul său Mythos, conceput tocmai pentru a identifica vulnerabilitățile de securitate cibernetică. Asistăm la  schimbare importantă de paradigmă: nu mai vorbim doar despre protecția datelor, ci și despre controlul accesului la modele capabile să genereze sau să simuleze atacuri sofisticate.

 

Schimbare de paradigmă în AI Security cu F5

 

În acest context, F5 propune o abordare diferită asupra securității AI, tratând modelele nu doar ca aplicații, ci ca infrastructuri critice ce trebuie protejate end-to-end.

 

F5 AI Guardrails – protecție în runtime

F5 AI Guardrails reprezintă componenta defensivă a arhitecturii și funcționează ca un strat de protecție între utilizator și modelul AI. Rolul său este de a controla în timp real interacțiunile cu sistemul, atât la nivel de input, cât și de output.

În practică, această componentă acționează ca un mecanism de filtrare și control care blochează tentativele de prompt injection, jailbreak sau exfiltrarea datelor sensibile. În același timp, aplică politici de securitate și conformitate – inclusiv cerințe precum GDPR sau EU AI Act – și oferă vizibilitate completă asupra modului în care modelul generează răspunsuri.

Un element esențial este independența față de modelul utilizat, putând funcționa cu orice LLM, fie că este implementat în cloud sau on-premises. Practic, acest strat decide în permanență dacă o interacțiune este sigură și dacă răspunsul respectă regulile organizației.

Capabilități cheie:

• Atenuează riscuri precum scurgerile de date, conținutul dăunător și atacurile adversariale, oferind securitate completă în runtime pentru modele și agenți AI
• Evaluarea riscurilor AI prin metodologii adaptate, aplicabile atât modelelor publice, cât și celor dezvoltate intern
• Protecția distribuită a datelor, prin inspectarea interacțiunilor și prevenirea încălcărilor de tip DLP în timp real
• Simplificarea conformității prin alinierea politicilor la nivel enterprise și audit automatizat (GDPR, HIPAA, EU AI Act etc.)
• Transformarea rapidă a datelor din testarea adversarială în politici active de protecție
• Securitate runtime cu latență redusă, fără impact asupra performanței
• Reducerea conținutului nociv prin filtre de moderare pentru conținut toxic, părtinitor sau inexact

 

F5 AI Red Team – testare ofensivă continuă

F5 AI Red Team reprezintă componenta ofensivă a ecosistemului și funcționează ca un sistem automatizat de testare adversarială, conceput pentru a simula atacuri reale asupra modelelor AI. Sistemul rulează continuu scenarii complexe de atac – inclusiv prompt injection avansat, combinații de jailbreak-uri și exploatarea comportamentului agenților autonomi. Aceste teste sunt realizate la scară largă, folosind o bibliotecă extinsă de tehnici de atac, actualizată constant.

Susținut de una dintre cele mai avansate biblioteci de amenințări AI, cu peste 10.000 de tipare de atac adăugate lunar, F5 AI Red Team oferă insight-uri explicabile, evaluate din punct de vedere al riscului, care pot fi transformate rapid în mecanisme active de protecție. Scopul este identificarea punctelor slabe înainte ca acestea să fie exploatate în producție, transformând această componentă într-un mecanism de ethical hacking dedicat AI.

 

Capabilități cheie:

• Testarea proactivă a modelelor și aplicațiilor AI prin simularea continuă a amenințărilor
• Simularea atacurilor adversariale cu agenți specializați în tehnici reale de atac
• Integrarea cu AI Guardrails pentru remedierea rapidă a vulnerabilităților identificate
• Testarea rezilienței folosind o bază extinsă de atacuri, adaptată pe industrie și caz de utilizare
• Vizibilitate detaliată asupra modului de exploatare prin loguri și audit trail-uri complete

 

Valoarea reală a acestei abordări apare în modul în care cele două componente interacționează. AI Red Team identifică vulnerabilități prin simularea continuă de atacuri, iar aceste descoperiri sunt transmise către AI Guardrails, care își ajustează politicile de protecție în runtime. Rezultatul este un ciclu continuu de securitate: testare, protecție și optimizare. În locul unui model static, organizațiile beneficiază de un sistem care învață constant din atacuri și își îmbunătățește mecanismele de apărare în timp real.

 

Securitate AI prin Datanet Systems

 

În 2025, Datanet Systems a lansat o soluție „AI end-to-end”, organizată pe trei straturi, care integrează hardware-ul, orchestrarea, pipeline-urile AI/ML și componentele aplicaționale într-un ecosistem unitar, sigur și performant. Securitatea AI a devenit rapid al patrulea strat esențial, deoarece în mediul enterprise actual riscurile nu mai țin doar de performanță sau acuratețe. Problemele reale includ scurgeri de date, comportamente imprevizibile ale agenților AI, utilizarea necontrolată a modelelor („shadow AI”) și integrarea acestora în sisteme critice de business.

Soluția F5 prezentată în acest articol abordează exact această zonă sensibilă, tratând AI-ul ca o nouă suprafață de atac. AI Guardrails oferă control și protecție în runtime, iar AI Red Team asigură testarea continuă prin simularea de atacuri reale. Împreună, ele formează un ciclu complet de securitate pentru ecosistemele AI moderne.

Pentru organizațiile care adoptă infrastructuri de private AI, această abordare devine esențială. Cu sprijinul Datanet Systems, companiile pot nu doar să ruleze modele AI on-premises, ci și să le securizeze la un nivel avansat, adaptat noilor tipuri de amenințări generate de inteligența artificială însăși. Pentru mai multe informații despre securitatea AI cu F5 AI Guardrails și F5 AI Red Team, contactați echipa Datanet Systems la sales@datanets.ro.