Inteligența artificială nu aduce doar instrumente noi în companii ci schimbă fundamental modul în care sunt construite aplicațiile, accesate și securizate datele. Pe măsură ce AI-ul progresează către modele integrate în procese de producție și agenți autonomi capabili să utilizeze alte aplicații și servicii, suprafața de atac crește exponențial. De aceea, securizarea AI nu poate fi rezolvată simplu cu un „firewall pentru ChatGPT„, o abordare superficială care trece cu vederea complexitatea reală a amenințărilor.

Cisco AI Defense este exact instrumentul care ajută organizațiile să răspundă la câteva întrebări esențiale: ce aplicații AI există în realitate în organizație, ce modele folosesc, ce date sensibile accesează, cine le utilizează și cu ce drepturi, ce vulnerabilități specifice AI au fost identificate, ce se întâmplă cu prompt-urile și răspunsurile generate, și mai ales, ce acțiuni poate executa un agent AI în numele unui utilizator?

 

 

AI Security, direcție strategică la Datanet Systems

 

Datele din practică confirmă că nu vorbim despre un risc teoretic. Potrivit unui studiu Gartner realizat în 2025, 29% dintre liderii de cybersecurity chestionați au declarat că organizațiile lor au fost direct ținta unui atac asupra infrastructurii aplicațiilor GenAI în ultimele 12 luni, iar 32% au raportat incidente grave care exploatau vulnerabilitățile prompt-urilor.

Situația este și mai alarmantă dacă privim statisticile de evoluție a vulnerabilităților. Raportul HackerOne 2025 indică o creștere alarmantă de 210% a vulnerabilităților AI raportate în general, în timp ce vulnerabilitățile de tip prompt injection – una dintre cele mai insidioase tipuri de atac – au crescut cu 540%, devenind rapid una dintre cele mai critice și rapide zone de risc din tot peisajul de securitate AI.

Cu alte cuvinte, AI-ul creează o categorie complet nouă de risc care trebuie tratată cu instrumente, procese și expertiză fundamental diferite. Acestea sunt și motivele pentru care Datanet Systems a înființat o divizie dedicată de cybersecurity.

Citește articolul Datanet Systems: ”AI Security – responsabilitate sau necesitate”

 

Cisco AI Defense: securitate pentru întregul ciclu de viață al AI

 

Cisco AI Defense pornește de la o realitate simplă dar decisivă: instrumentele tradiționale de cybersecurity, oricât de sofisticate ar fi, nu au fost proiectate și nu pot fi adaptate pentru particularitățile aplicațiilor și modelelor AI.

O organizație modernă poate avea simultan în operare mai multe categorii de AI: aplicații interne construite pe LLM-uri proprietare, modele open-source cu risc variabil, servicii AI din cloud furnizate de terți, aplicații GenAI utilizate ad-hoc de angajați, baze de date conectate direct la modele AI, arhitecturi RAG (Retrieval Augmented Generation) care combină surse de date externe și, din ce în ce mai frecvent, agenți AI autonomi care pot utiliza tool-uri externe și executa acțiuni cu impact real asupra sistemelor.

 

Cisco AI Defense este construit tocmai pentru această nouă realitate fragmentată și complexă, iar securizarea AI se face pe trei niveluri complementare: Discover, Detect, Protect.

 

1. Discover – departamentele IT află cu precizie ce AI există în organizație

Prima problemă critică, adesea subestimată, este vizibilitatea. Nu poți securiza și nu poți proteja eficient ceea ce nu știi că există în organizație. Este un principiu de bază al securității, dar în contextul AI este ușor ignorat din cauza vitezei de adopție.

Cisco AI Defense  identifică și cataloghează sistematic workload-urile AI, aplicațiile, modelele specifice, datele cu care interacționează și utilizatorii din mediile cloud distribuite și din infrastructura on-premise. Acest nivel de vizibilitate este esențial într-un context în care AI-ul este adesea introdus prin echipe diferite din organizație, prin infrastructuri și servicii diverse, fără o coordonare centralizată.

Astfel se obține o imagine reală și actualizată a amprentei AI din companie: ce se utilizează concret, de către cine, pentru ce scop și cu ce nivel de risc asociat. Pentru prima dată, o organizație poate răspunde cu precizie la întrebări precum: „Câte instanțe de ChatGPT/Copilot/Gemini sunt în uz?” sau „Câte baze de date sunt conectate la modele AI?”

 

2. Detect – testarea și evaluarea AI-ului înainte ca vulnerabilitățile să devină crize

Un model AI nu e sigur doar pentru că vine de la un furnizor cunoscut sau pentru că are mecanisme interne de guardrail. Modelele și aplicațiile AI trebuie testate riguros pentru vulnerabilități specifice domeniului: prompt injection attacks, jailbreaking, scurgeri de date și probleme de confidențialitate, comportamente nesigure sub presiune sau alte forme de manipulare adversarială.

Cisco AI Defense introduce AI red teaming automatizat și scalabil, care permite evaluarea modelelor și aplicațiilor AI la scară enterprise. Cisco menționează că instrumentul testează peste 200 de tehnici și subcategorii de atac, documentate și emergente.

Diferența față de un security assessment tradițional este ușor de subestimat: nu se analizează doar infrastructura IT din jurul aplicației AI, securitatea rețelei sau configurația sistemelor, ci și comportamentul real al modelului atunci când este expus la inputuri malițioase, manipulatoare sau adversariale. Astfel, testarea devine cu atât mai critică în cazul agenților AI cu autonomie crescută.

 

3. Protect – controlul și limitarea AI-ul în timp real, în producție

O aplicație AI poate trece cu brio toate testele riguroase din faza de development și tot să fie atacată cu succes în mediul de producție, sub presiunea unui atac real. Cisco AI Defense oferă protecție runtime continuă și adaptivă împotriva unor amenințări specifice și realiste precum prompt injection attacks, data leakage și denial-of-service, aplicând politici granulare asupra interacțiunilor dintre utilizatori, aplicații AI și modele.

Aici vorbim de diferențele fundamentale față de o abordare clasică de securitate: protecția trebuie să înțeleagă și să analizeze nu doar traficul de rețea și protocoalele tradiționale ci și contextul și intenția din spatele prompt-urilor și răspunsurilor AI.

 

De ce este importantă combinația dintre networking, security, observability și threat intelligence?

 

Acesta este de fapt unul dintre avantajele majore și diferențiatoare ale abordării Cisco. Cisco AI Defense nu este construit ca un produs izolat de infrastructura de securitate existentă a unei organizații, Cisco valorificându-și expertiza în networking și cybersecurity enterprise, în combinație cu vizibilitatea extinsă oferită de ecosistemul de securitate-observabilitate-telemetrie.

Rezultatul este o abordare integrată în care:

• Networking oferă vizibilitate completă și control granular asupra fluxurilor de trafic, inclusiv asupra comunicațiilor AI, și permite identificarea rapidă a comportamentelor neobișnuite.
• Security identifică și blochează amenințările în timp real, aplică politici de protecție granulare și reacționează rapid la incidente.
• Observability ajută la înțelegerea profundă a contextului, a comportamentului infrastructurii și a modelului de utilizare a aplicațiilor AI, oferind o imagine clară asupra sănătății sistemelor.
• Threat intelligence aduce informații la zi despre amenințările în evoluție, despre tactici emergente și permite o detecție și prevenire mai bine fundamentată și anticipativă.

Cisco își construiește această abordare inclusiv pe surse extinse de telemetrie din networking, security și observability, colectate din mii de organizații, în timp ce threat intelligence-ul din laboratoarele Cisco Talos alimentează constant portofoliul cu date despre amenințările emergente și evoluțiile atacurilor.

Pentru clienți, aceasta este o diferență strategică importantă: AI Security nu mai este un subiect separat, ci devine parte organică din arhitectura de securitate și infrastructură, integrată cu alte investiții în tehnologie.

 

Cisco AI Defense prin Datanet

 

Ca principal partener Cisco în România, Datanet Systems s-a aliniat rapid acestei direcții emergente și urmărește activ integrarea Cisco AI Defense în portofoliul de produse și servicii. Mai mult, Cisco oferă soluția AI Defense Explorer Edition, o versiune accesibilă prin care echipele de securitate pot testa și realiza red teaming sistematic pentru propriile aplicații și agenți AI și pot obține un raport detaliat de evaluare, care poate sta la baza unui audit și a unui plan de acțiune pe termen mediu.

Interesul pentru AI Security este în creștere exponențială pe piața locală tocmai pentru că răspunde unei probleme concrete și urgente: companiile au început deja să utilizeze AI și GenAI, adesea fără o planificare centralizată, iar procesele de securitate și guvernanța nu au ținut întotdeauna pasul cu viteza accelerată a adopției.

Deoarece tot mai multe organizații folosesc uneltele GenAI fără știrea managementului sau IT-ului, discuția nu ar trebui să înceapă cu întrebarea clasică „Ce soluție AI să adoptăm?”, ci una fundamentală și mai riscantă: „Ce AI avem deja în organizație și cât de expuși suntem?”. Datanet Systems poate porni exact de aici, prin realizarea unei analize cuprinzătoare a expunerii aplicațiilor și utilizărilor AI din organizație, pentru a identifica riscurile concrete și prioritate și pentru a construi ulterior o strategie de protecție adaptată realității infrastructurii existente.

Pentru mai multe informații, contactați Divizia de Securitate a Datanet Systems prin adresa email sales@datanets.ro.