Asistăm la cea mai extinsă adopție de tehnologie neautorizată din istoria mediului corporativ. Pe măsură ce utilizarea Inteligenței Artificiale Generative (GenAI) devine tot mai răspândită la locul de muncă, crește și frecvența accesării neautorizate a unor instrumente precum ChatGPT, Copilot sau Gemini. Astfel se conturează o realitate greu de ignorat: angajații ocolesc politicile oficiale și integrează aceste instrumente în munca de zi cu zi, fără aprobare sau supraveghere.

 

Fenomenul a fost denumit shadow AI și poate genera multiple riscuri de securitate și conformitate. Un sondaj realizat de Telus Digital arată că 68% dintre angajați folosesc conturi personale de GenAI, iar 57% dintre aceștia au procesat informații sensibile. Nici industria IT nu face excepție – 46% dintre programatori folosesc GenAI, majoritatea fără aprobare formală, potrivit unui studiu Capgemini.

Conform unei analize Cyberhaven, 73,8% dintre conturile ChatGPT folosite la muncă sunt neautorizate, iar departamentelor IT raportează efecte negative ale utilizării AI necontrolate: scurgeri de date, erori și daune reputaționale,. Shadow AI a devenit regula, nu excepția, iar organizațiile trebuie să răspundă rapid cu măsuri concrete și politici clare.

 

 

Ce riscuri generează Shadow AI?

Shadow AI este o extensie a termenului Shadow IT (utilizarea de software sau hardware fără aprobarea departamentului IT), dar cu un accent pe instrumentele de GenAI, cum ar fi LLM. Angajații din toate departamentele – de la dezvoltatori la echipe de marketing sau suport – adoptă aplicații AI pentru a-și crește productivitatea. Dincolo de adopția privată, mulți angajați și chiar manageri achiziționează pe cont propriu astfel de unelte, ocolind procesele formale de guvernanță ale organizației. Motivațiile variază: lipsa alternativelor aprobate, lentoarea proceselor interne sau presiunea de a livra rezultate rapid.

Utilizarea neautorizată a GenAI generează însă multiple riscuri:

• Scurgeri de date. Informații sensibile pot fi stocate în log-uri externe ale furnizorilor (ex. ChatGPT), expunând date proprietare (secrete comerciale, planuri, strategii) sau credențiale (parole, token-uri de acces). În cazul utilizării variantei publice a ChatGPT, informațiile private introduse pot fi folosite pentru a genera răspunsuri altor utilizatori, ceea ce poate duce la expunerea neintenționată a datelor sensibile ale firmei, dar și la încălcarea drepturilor de autor.
• Nonconformitate legală. Utilizarea neautorizată a GenAI poate conduce la încălcări ale GDPR și ale altor reglementări, cum ar fi Directiva NIS 2, expunând organizațiile la amenzi de până la 4% din cifra de afaceri anuală globală sau 20 milioane de euro.
• Erori și decizii greșite. Chiar un studiu realizat de OpenAI în 2025 arată că modelele AI avansate, precum o3 și o4-mini, generează mai frecvent „halucinații” (informații inexacte sau inventate).
• Amenințări de securitate. Instrumentele shadow AI ocolesc controalele de securitate și nu sunt integrate cu sistemele de autentificare, monitorizare sau protecție endpoint. Fără onboarding formal, crește riscul de breșe, acces neautorizat și mișcare laterală. Modelele AI pot fi folosite ca vectori de phishing, pentru divulgarea de credențiale sau colectarea de date interne. Datele introduse în modelele open source pot fi exploatate de hackeri. De asemenea, apar și riscuri de tipul prompt injection, adversarial manipulation și pluginuri care cer permisiuni fără verificare, mărind suprafața de atac a organizațiilor.

Cum se pot proteja organizațiile?

Pentru a reduce riscurile asociate cu Shadow AI, organizațiile trebuie să adopte o abordare structurată, care combină politici clare, tehnologie avansată și educație internă.

 

Politici și guvernanță. Organizațiile ar trebui să implementeze politici explicite privind utilizarea AI, care să includă:

• Clasificarea datelor (public, intern, confidențial, secret)
• Reguli clare de utilizare, bazate pe aprobare prealabilă („ask permission”)
• Definirea cazurilor de utilizare acceptate („use case”), diferențiate în funcție de nivelul de risc per departament (ex. reguli mai stricte pentru IT, financiar, juridic; mai flexibile pentru marketing sau suport)

Monitorizare și detecție activă. Utilizarea de soluții CASB (Cloud Access Security Broker) și proxy-uri securizate cu inspectare TLS este esențială pentru:

• Detectarea și controlul accesului la aplicații cloud (inclusiv GenAI și Shadow IT)
• Blocarea sau redirecționarea traficului neautorizat
• Vizibilitate completă asupra utilizării aplicațiilor și datelor – inclusiv prin decriptarea temporară a traficului HTTPS, acolo unde este legal și justificat

Controlul accesului și principiile Zero Trust. Implementarea de mecanisme de control, precum:

• Autentificare multifactor (MFA)
• Segregarea rețelelor interne
• Limitarea porturilor și protocoalelor disponibile, ceea ce permite protejarea resurselor critice și restricționează accesul către instrumente AI neautorizate doar pentru utilizatori validați.

Măsuri complementare

• Training continuu pentru angajați privind riscurile și bunele practici în utilizarea AI
• Audituri periodice pentru identificarea aplicațiilor AI neautorizate
• Criptarea datelor în tranzit și la repaus
• Politici clare BYOD (Bring Your Own Device)
• Implementarea soluțiilor SIEM și UEBA, pentru detecția comportamentelor anormale asociate cu folosirea GenAI

Această abordare integrată permite organizațiilor să rămână agile și inovatoare, fără a compromite securitatea, confidențialitatea datelor sau conformitatea legală.

 

Controlați utilizarea GenAI cu Cisco Secure Access

 

Cisco Secure Access, soluție integrată de tip Security Service Edge (SSE), include mai multe componente care oferă control asupra utilizării GenAI:

• Zero Trust Network Access (ZTNA): asigură acces securizat la aplicații, respectând principiul privilegiilor minime, atât de pe dispozitive gestionate în rețea, cât și de pe cele personale.
• Secure Web Gateway (full proxy): înregistrează și inspectează tot traficul web, oferind transparență, control și protecție sporită. Include d
  ecriptare TLS completă sau selectivă.
• Cloud Access Security Broker (CASB): identifică, monitorizează și blochează/controlează utilizarea a peste 720 de aplicații de GenAI. Permite gestionarea controlată a adoptării aplicațiilor cloud și restricționează accesul la cele considerate neproductive, riscante sau neconforme.
• Data Loss Prevention (DLP): monitorizează și analizează în timp real datele sensibile care ies din organizație, pentru a preveni scurgerile/pierderile de date, folosește peste 1.200 de identificatori globali pentru recunoașterea informațiilor personale/confidențiale (PII), acoperind 77 de țări, asigurând conformitatea cu reglementări precum PHI, GDPR, HIPAA, PCI și altele.
• Firewall as a Service (FWaaS) cu Intrusion Prevention System (IPS): Oferă vizibilitate completă și controale de securitate cuprinzătoare pentru traficul dintre utilizatori și destinații/aplicații, atât pe Internet, cât și în infrastructura privată a clientului, acoperind toate porturile și protocoalele.

Mai mult, există funcția dedicată AI Access, care controlează accesul angajaților la instrumentele de GenAI și previne pierderea de date, asigurând protecția utilizării aplicațiilor GenAI terțe. Valorificând funcționalitățile Cisco Secure Access prezentate mai sus, AI Access oferă următoarele beneficii:

1. Descoperirea aplicațiilor shadow AI. Analizează traficul web pentru a identifica utilizarea shadow AI în organizație, oferind o listă clară a serviciilor AI folosite curent.
2. Evaluarea riscurilor shadow AI. Oferă contextul necesar pentru a lua decizii informate privind expunerea la aplicații terțe, inclusiv date despre utilizare, dispozitive, locație și rețea. Dashboard-ul evidențiază aplicațiile cele mai riscante, oferind scoruri de risc și recomandări utile pentru evaluare.
3. Controlul accesului și protejarea datelor. Facilitează configurarea accesului granular și a politicilor, blochează prompturile ce ridică probleme de confidențialitate, siguranță sau securitate și interceptând răspunsurile malițioase ce pot propaga amenințări.

 

Protecție AI avansată cu Fortinet

 

 

Fortinet are în portofoliu soluția Forti AI-Protect (prezentată de echipa Datanet la un eveniment recent) care blochează amenințările emergente, prioritizează răspunsurile pe baza evaluărilor contextuale ale riscurilor și reduce semnificativ alertele false. Soluția detectează amenințările ascunse, inclusiv cele generate de shadow AI și asigură utilizarea controlată și sigură a aplicațiilor AI prin politici și controale aplicate instantaneu. Printre funcționalitățile esențiale pentru gestionarea riscurilor asociate cu shadow AI, amintim:

• Detectează utilizarea aplicațiilor AI prin monitorizarea a peste 6.500 de URL-uri asociate acestor aplicații, oferind vizibilitate completă inclusiv asupra shadow AI și GenAI.
• Ajută echipele de securitate să blocheze utilizarea shadow AI sau a aplicațiilor AI cu risc ridicat prin controlul accesului și al conținutului generat de AI, aplicând principii de tip zero trust.
• Permite aplicarea automată și personalizată a politicilor de securitate pentru fiecare aplicație folosită într-o rețea, cu suport printr-un catalog extins cu peste 6000 de categorii de aplicații AI deja clasificate.
• Extinde analiza bazată pe machine learning și pe volume mari de date pentru a neutraliza amenințările malware emergente, optimizând protecția.
• Antrenează modelele de machine learning ale sistemului de prevenire a intruziunilor (IPS) pentru a detecta noi tehnici de atac și pentru a consolida protecția împotriva atacurilor complexe.
• Folosește indicatori de amenințare pentru a rafina corelarea contextuală a evenimentelor de securitate.

Diminuați riscurile cu Datanet Systems

Ignorarea riscurilor Shadow AI înseamnă să lăsați ușa deschisă pentru atacuri cibernetice, expunând organizația la pierderi de date, afectarea credibilității și consecințe legale serioase. Soluții inovatoare precum Cisco Secure Access și FortiAI Protect permit detectarea, controlul și guvernanța completă a utilizării neautorizate a aplicațiilor de GenAI. Datanet Systems, Cisco Gold Integrator și partener Fortinet, dispune de expertiză avansată în aceste domenii și oferă servicii complete de consultanță, audit, integrare și implementare a platformelor Secure Access și Fortinet Security Fabric (inclusiv FortiAI Protect). Astfel, Datanet ajută clienții să definească politici adaptate riscurilor GenAI, să implementeze tehnologii avansate de monitorizare și control, precum și să formeze angajați și să implementeze procese agile de guvernanță, reducând semnificativ riscurile generate de shadow AI.

 

Shadow AI nu e un subiect ce poate fi tratat superficial. Protejarea organizației împotriva riscurilor asociate GenAI presupune abordări tehnice bine fundamentate și soluții tehnice implementate corect, iar Datanet Systems este partenerul ideal pentru a vă ajuta să depășiți aceste provocări.  Pentru mai multe informații despre soluțiile și serviciile prezentate în acest articol, ne puteți contacta la sales@datanets.ro.