În mediul enterprise, abordarea AI tipică începe cu antrenarea unor modele de machine learning sau GenAI folosind cantități mari de date. Însă, apar două întrebări esențiale: dacă există suficiente date relevante și de calitate și dacă infrastructura IT este suficient de robustă pentru AI.

De cele mai multe ori, infrastructura IT clasică nu ajută neapărat pe dezvoltatori să progreseze. Conform Cisco 2024 AI Readiness Index, 89% dintre profesioniștii IT chestionați afirmă că plănuiesc să lanseze sarcini de lucru AI în următorii doi ani, însă doar 14% consideră că infrastructura lor este pregătită pentru acestea. Pe de alta parte însă, modernizarea întregii infrastructuri poate fi costisitoare și complicată.

 

 

Cisco își propune să simplifice și să reducă costurile acestei tranziții prin noile soluții hardware anunțate la finalul lunii octombrie. În cadrul Cisco Partner Summit 2024, cele mai importante noi produse ale companiei au fost UCS C885A M, primul server Cisco dedicat AI, și AI PODS, un appliance AI modular și pre-configurat.

 

De ce este nevoie de o infrastructură IT pregătită pentru AI?

 

Companiile au nevoie de o asemenea infrastructură IT pentru a susține dezvoltarea, implementarea și scalarea aplicațiilor de Inteligență Artificială într-un mod eficient. Găsiți mai jos câteva motive pentru care aceasta este esențială:

• Scalabilitate pentru procesarea masivă a datelor. Sistemele AI au nevoie de volume mari de date pentru antrenare și interferență. O infrastructură IT pregătită pentru AI oferă capacități scalabile de stocare, putere de calcul și rețea pentru gestionarea sarcinilor data-intensive, fie on-premises, în cloud sau în medii hibride.
• Accelerarea antrenării și a deployment-ului modelelor ML. Infrastructura pregătită pentru AI, echipată cu hardware specializat (GPU-uri, TPU-uri, acceleratori etc.), reduce semnificativ timpul necesar pentru antrenarea și deployment-ul modelelor de machine learning. Acest ciclu mai rapid stimulează inovația și scurtează timpul de lansare pe piață pentru soluțiile AI.
• Suport pentru sarcini avansate. Workload-urile AI, cum ar fi procesarea limbajului natural, computer vision și deep learning-ul, necesită capabilități de high-performance computing (HPC). Infrastructura pregătită pentru AI asigură compatibilitatea și optimizarea elementelor de computing pentru aceste procese solicitante.
• Flexibilitate pentru diverse scenarii de utilizare. Organizațiile din diverse industrii, inclusiv sănătate, finanțe, retail și producție, au nevoie de infrastructură flexibilă pentru a se adapta la cazuri specifice de utilizare AI, cum ar fi predictive analytics, detectarea fraudei sau automatizarea proceselor.
• Eficiența costurilor și optimizarea resurselor. Infrastructura modernă AI utilizează configurații optimizate de hardware și software pentru a îmbunătăți eficiența, reducând costurile operaționale și maximizând output-ul computational.
• Securitate și conformitate îmbunătățite. Setup-urile AI-ready sunt proiectate pentru a proteja datele sensibile în timpul procesării și pentru a asigura conformitatea cu standardele și reglementările industriei, precum GDPR sau HIPAA.
• Integrare facilă cu sistemele existente. O infrastructură pregătită pentru AI poate fi integrată cu sistemele legacy, facilitând modernizarea companiilor fără a perturba activitatea.
• Investiții orientate către viitor. Investițiile în infrastructura pregătită pentru AI permit companiilor să fie pregătite să adopte viitoarele progrese din domeniul AI și să rămână competitive pe termen lung.

 

CISCO AI-ready Infrastructure. Care este strategia?

 

Strategia Cisco în domeniul AI se bazează pe trei elemente: infrastructură dedicată pentru aplicațiile AI, interfețe specifice pentru AI și analize de date bazate pe AI. Prin urmare, AI-ready Infrastructure a fost un subiect omniprezent la Cisco Partner Summit 2024. În principiu, Cisco se bazează de expertiza bogată acumulată în domeniul networking-ului și a infrastructurii IT, adaptându-și totodată produsele la cerințele specifice ale workload-urilor AI.  Prin integrarea software-ului NVIDIA AI Enterprise și a platformei de management Intersight, Cisco oferă simplificarea operațională dorită de majoritatea companiilor care încă explorează oportunitățile și provocările implementării AI. Cisco urmează să lanseze si o serie de specializări pentru parteneri, pentru a accelera proiectele care implica astfel de infrastructură.  De altfel, clienții finali vor avea mare nevoie de suport pentru configurarea corectă a infrastructurii, dar și a cerințelor de securitate și guvernanță.

Provocarea va fi una de înțelegere a beneficiilor, deoarece spre deosebire de cloud, AI-ul nu este așteptat ca o sursă de economii ci ca un salt important în eficiența operațională, depășind tot ceea ce se poate obține în mod curent pe o infrastructură IT tradițională.

Cisco promite ca noile produse din portofoliul AI-ready vor ajunge rapid pe piață, serverul UCS C885A M, care poate fi deja comandat, urmând să fie disponibil până la finalul anului 2024, iar AI PODS să poată fi comandat începând chiar din luna noiembrie. Mai mult, Cisco anunță peste 40 de inovații care vor extinde portofoliul în viitorul apropiat.

 

Ce produse „AI ready” au fost anunțate la Cisco Partner Summit 2024

 

Serverul UCS C885A M8  nu este unul oarecare. Acesta a fost construit pe platforma de supercomputing NVIDIA HGX și are la bază opt GPU-uri NVIDIA H100 sau H200 Tensor Core, sau opt GPU-uri AMD MI300X OAM. Serverul integrează un „network interface card” Nvidia ConnectX-7 (NIC) sau un BlueField-3 SuperNIC pentru fiecare GPU, permițând astfel rularea sesiunilor de antrenare a modelelor AI pe un cluster de servere. De asemenea, sunt incluse unități de procesare a datelor Nvidia BlueField-3 (DPU) și două procesoare EPYC de la AMD („4th or 5th Gen”).

Serverul a fost proiectat pentru a răspunde cerințelor de antrenare și inferență AI de nivel înalt și oferă performanță ridicată pentru procesele de calcul intensiv. Gestionarea acestuia se face prin platforma cloud Cisco Intersight. Sistemul este ideal pentru organizațiile care au nevoie de o infrastructură robustă și scalabilă, capabilă să răspundă cerințelor complexe ale aplicațiilor AI. UCS C885A M8 poate fi deja comandat și urmează să fie livrat până la sfârșitul anului.

AI PODS  este o soluție modulară de infrastructură preconfigurată, concepută pentru a oferi o soluție „plug-and-play” pentru sarcinile AI, incluzând toate componentele necesare pentru procesare, rețea, stocare și management cloud. AI PODS se bazează în mare parte pe tehnologia NVIDIA, inclusiv GPU-uri, platforma software AI Enterprise, toolkit-ul HPC-X. Toate acestea sunt completate de designul modular UCS X-Series de la Cisco, care include șasiuri, noduri de calcul M7, un nod PCI-Express cu GPU-uri NVIDIA, Cisco UCS fabric și software-ul de management Intersight.

Totodată, include platforma de aplicații Red Hat OpenShift și este compatibilă cu opțiunile de stocare de la Nutanix, NetApp (FlexPod) sau Pure Storage (Flash Stack). AI PODS reprezintă o alegere excelentă pentru întreprinderile care doresc o soluție ușor de implementat, scalabilă și eficientă pentru majoritate aplicațiilor bazate pe AI.

Serverele UCS C885A M8 și AI PODS completează portofoliul CISCO AI-ready Infrastructure, care include care include și noile switch-uri 800G Nexus și clusterele Nexus HyperFabric AI, dezvoltate în colaborare cu Nvidia și lansate în luna iunie. Acestea combină rețelele AI de la Cisco cu calculul accelerat și software-ul AI Enterprise de la Nvidia și un sistem de stocare de la VAST.

 

Concluzii

 

Pasul făcut de Cisco în domeniul infrastructurii AI dedicate anunță schimbări importante atât pentru companie, cât și pentru clienții săi din sectorul enterprise. Prin integrarea expertizei de networking cu capabilitățile AI ale NVIDIA într-un pachet ușor de gestionat, Cisco oferă o viziune convingătoare pentru infrastructura AI. Aceste appliance-uri cu opțiuni de implementare simplificate ar putea oferi o cale practică pentru organizațiile care doresc să își extindă capabilitățile AI, menținând în același timp controlul asupra infrastructurii. Următoarele trimestre vor fi decisive, pe măsură ce aceste soluții vor ajunge pe piață iar primii utilizatori își vor împărtăși experiențele.

Romania & CIS Partner of the Year (2024)

Nu putem încheia acest articol, fără a menționa că în cadrul recentei ediții Cisco Partner Summit din Los Angeles, Datanet Systems a primit un premiu important, fiind desemnat „Romania & CIS Partner of the Year (2024)”. Acesta este o recunoaștere a parteneriatului de succes pe care îl avem cu Cisco, dar și a muncii și entuziasmului întregii noastre echipe. Din această poziție privilegiată, ne angajăm să aducem întotdeauna pe piața locală ultimele tehnologii și inovații Cisco, pentru a contribui la transformarea digitală a afacerilor din România.