Timp de decenii, strategia de securitate cibernetică s-a bazat pe trei piloni stabili: protecția dispozitivelor terminale (endpoint), securitatea rețelei și securitatea mediului cloud. Aceste direcții au definit modul în care sunt formate echipele de securitate, cum sunt alocate bugetele și cum sunt evaluate riscurile la nivel de întreprindere.

Fiecare dintre aceștia a apărut ca răspuns la o schimbare tehnologică majoră. Răspândirea dispozitivelor personale a generat protecția endpoint-urilor. Creșterea conectivității rețelelor a creat nevoia de securitate a rețelei. Trecerea infrastructurii și a aplicațiilor către SaaS și mediile cloud publice a determinat dezvoltarea platformelor de securitate cloud.

Astăzi are loc o altă schimbare. Pe măsură ce inteligența artificială pătrunde în operațiunile de zi cu zi — în special sub formă de agenți autonomi capabili să execute sarcini independent — organizațiile se confruntă cu o nouă clasă de riscuri care nu se încadrează în niciuna dintre cele trei categorii tradiționale.

Sistemele AI nu se mai limitează la generarea de analize sau la răspunsuri la solicitări. Din ce în ce mai mult, acestea sunt integrate cu sistemele și instrumentele corporative, ceea ce le permite să acționeze în numele utilizatorilor. Și aproape întotdeauna, aceste acțiuni sunt realizate prin intermediul API-urilor.

Tocmai această schimbare arhitecturală îi determină pe mulți specialiști în securitate să considere protecția AI ca fiind un nou pilon, al patrulea, al securității cibernetice — cu securitatea API-urilor la baza sa.

Sistemele AI acționează prin API

Aplicațiile AI moderne se bazează pe API pentru a obține date, a apela servicii și a efectua tranzacții. Indiferent dacă un agent interoghează sistemele interne, interacționează cu platformele SaaS sau execută fluxuri de lucru automatizate — mecanismul de bază este apelul API.

API-urile au devenit astăzi, de fapt, țesutul conjunctiv al afacerilor digitale, legând aplicațiile, microserviciile, partenerii și — din ce în ce mai mult — sistemele AI autonome. Ca urmare, cea mai mare parte a riscurilor din aplicațiile moderne se manifestă tocmai prin aceste interfețe.

Problema este că majoritatea organizațiilor au o vizibilitate limitată asupra mediului lor API. Echipele de securitate nu pot răspunde adesea nici măcar la întrebări de bază: câte API-uri există, care dintre ele oferă acces la date sensibile și cum arată un model normal de utilizare. Chiar și înainte de apariția agenților AI, multe întreprinderi se confruntau cu API-uri nedocumentate sau „shadow” care ieșeau din sfera sistemelor de management existente.

Când sistemele autonome încep să interacționeze cu acest mediu, complexitatea crește exponențial.

Sistemele autonome amplifică riscurile existente

Agenții AI introduc o nouă dinamică operațională: interacțiunea cu sistemele corporative la viteza mașinii. Spre deosebire de oameni, agenții sunt capabili să lege fluxurile de lucru în lanțuri, să lanseze simultan mai multe servicii și să genereze volume mari de trafic machine-to-machine.

Cercetările în domeniul securității confirmă tot mai des: această interacțiune are loc exclusiv prin API. În experimentele cu agenți autonomi pe platforme specializate, fiecare acțiune a agentului — publicarea datelor, obținerea de informații sau interacțiunea cu un alt sistem — s-a dovedit a fi, în final, un apel API.

Din punctul de vedere al securității, acest lucru înseamnă: principala suprafață de risc nu este neapărat modelul AI în sine, ci sistemele la care acesta are acces. Dacă aceste sisteme oferă API-uri cu privilegii excesive, autentificare slabă sau monitorizare deficitară, agenții autonomi pot amplifica involuntar riscul. Un agent care acționează cu credențiale legitime poate accesa date sensibile, iniția tranzacții sau interacționa cu serviciile interne într-un mod pe care instrumentele tradiționale îl detectează cu dificultate.

De ce cei trei piloni tradiționali nu mai sunt suficienți

Cei trei piloni stabiliți ai securității cibernetice rămân indispensabili — dar au fost proiectați fără a lua în considerare arhitecturile ghidate de AI.

Protecția endpoint-urilor este orientată către dispozitivele utilizatorilor și sarcini de lucru. Totuși, agenții autonomi funcționează adesea în sisteme server sau medii cloud unde endpoint-urile tradiționale nu există.

Securitatea rețelei poate detecta fluxurile de trafic și anomaliile, dar apelurile API criptate între mașini sunt greu de interpretat la nivel de aplicație. Instrumentele de securitate pot „vedea” traficul, dar nu înțeleg întotdeauna logica de business a solicitării.

Platformele de securitate cloud oferă o vizibilitate valoroasă asupra stării infrastructurii și a configurației identităților, însă, de regulă, nu analizează comportamentul API în timpul execuției și nu detectează utilizarea abuzivă a interfețelor legitime.

Rezultatul este o lacună în stiva de securitate. Nivelul în care sistemele digitale moderne își desfășoară efectiv activitatea — nivelul acțiunilor API — nu primește întotdeauna aceeași atenție direcționată ca dispozitivele terminale, rețelele sau sarcinile de lucru din cloud.

Securitatea AI — mai largă decât API-urile

Recunoașterea securității AI ca un nou pilon nu înseamnă că aceasta se rezumă doar la API-uri. O abordare cuprinzătoare include mai multe direcții suplimentare.

Securitatea modelelor presupune protejarea datelor de antrenament, prevenirea substituirii sau „otrăvirii” acestora, precum și protejarea accesului la greutățile modelului și la infrastructura aferentă. Securitatea modelelor de limbaj mari (LLM) acoperă probleme precum injecțiile de prompt-uri, manipularea modelului și controlul output-ului în timpul execuției.

Managementul agenților ridică noi întrebări privind identitatea, permisiunile și accesul la instrumente — pentru ca sistemele autonome să acționeze în limitele stabilite. În cele din urmă, se formează sisteme de guvernanță care reglementează aspectele legate de responsabilitate, documentare și conformitate — în special în contextul dezvoltării cadrelor de reglementare pentru AI.

Cu toate acestea, în toate aceste domenii, API-urile rămân punctul în care riscul capătă realitate operațională. Datele sunt obținute prin API. Instrumentele sunt apelate prin API. Tranzacțiile sunt efectuate prin API. Cu alte cuvinte, de fiecare dată când un sistem AI interacționează cu lumea reală, o face aproape întotdeauna prin intermediul unui API.

Un model familiar în evoluția securității cibernetice

Securitatea cibernetică a evoluat istoric în paralel cu schimbările în arhitectura computerelor. Calculatoarele personale au stimulat apariția protecției endpoint-urilor. Rețelele de întreprindere au generat nevoia de securitate a rețelei. Revoluția cloud a cerut o nouă generație de platforme de securitate cloud.

Creșterea arhitecturilor bazate pe AI cu prioritate pentru API pare să declanșeze următoarea evoluție. Pe măsură ce sistemele autonome se integrează tot mai adânc în procesele de business, organizațiile vor avea nevoie de strategii de securitate care să țină cont de identitățile mașinilor, fluxurile de lucru automatizate și volumele mari de interacțiuni API. Această realitate schimbă deja modul în care liderii din securitate abordează vizibilitatea, guvernanța și controlul.

Nu este vorba despre faptul că pilonii actuali de securitate au devenit depășiți. Mai degrabă, structura securității cibernetice se extinde. Dacă protecția endpoint-urilor, a rețelelor și a mediilor cloud a format primii trei piloni ai erei digitale, securitatea AI — bazată pe înțelegerea și protejarea țesutului API — ar putea foarte bine să devină al patrulea.

Acest articol a fost publicat anterior pe site-ul CyberCalm și a fost tradus în limba română.