In Breve

Perché è necessario ripensare il modello di identità per gli agenti AI?

Il modello attuale non è adeguato a gestire attori non deterministici come gli agenti AI, aumentando il rischio di incidenti.

Qual è un esempio concreto di rischio associato agli agenti AI?

Un agente ha cancellato un intero database di produzione in nove secondi, evidenziando la vulnerabilità dei sistemi attuali.

Quali sono le soluzioni proposte per migliorare la sicurezza degli agenti AI?

Eliminare l'anonimato, fornire identità protette e applicare principi zero-trust.

Ripensare il Modello di Identità per gli Agenti AI in Produzione

Gli agenti autonomi di intelligenza artificiale (AI) stanno già rivoluzionando le infrastrutture core, eseguendo codice, applicando policy e gestendo funzioni DevOps. Tuttavia, molti progetti si bloccano a causa di modelli di sicurezza inadeguati, progettati per un mondo con due tipi di attori: umani e macchine. L’introduzione di attori non deterministici come gli agenti AI ha messo in luce le vulnerabilità di questi sistemi, come dimostrato da un recente incidente in cui un agente ha cancellato un intero database di produzione e i relativi backup in soli nove secondi.

Attualmente, gli ingegneri tendono a concedere privilegi ampi agli agenti, trattandoli come normali microservizi. Tuttavia, gli agenti AI, essendo soggetti a errori e operando a velocità macchina, possono eseguire migliaia di azioni in pochi secondi. I tentativi di applicare misure di autenticazione rigorose e privilegi a breve durata si scontrano con la frammentazione delle identità nei vari strumenti della stack tecnologica, come cluster Kubernetes, piattaforme cloud e database. Questa situazione costringe i team a integrare manualmente sistemi di Identity and Access Management (IAM), rendendo difficile la scalabilità delle soluzioni.

La creazione di nuovi silos di identità per gestire un terzo tipo di attore non fa altro che aggravare il problema, raddoppiando il lavoro e introducendo ulteriore anonimato tra i sistemi. La soluzione proposta non consiste nell’aggiungere nuovi strumenti, ma nel riformare il modello di identità. È fondamentale eliminare l’anonimato, fornendo a ogni attore — umano, macchina, workload e agente AI — un’identità di prima classe, protetta criptograficamente da una root of trust hardware. È altresì necessario abbandonare credenziali statiche come API key e password, applicando principi di sicurezza zero-trust.

In questo nuovo modello, gli agenti dovrebbero operare con privilegi di breve durata, legati a specifiche azioni autorizzate da un operatore umano. Ciò significa che i privilegi dovrebbero essere attaccati all’azione e non all’attore, consentendo agli agenti di svolgere attività sensibili solo all’interno di ambienti di esecuzione attendibili prima di interagire con l’infrastruttura di produzione. Senza privilegi di default, il raggio d’azione di eventuali errori si restringe, riducendo il rischio di incidenti.

Per implementare efficacemente queste misure, è necessaria una policy di identità unica, impostata e fatta rispettare da un sistema centralizzato. Questo sistema dovrebbe fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, essenziali per gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione di garantire un controllo rigoroso del comportamento.

In conclusione, il ripensamento del modello di identità per gli agenti AI non è solo una questione di sicurezza, ma una necessità per garantire un’adozione efficace e sicura di queste tecnologie nelle infrastrutture moderne.