Cosa è successo
Secondo quanto riferito questa settimana da Dragos, azienda specializzata in sicurezza industriale, alcuni aggressori hanno sottratto dati dall'interno di tre provider di inferenza AI. L'attività è andata avanti per mesi. Nessuno dei tre fornitori se n'era accorto prima che i ricercatori li avvisassero.
Tra le richieste rubate ce n'erano alcune contrassegnate come Zero Data Retention (ZDR). Questa impostazione dovrebbe garantire che un prompt non venga conservato dal provider. Il furto suggerisce che i dati siano stati intercettati mentre venivano elaborati, e non recuperati da archivi.
OpenRouter è un gateway che instrada le richieste dei clienti verso un insieme di provider di modelli. Dopo la segnalazione ha rimosso i tre provider coinvolti dal proprio elenco.
Il testo completo della fonte non era disponibile al momento della stesura. Questo articolo si basa solo sul sommario pubblicato. Non sono quindi noti, né sono riportati qui, i nomi dei tre provider, la tecnica di intrusione, il periodo preciso e il volume dei dati. Aggiorneremo il pezzo se compariranno dettagli verificabili.
Perché è importante
Chi usa un gateway verso più provider eredita il livello di sicurezza di ciascun anello della catena. La rimozione dei tre provider mostra che l'intermediario può intervenire. Non mostra però che possa verificare in anticipo l'igiene operativa di ogni fornitore a valle.
Il punto più delicato riguarda ZDR. Si tratta di una promessa contrattuale e di configurazione. Un aggressore che opera dentro l'infrastruttura può leggere i prompt in memoria o nei flussi di rete mentre vengono elaborati, anche se nulla viene scritto su disco. Per un'organizzazione che invia dati riservati, ZDR riduce la conservazione a lungo termine ma non annulla il rischio di esposizione durante l'uso.
C'è poi il tema del rilevamento. Nessun provider si è accorto della compromissione per mesi. Questo fa pensare che il monitoraggio interno di questi servizi, cresciuti in fretta, sia spesso meno maturo di quello dei fornitori cloud tradizionali.
Il caso si aggiunge a quelli già visti in queste settimane sui fornitori di inferenza. Abbiamo raccontato la violazione di Fireworks AI con le trascrizioni di Notion AI esposte. Abbiamo anche trattato la chiave rubata che ha raggiunto Cursor e il caso Uber via fornitore. Non risulta, dalla fonte, un legame tra questi episodi e i tre provider di Dragos. Il filo comune è il rischio di concentrare dati sensibili presso fornitori di inferenza ancora poco scrutinati.
Cosa fare
- Censire i flussi. Elencare applicazioni, agenti e strumenti interni che inviano prompt a gateway o provider AI esterni, inclusi quelli adottati senza passare dall'IT. Per ogni flusso, annotare quali provider finali possono ricevere i dati.
- Controllare la configurazione del gateway. Se si usa OpenRouter o un servizio simile, verificare quali provider sono abilitati. Limitare l'instradamento a un elenco approvato ed escludere il routing automatico verso fornitori non valutati. Controllare le comunicazioni di OpenRouter per sapere se i provider rimossi comparivano nel proprio traffico.
- Valutare i fornitori. Richiedere report di audit (come SOC 2 o ISO 27001), descrizione dei controlli sull'accesso interno, tempi di notifica degli incidenti e sub-fornitori. Considerare ZDR un requisito contrattuale da verificare, non una garanzia tecnica.
- Minimizzare i dati nei prompt. Rimuovere o pseudonimizzare dati personali, credenziali, segreti, codice proprietario e dati di clienti prima dell'invio. Introdurre filtri automatici (DLP) davanti al gateway.
- Mai segreti nei prompt. Se sono finiti in prompt inviati a provider non verificati, ruotare chiavi e token.
- Preparare la risposta. Definire chi valutare e come notificare se un fornitore segnala un incidente. Verificare gli obblighi di notifica, per esempio ai sensi del GDPR, se nei prompt c'erano dati personali.
- Monitorare. Registrare lato aziendale quali provider ricevono quali richieste, per ricostruire l'esposizione in caso di avviso.