Cosa è successo
Notion, piattaforma di collaborazione e produttività, sta avvisando un numero ridotto di clienti che alcuni loro dati sono stati compromessi in seguito a una violazione subita da Fireworks AI, fornitore cloud per l'esecuzione e il fine-tuning di modelli open source. Notion utilizzava Fireworks come provider generico di inferenza per erogare modelli open-weight.
Secondo la ricostruzione riportata da SecurityWeek, Fireworks ha subito due attacchi distinti nel mese di ottobre:
- il primo tramite credenziali interne compromesse;
- il secondo, il 24 ottobre, attraverso un provider cloud di terze parti che ospitava macchine di ricerca e sviluppo di Fireworks. In questo caso gli aggressori hanno eseguito un carico di lavoro non autorizzato, con conseguente compromissione di dati dei clienti. L'episodio è collegato a un recente aumento dell'attività di LLMJacking, cioè l'abuso di risorse e accessi per eseguire modelli AI a spese altrui.
Fireworks ha dichiarato di aver contenuto l'incidente lo stesso giorno e ha avvisato Notion il 2 novembre, comunicando che erano stati consultati dati di Notion AI.
Dall'indagine di Notion risulta che gli attaccanti hanno avuto accesso alle trascrizioni delle chat di Notion AI usate per la funzione Insights, che aiuta i clienti a capire come utilizzano l'AI. Sono interessati meno dell'1% dei workspace e la maggior parte delle trascrizioni non è attribuibile a un cliente o a un workspace: oltre al contenuto della chat, secondo Notion non ci sono informazioni che colleghino la conversazione a workspace, utenti o aziende. Notion non ha comunicato quanti clienti siano coinvolti. Ha contattato quelli interessati con istruzioni per recuperare e rivedere in sicurezza i dati nei propri workspace.
Perché è importante
L'impatto dichiarato è contenuto, ma il caso illustra bene il rischio di terze parti nella catena di fornitura AI. Un servizio SaaS che integra funzioni di intelligenza artificiale spesso si appoggia a provider di inferenza esterni: i prompt degli utenti, e quindi qualunque informazione vi sia inserita, attraversano infrastrutture che il cliente finale non vede e con cui non ha un contratto diretto.
Tre elementi meritano attenzione:
- Contenuto delle chat. Le conversazioni con un assistente AI includono spesso materiale non pensato per essere condiviso: frammenti di documenti, dati di clienti, e talvolta password o chiavi API. Notion stessa raccomanda di considerare i dati come esposti e di ruotare le credenziali eventualmente incollate in Notion AI durante il periodo dell'incidente.
- Anonimato parziale non significa assenza di rischio. Il fatto che la maggior parte delle trascrizioni non sia riconducibile a un workspace riduce il danno, ma il testo può comunque contenere nomi, riferimenti a progetti o segreti che permettono di risalire all'origine.
- Catena di dipendenze. La compromissione è passata da un provider cloud ulteriore (quarta parte, dal punto di vista del cliente di Notion). Più la catena si allunga, più è difficile avere visibilità su controlli e tempi di notifica. Qui il fornitore ha avvisato Notion circa nove giorni dopo l'incidente del 24 ottobre.
Cosa fare
Se la vostra organizzazione usa Notion AI o strumenti analoghi:
- Controllare le comunicazioni di Notion. Verificate se l'azienda ha ricevuto la notifica e, in caso affermativo, seguite le istruzioni per recuperare e rivedere i dati interessati nel workspace.
- Ruotare le credenziali a rischio. Se password, token o chiavi API sono stati incollati in Notion AI nel periodo dell'incidente, revocateli e riemetteteli; verificate nei log dei servizi interessati eventuali accessi anomali.
- Rivedere il contenuto delle chat. Chiedete ai team di individuare dati personali, segreti o informazioni riservate presenti nelle conversazioni, per valutare eventuali obblighi di notifica (ad esempio ai sensi del GDPR) con il vostro DPO.
- Mappare i sub-fornitori AI. Per ogni strumento SaaS con funzioni AI, individuate quali provider di inferenza e quali cloud sottostanti sono usati, leggendo le liste dei sub-responsabili del trattamento e la documentazione di sicurezza.
- Rivedere i contratti. Verificate tempi di notifica degli incidenti, politiche di conservazione di prompt e trascrizioni, e se i dati vengono usati per scopi diversi dall'erogazione del servizio.
- Definire policy d'uso. Vietate l'inserimento di credenziali e dati sensibili nei prompt, e usate secret manager e controlli DLP dove possibile.
- Monitorare i propri account AI. Se gestite direttamente chiavi per servizi di inferenza, applicate limiti di spesa, rotazione periodica e alert su consumi anomali, indicatori tipici di LLMJacking.
Notion ha dichiarato che SecurityWeek ha chiesto ulteriori informazioni e l'articolo potrebbe essere aggiornato: conviene seguire gli sviluppi, in particolare sul numero di clienti coinvolti.