Cosa è successo
Un gruppo di ricercatori ha dimostrato che una singola pagina web malevola poteva prelevare da Meta Muse le conversazioni private e le "memorie" di un utente, cioè le informazioni che l'assistente conserva tra una sessione e l'altra. Secondo il resoconto di The Hacker News, l'operazione non faceva comparire alcuna richiesta di approvazione, quindi la vittima non aveva modo di accorgersi di quanto stava accadendo.
Lo stesso schema, sempre secondo la fonte, poteva essere esteso fino alle credenziali che Muse conserva per gli account collegati dall'utente, come servizi esterni a cui l'assistente accede per conto suo.
Ci sono due precisazioni importanti. Il lavoro è stato una dimostrazione di laboratorio e non risulta un attacco contro utenti reali. Inoltre l'impatto resta confinato all'account del singolo utente: non si parla di accesso trasversale ai dati di altri utenti.
Il testo completo della fonte non era disponibile al momento della stesura. Mancano quindi dettagli tecnici affidabili, come la tecnica esatta usata, la presenza di un identificativo CVE, lo stato della correzione e le tempistiche di divulgazione. Non li ricostruiamo: conviene consultare l'articolo originale e le comunicazioni ufficiali di Meta.
Perché è importante
Il caso è utile per le caratteristiche dell'assistente, più che per il singolo prodotto. Un assistente AI con memoria persistente e credenziali collegate accumula dati sensibili, e una sola pagina web basta a raggiungerli. Il fatto che manchi qualsiasi richiesta di conferma è il punto critico. I controlli di approvazione sono spesso l'ultima barriera tra contenuto non attendibile e azioni sensibili. Se si possono aggirare, il modello di fiducia dell'assistente crolla.
Per le aziende il rischio è concreto: i dipendenti usano assistenti consumer o semi-professionali collegati a posta, calendario, archivi documentali o altri servizi. La compromissione di un assistente può quindi diventare la compromissione di quegli account, con conseguenze su dati aziendali e conformità, anche se il perimetro resta quello del singolo utente.
Cosa fare
Le indicazioni seguenti sono buone pratiche generali, non misure prescritte dalla fonte.
- Censire gli assistenti AI in uso: verificare quali strumenti sono usati in azienda e quali account e servizi vi sono collegati.
- Ridurre i permessi delle integrazioni: collegare solo gli account indispensabili, con privilegi minimi e, dove possibile, in sola lettura. Meglio token a scadenza breve e con ambito limitato rispetto a credenziali persistenti ampie.
- Rivedere le memorie salvate: invitare gli utenti a controllare e cancellare le informazioni sensibili conservate dall'assistente, come password, dati di clienti o documenti riservati.
- Separare navigazione e assistente: evitare di far elaborare all'assistente pagine web di origine non attendibile mentre sono attive integrazioni sensibili.
- Verificare le comunicazioni del vendor: controllare gli aggiornamenti e gli avvisi di Meta su Muse e applicare le correzioni appena disponibili.
- Monitorare gli account collegati: controllare nei log dei servizi connessi accessi anomali, nuovi token autorizzati o attività non riconducibili all'utente, e revocare le autorizzazioni sospette.
- Aggiornare le policy interne: includere gli assistenti AI con credenziali collegate nella valutazione del rischio terzi e nelle regole di uso accettabile.
Per un altro caso recente su permessi e dati personali in ambito Meta, si veda la sanzione del Garante italiano.