Cosa è successo
La società di sicurezza Claroc ha censito online 37.571 applicazioni create con l'assistente AI Grok. Di queste, 35.578 risultavano raggiungibili da chiunque, senza alcuna schermata di accesso. Tra le app aperte ce ne sono 24 realizzate da dipendenti del social network X e dell'azienda che sviluppa Grok, indicata nella fonte come SpaceXSI.
Secondo i ricercatori, la maggior parte delle applicazioni esposte è di scarso interesse: giochi, landing page e calcolatrici. Circa una su dieci, però, conteneva informazioni interne o aziendali. Il titolo della notizia parla anche di password trapelate insieme a dati riservati.
Il testo completo della fonte non era disponibile: il quadro qui riportato si basa sul sommario pubblicato da The Hacker News. Non abbiamo quindi dettagli verificati su come le app siano state individuate, su quali tipi di credenziali fossero presenti o su eventuali sfruttamenti. Non risultano CVE associate al caso, che riguarda configurazioni e pratiche di pubblicazione, non una vulnerabilità di prodotto.
Perché è importante
Il problema non è una falla tecnica nuova, ma una combinazione ricorrente: strumenti che permettono di passare da un prompt a un'applicazione pubblicata in pochi minuti, e utenti, spesso non sviluppatori, che non hanno il contesto per chiedersi chi può raggiungere quell'URL e cosa contiene.
Alcuni aspetti da considerare per chi gestisce la sicurezza in azienda:
- Shadow IT accelerato. Un dipendente può pubblicare uno strumento interno con dati reali in pochi passaggi, fuori da ogni processo di revisione e da qualsiasi inventario. Il fatto che il caso coinvolga anche personale delle aziende che producono lo strumento mostra che la competenza tecnica non basta a evitare l'errore.
- Impostazioni predefinite permissive. Quando una piattaforma pubblica per impostazione predefinita, la sicurezza dipende da una scelta consapevole che molti non sanno di dover fare.
- Segreti nel codice o nei dati. Il codice generato da un modello può includere credenziali scritte in chiaro, perché l'utente le ha incollate nel prompt o perché è il modo più rapido per far funzionare il prototipo. Se l'app è pubblica, quei segreti lo diventano.
- Un'app su dieci con dati sensibili è un tasso alto. Su decine di migliaia di progetti significa migliaia di esposizioni potenziali, anche se la maggior parte dei progetti è banale.
Il tema non è specifico di Grok: vale per qualunque servizio che trasformi richieste in linguaggio naturale in applicazioni pubblicate.
Cosa fare
Per i team di sicurezza
- Definisci una policy esplicita sull'uso di strumenti AI che pubblicano app: chi può usarli, con quali dati, e quali piattaforme sono approvate.
- Cerca le app già pubblicate dai tuoi utenti: verifica i domini usati dalle piattaforme di generazione, i log del proxy e le segnalazioni di dipendenti, e chiedi ai responsabili di area un elenco delle app create.
- Per ogni app trovata, verifica se è accessibile senza autenticazione e cosa espone. Se contiene dati aziendali, ritirala o mettila dietro login.
- Se ci sono segreti esposti (password, token, chiavi API), considerali compromessi: ruotali e controlla i log degli accessi dei servizi collegati.
Checklist prima del deploy di codice generato da AI
- Apri l'URL in una finestra anonima, da una rete esterna: se vedi i dati senza accedere, l'app non è pronta.
- Imposta autenticazione e autorizzazione lato server, non solo nell'interfaccia; verifica che le API rifiutino richieste senza sessione valida.
- Cerca nel codice e nella cronologia credenziali, token e stringhe di connessione; usa un secret scanner e sposta i valori in un gestore di segreti.
- Non usare dati reali o riservati in fase di prototipo: usa dati fittizi.
- Controlla le dipendenze introdotte e le impostazioni di visibilità della piattaforma (pubblico, link condiviso, privato).
- Limita i dati restituiti dalle API al minimo necessario e disattiva endpoint di debug e di esportazione.
- Fai approvare da una seconda persona qualsiasi app che tratti dati aziendali o personali, e registrala in un inventario con un responsabile.
Prima di agire sulle singole app, consulta il rapporto originale di Claroc, appena disponibile in forma completa, per i dettagli sulla metodologia.