Eseguire l’inferenza sul proprio computer permette di elaborare i prompt senza inviarli a un server remoto, a patto che l’applicazione e l’intero percorso dei dati siano configurati per restare confinati sulla macchina. Far girare un modello in locale non dimostra però che il programma nel suo complesso operi offline, né garantisce di per sé che i file salvati sul disco siano al sicuro: la riservatezza dipende anche da accessi, cronologia e file temporanei.

Che cosa significa «offline» in una libreria

La modalità offline documentata da Hugging Face per la libreria Transformers governa esclusivamente il comportamento del codice di caricamento e la lettura dei file già presenti in cache, impedendo alla libreria di aprire connessioni verso l’esterno per scaricare pesi o configurazioni mancanti. Si tratta quindi di un vincolo sul recupero dei file (fetching), non di un blocco di rete esteso all’intero programma.

Un’interfaccia grafica o un’applicazione desktop costruita sopra quella libreria può infatti includere moduli di telemetria, controlli di aggiornamento automatico, plugin di ricerca web e connettori verso servizi cloud esterni: nessuna di queste funzioni viene disattivata dalla semplice variabile offline della libreria sottostante.

Segui il percorso dei dati, non la parola «locale»

Per valutare la reale riservatezza di un flusso di lavoro occorre spostare l’attenzione dal modello all’intero sistema software, rispondendo a cinque domande operative:

  1. Da quali cartelle o sorgenti vengono letti i documenti che carichi nel programma?
  2. Dove vengono salvati il database della cronologia, gli allegati estratti e la cache di indicizzazione?
  3. Quali plugin, estensioni o strumenti (tool) sono attivi, e a quali risorse esterne hanno accesso?
  4. Quali connessioni di rete vengono aperte dall’eseguibile all’avvio e durante la generazione delle risposte?
  5. In quale percorso vengono scritti i file di log diagnostici, cosa contengono in chiaro e per quanto tempo vengono conservati?

Un’applicazione può infatti eseguire il calcolo matematico sulla GPU del tuo computer e comportarsi come un servizio connesso in tutto il resto: l’aggettivo «locale» descrive dove gira il modello, non dove finiscono i tuoi dati.

Anche i file del modello sono una superficie d’attacco

Un modello scaricato dalla rete non è composto soltanto da matrici di numeri innocui. Accanto ai pesi viaggiano i file del tokenizer, i parametri di configurazione e, nei formati tradizionali basati sulla serializzazione pickle di Python, istruzioni eseguibili durante la deserializzazione. Il formato Safetensors sviluppato da Hugging Face archivia tensori e metadati senza ricorrere a quel meccanismo di ricostruzione degli oggetti Python.

Adottare Safetensors evita il meccanismo di esecuzione di codice proprio di pickle per i tensori, ma non certifica l’affidabilità dell’intero pacchetto né dell’autore che lo ha caricato online: se l’utente abilita l’esecuzione di codice remoto personalizzato o avvia script di supporto allegati al repository, il sistema resta comunque esposto. Verificare sempre la fonte, la revisione del commit e l’integrità dei checksum rimane indispensabile, perché l’uso di Safetensors non autentica chi ha prodotto il file.

Una verifica proporzionata al rischio

  • Collauda il flusso con dati fittizi: esegui le prime prove utilizzando documenti sintetici prima di dare in pasto all’applicazione contratti o archivi riservati.
  • Disattiva il superfluo: ispeziona le impostazioni per spegnere la telemetria, l’invio automatico di crash report e le integrazioni che non utilizzi.
  • Riduci i permessi sul file system: limita l’accesso dell’applicazione alle sole directory di lavoro strettamente necessarie.
  • Isola l’ambiente se i dati lo richiedono: una macchina virtuale senza rete può separare il lavoro dalle connessioni esterne, ma vanno controllati anche cartelle condivise, appunti e altri canali con l’host; usare semplicemente un account utente secondario sul sistema operativo limita invece alcuni accessi ai file, ma non blocca la rete né protegge i dati dai processi con privilegi di amministratore.
  • Controlla la persistenza su disco: verifica dove restano archiviati log, database vettoriali e copie temporanee, e stabilisci come ripulirli.

Un controllo ben fatto lascia riscontri oggettivi: l’elenco delle connessioni di rete osservate tramite firewall o monitor di sistema, la mappa dei permessi concessi e la posizione esatta dei file generati. Poiché questo riscontro riguarda la versione e la configurazione che hai verificato, ricorda di ripetere il controllo dopo gli aggiornamenti del software, affiancando a queste misure una gestione sicura di backup e ripristino dei dati e valutando sempre i rischi di prompt injection ogni volta che il modello elabora documenti provenienti da fonti non attendibili.

Fonti

Segnala una correzione ↗