AI e GDPR: come trovare il giusto equilibrio

I principi GDPR rilevanti per l'AI

Cinque principi del GDPR impattano in modo diretto l'utilizzo dell'intelligenza artificiale nei processi aziendali. Non sono vincoli astratti: ciascuno ha implicazioni progettuali concrete sul modo in cui si costruisce un sistema che elabora dati personali tramite modelli AI.

• Minimizzazione dei dati: l'AI deve operare solo sui dati strettamente necessari allo scopo. I modelli addestrati su dati in eccesso espongono a rischi sia normativi che di sicurezza, e rendono più complessa la gestione dei diritti degli interessati.
• Limitazione della finalità: i dati raccolti per uno scopo non possono essere usati per addestrare modelli AI con finalità diverse senza una nuova base giuridica esplicita e documentata.
• Trasparenza: gli interessati devono sapere che le loro informazioni vengono elaborate da sistemi automatizzati. Questo deve essere riflesso nell'informativa privacy e, nei casi previsti dall'art. 22, deve includere informazioni sulla logica del sistema.
• Diritti degli interessati: accesso, rettifica, cancellazione e opposizione si applicano anche ai dati usati nei processi AI. Il diritto alla cancellazione, in particolare, pone sfide tecniche significative per i modelli addestrati su quei dati.
• Responsabilità (accountability): il titolare del trattamento deve dimostrare di aver adottato misure adeguate — non è sufficiente dichiararlo. Questo richiede documentazione, audit trail e procedure verificabili.

Perché l'AI complica il GDPR

I modelli di deep learning — LLM, reti neurali convoluzionali, sistemi di raccomandazione — non sono spiegabili nel senso tradizionale del termine. Una decisione prodotta da un modello non può sempre essere ricondotta a una regola esplicita comprensibile da un essere umano. Questo crea una tensione diretta con il requisito GDPR di fornire informazioni significative sulla logica del trattamento automatizzato (art. 22), specialmente quando il trattamento produce effetti giuridici o significativi sull'interessato.

Molti modelli AI richiedono grandi volumi di dati per funzionare bene. Questo crea tensione con il principio di minimizzazione: la tentazione di alimentare il modello con tutti i dati disponibili contrasta con l'obbligo di limitarsi a quelli strettamente necessari. La soluzione non è rinunciare all'AI, ma progettare il sistema partendo dalla definizione di quali dati sono veramente necessari, e usare solo quelli — anche se questo riduce marginalmente le prestazioni del modello.

Quando si utilizzano API AI di terze parti — OpenAI, Google, Anthropic e altri — i dati lasciano l'infrastruttura aziendale ed vengono elaborati su server che possono trovarsi fuori dall'UE. Questo attiva gli artt. 44 e seguenti del GDPR sui trasferimenti internazionali, che richiedono meccanismi adeguati (clausole contrattuali standard, decisioni di adeguatezza) e la verifica che il fornitore non utilizzi i dati degli utenti per addestrare i propri modelli senza consenso esplicito.

Privacy by design: il metodo corretto

La privacy by design applicata all'AI non è una checklist da compilare a posteriori: è una scelta architetturale da fare prima di iniziare a costruire il sistema. Significa partire dalla domanda "quali dati sono veramente necessari per questo scopo?" e non da "quali dati abbiamo disponibili?". Le due domande producono risposte molto diverse.

Il primo passo è definire la base giuridica per ogni flusso di trattamento prima di progettare il processo. Esecuzione di un contratto, obbligo legale, legittimo interesse o consenso: la base giuridica influenza le misure tecniche richieste, i diritti attivabili dagli interessati e le modalità di documentazione. Definirla dopo — quando il sistema è già costruito — spesso produce problemi che sono costosi da correggere.

Dove possibile, i dati personali devono essere anonimizzati o pseudonimizzati prima di essere trasmessi al modello AI. Un sistema di estrazione da documenti, per esempio, può ricevere il testo del documento con i campi identificativi mascherati se il modello non ha bisogno di conoscere il nome specifico della persona per eseguire il compito assegnato. Per i trattamenti ad alto rischio — profilazione, decisioni automatizzate, trattamento su larga scala di dati sensibili — è necessaria la Valutazione d'Impatto sulla Protezione dei Dati (DPIA) prima dell'avvio del trattamento.

Misure tecniche concrete

Le misure tecniche non sostituiscono la documentazione legale, ma la supportano e la rendono verificabile. Per un sistema AI che tratta dati personali, queste sono le misure minime da considerare:

• Anonimizzazione o pseudonimizzazione dei dati prima dell'elaborazione AI, ovunque la finalità del modello lo consenta senza degradare la qualità dell'output.
• Deployment on-premise o su cloud europeo certificato per evitare trasferimenti extra-UE non coperti da adeguate garanzie contrattuali.
• Audit trail completo di ogni operazione AI: quali dati ha elaborato, in quale momento, quale output ha prodotto, quale operatore ha supervisionato il risultato.
• Accesso ai dati AI limitato per ruolo e documentato: non tutti i collaboratori devono vedere i dati che entrano ed escono dal modello.
• Consenso o altra base giuridica adeguata documentata per ogni flusso di trattamento, con possibilità di revoca tracciata.
• Valutazione d'impatto (DPIA) condotta prima dell'avvio per i trattamenti ad alto rischio, con documentazione delle misure adottate per ridurre il rischio residuo.

Il ruolo della supervisione umana

L'art. 22 del GDPR vieta le decisioni basate unicamente su trattamento automatizzato che producano effetti giuridici o significativi sugli interessati, salvo che la persona abbia prestato consenso esplicito, la decisione sia necessaria per l'esecuzione di un contratto, o sia autorizzata dalla legge — e in ogni caso prevedendo misure adeguate, incluso il diritto di ottenere l'intervento umano e di contestare la decisione. Progettare l'AI con supervisione umana non è quindi solo una scelta di prodotto: in molti contesti è un requisito legale esplicito.

Flusso implementa questo principio attraverso un passaggio obbligatorio di validazione da parte dell'operatore prima che qualsiasi azione generata dall'AI produca effetti definitivi. Nei processi dove la decisione AI riguarda un cliente specifico — classificazione di un reclamo, valutazione di una richiesta, risposta a un'istanza — l'operatore rivede e approva prima dell'esecuzione. Questo non rallenta il processo in modo significativo, ma garantisce la conformità all'art. 22 e riduce il rischio di errori AI con impatto sull'interessato.

Checklist pratica

Prima di mettere in produzione un sistema AI che elabora dati personali, verificare che le risposte a queste otto domande siano documentate e positive:

1. Ho identificato la base giuridica per ogni flusso di trattamento AI e l'ho documentata nel registro dei trattamenti?
2. Ho verificato che i dati elaborati dall'AI siano limitati a quelli strettamente necessari alla finalità dichiarata?
3. Il fornitore AI garantisce contrattualmente che i dati non vengano usati per addestrare i propri modelli senza autorizzazione?
4. I dati restano in Europa o esiste un meccanismo di trasferimento adeguato documentato (clausole contrattuali standard, BCR)?
5. Ho previsto un audit trail delle elaborazioni AI che consenta di ricostruire ogni operazione in sede di verifica?
6. Ho implementato il diritto di revisione umana per le decisioni rilevanti ai sensi dell'art. 22 GDPR?
7. Ho condotto o valutato formalmente la necessità di una DPIA per questo trattamento?
8. Gli interessati sono informati dell'uso dell'AI nel processo nell'informativa privacy aggiornata?

Conclusione

AI e GDPR sono compatibili quando l'intelligenza artificiale viene integrata in modo documentato, con misure tecniche adeguate e con la supervisione umana nei punti dove la normativa la richiede. Il rischio maggiore non è nell'AI in sé: è nell'implementazione frettolosa che non documenta le basi giuridiche, non pianifica i diritti degli interessati e non predispone i meccanismi di controllo necessari.

Flusso è progettato con un'architettura in cui l'utilizzo dell'AI è controllato, auditabile e sempre accompagnato da meccanismi di supervisione umana. I dati trattati dai modelli AI vengono segregati, l'audit trail è integrato nella piattaforma e le misure di sicurezza sono conformi allo standard ISO 27001 certificato da Y-B. Questo permette ai clienti di adottare l'AI nei propri processi senza costruire da zero l'infrastruttura di compliance.