Agenti IA in settori regolamentati: cosa è permesso davvero
Banche, assicurazioni, sanità: cosa puoi davvero fare con gli agenti IA in un settore regolamentato. Mappa operativa AI Act + GDPR, senza allarmismi.
Ogni mese arriva la stessa email da un CFO di una banca o di un’assicurazione: “Vogliamo usare gli agenti IA, ma il nostro responsabile della conformità dice di no a tutto.”
Risposta onesta: il responsabile della conformità ha ragione su alcune cose e torto su altre. Il problema è che nessuno gli ha fatto la mappa operativa. Eccola.
In breve:
- In un settore regolamentato non conta cosa fa la tecnologia, conta su chi impatta la decisione: automazione documentale interna è rischio minimo, valutazione del merito di credito o triage sanitario di emergenza è rischio alto.
- Gli obblighi dell’AI Act per i sistemi ad alto rischio (merito di credito, polizze vita e salute, triage di emergenza) si applicano dal 2 dicembre 2027, dopo il rinvio del Digital Omnibus. Per chi li usa: sorveglianza umana, registri conservati almeno sei mesi e, per credito e polizze, una valutazione d’impatto sui diritti fondamentali.
- La regola pratica che usiamo: l’agente IA istruisce e prepara, l’umano firma. Questo tiene la maggior parte dei processi fuori dalle decisioni basate unicamente su un trattamento automatizzato, che l’art. 22 del GDPR limita.
- Il punto di partenza più sicuro è quasi sempre l’automazione documentale (rischio minimo). Su Numeraria, studio paghe e contabilità, ha restituito circa metà mese alla direzione.
- DPA art. 28 GDPR, hosting UE, registro immutabile delle decisioni, nessun addestramento degli LLM sui dati del cliente: senza queste fondamenta non si parte nemmeno.
Cosa significa “agente IA in settore regolamentato”
Un agente IA in settore regolamentato è un sistema software che esegue compiti in autonomia (legge, valuta, agisce) dentro un’organizzazione soggetta a regole specifiche di settore, banca, assicurazioni, sanità, dove le decisioni automatizzate sono vincolate da AI Act, GDPR e normativa di vigilanza. La distinzione chiave non è tecnica: è chi subisce l’effetto della decisione.
Detto in modo brutale: lo stesso identico agente può essere libero da obblighi o soggetto ai più pesanti dell’AI Act, a seconda di cosa decide e su chi.
La domanda che decide tutto: chi subisce l’output?
L’AI Act classifica i sistemi in quattro livelli di rischio (li abbiamo mappati in dettaglio nella guida AI Act per aziende). Per i settori regolamentati il confine operativo è uno solo.
Se l’agente decide o influenza significativamente una persona in uno dei casi elencati dall’allegato III, valutare il merito di credito per un mutuo, fissare rischio e premio di una polizza vita o salute, fare il triage di un paziente in emergenza, sei in rischio alto. Punto. Niente scorciatoie.
Se l’agente lavora su documenti, dati e processi interni senza decidere su persone, riconciliazioni, estrazione fatture, resoconti, archiviazione, sei in rischio minimo.
Questo unico criterio risolve la maggior parte dei dubbi del responsabile della conformità. Gli obblighi per l’alto rischio si applicano dal 2 dicembre 2027, dopo il rinvio deciso con il Digital Omnibus: c’è tempo per prepararsi, ma il confine è già questo.
Banche: dove si può, dove no
Si può (rischio minimo/limitato):
- Riconciliazioni bancarie, estrazione dati da estratti conto, segnalazioni di vigilanza ricorrenti
- Pre-compilazione dei dossier di adeguata verifica della clientela (KYC), con verifica umana finale
- Smistamento interno delle richieste, bozze di risposta (umano approva e invia)
Non si può senza obblighi pesanti (rischio alto):
- Valutazione automatica del merito di credito che decide l’esito di una richiesta di credito
- Decisioni su limiti di fido senza supervisione umana documentata
La via percorribile: l’agente prepara il punteggio e il dossier, l’analista firma la decisione. L’agente non produce output legalmente vincolante. È anche la strada più semplice rispetto all’art. 22 del GDPR, che limita le decisioni basate unicamente su un trattamento automatizzato.
Assicurazioni: la trappola del prezzo
In assicurazione il rischio alto scatta su un fronte preciso: la valutazione del rischio e il prezzo delle polizze vita e salute (allegato III, punto 5). La gestione dei sinistri non è nell’elenco, ma un rifiuto deciso solo in automatico ricade comunque nell’art. 22 del GDPR: anche lì conviene che decida una persona.
Cosa si fa in sicurezza:
- Estrazione e validazione documenti di polizza e sinistro
- Preparazione del fascicolo per il liquidatore (che decide)
- Rilevazione di anomalie e potenziali frodi da segnalare a un umano, non da bloccare in automatico
La regola: l’agente segnala, l’umano dispone.
Per banche e assicurazioni c’è un obbligo in più, dal 2 dicembre 2027: prima di usare un sistema ad alto rischio per il merito di credito o per le polizze vita e salute, devono fare una valutazione d’impatto sui diritti fondamentali (art. 27 dell’AI Act).
Sanità: il livello più alto di attenzione
Qui i dati sanitari sono una categoria particolare per il GDPR (art. 9) e molti sistemi di supporto diagnostico sono dispositivi medici che ricadono in rischio alto: per loro gli obblighi dell’AI Act si applicano dal 2 agosto 2028. La parte automatizzabile in sicurezza è quasi tutta amministrativa e documentale: gestione cartelle, estrazione referti, prenotazioni, conformità documentale. Tutto ciò che tocca diagnosi o triage clinico richiede supervisione medica e una valutazione d’impatto sulla protezione dei dati (DPIA, art. 35 del GDPR) prima ancora di scrivere una riga di codice.
Il caso pratico: dove parte sempre l’automazione sicura
Il punto di ingresso meno rischioso, in qualsiasi settore regolamentato, è l’automazione documentale interna, esattamente il terreno del nostro lavoro sull’automazione di amministrazione e documenti.
Su Numeraria, studio di paghe e contabilità che lavora dentro vincoli normativi stringenti, gli agenti IA gestiscono preventivi, ore e riconciliazioni. Risultato: circa metà mese restituito alla direzione. Nessuna decisione su persone, nessun output vincolante verso terzi: rischio minimo, valore immediato.
È il modello che consigliamo: si parte dall’automazione documentale a basso rischio, si costruiscono regole e controlli, e solo dopo, se serve, si valuta il livello alto con tutte le tutele.
Le fondamenta non negoziabili
Indipendentemente dal settore, un agente IA in ambiente regolamentato richiede:
- DPA art. 28 GDPR con ogni fornitore della catena.
- Hosting UE o on-premise per dati sensibili.
- Registro immutabile di ogni decisione: input, regole applicate, output, evento di avvio, eventuale passaggio a una persona.
- Supervisione umana definita in anticipo sui casi critici.
- Nessun addestramento degli LLM sui dati del cliente.
Noi le includiamo di serie nei nostri sprint sugli agenti IA, non per eroismo: senza queste cose, su un settore regolamentato, non puoi nemmeno cominciare.
Quando NON costruire un agente (te lo diciamo in faccia)
- Quando il processo richiede una decisione legalmente vincolante senza margine di supervisione umana → prima cambia il processo, poi automatizza.
- Quando il dato non può uscire da un perimetro chiuso e non c’è una DPIA → prima si sistemano regole e controlli.
- Quando non hai numeri di partenza misurati → senza sapere quanto costa oggi l’attività, non puoi sapere se l’agente ha senso.
Vuoi sapere in quale livello ricade il tuo caso specifico? Parliamone (20 minuti, senza discorsi di vendita) o fai il check-up in 3 minuti.
Domande frequenti
Quello che ci chiedono di solito.
Un agente IA può prendere decisioni autonome in banca o in assicurazione?
Da quando valgono gli obblighi dell'AI Act per l'alto rischio?
Posso usare un agente IA per l'automazione documentale in un settore regolamentato?
Dove devono stare i dati per essere in regola?
Quando NON conviene un agente IA in un settore regolamentato?
Continua a leggere
Se l'agente IA sbaglia, chi paga? Responsabilità PMI
Quando un agente IA allucina o sbaglia, la responsabilità resta tua. Contratti, DPA e polizze che le PMI ignorano prima di andare in produzione.
IA non autorizzata in azienda: come gestirla prima del 2026
I tuoi dipendenti usano già l'IA senza dirtelo. Guida pratica per mapparne l'uso, ridurre il rischio di fuga di dati e scrivere regole conformi all'AI Act.
Newsletter
La newsletter di Soraia
Ogni due giovedì Daniel racconta un lavoro d'ufficio ripetitivo e come lo fa un agente IA, con un caso vero dai progetti che seguiamo. Si legge in tre minuti.
Prossimo passo
Dove sei nel percorso verso l'IA?
Il check-up ti dà un punteggio di prontezza IA (0-100) + 3 prossimi passi concreti. 3 minuti, senza email.