Registro delle decisioni per agenti IA: progettare la prova

Quando un agente IA decide qualcosa, la domanda che arriva prima o poi è sempre la stessa: “perché ha deciso X?”. Se non hai un registro delle decisioni, non hai una risposta. Hai una scusa.

In sintesi

Il registro delle decisioni (in inglese audit log) è l’archivio immutabile di come un agente IA arriva a ogni output. Non è un requisito burocratico: è ciò che rende una decisione automatica difendibile e correggibile. Un registro utile annota cinque cose per decisione: input, contesto recuperato, regole o istruzioni applicate, output, passaggio a una persona. Progettato così, serve tre scopi in uno: prova di conformità, strumento per trovare gli errori, base di fiducia con clienti e revisori. Progettato male, è un file di testo che nessuno riesce a leggere quando serve.

Questo pezzo non parla di normativa in astratto. Parla di come si costruisce la prova, campo per campo, dentro un agente in produzione.

Per i sistemi ad alto rischio, comunque, la norma c’è: l’AI Act chiede che registrino automaticamente gli eventi (art. 12) e che chi li usa conservi questi registri per almeno sei mesi (art. 26). Gli obblighi si applicano dal 2 dicembre 2027, dopo il rinvio deciso con il Digital Omnibus. Per gli altri agenti il registro non è obbligatorio, ma è il modo più semplice per rispondere quando qualcuno chiede conto di una decisione.

In breve:

• Il registro delle decisioni risponde a una domanda operativa, non legale: come ha deciso l’agente. Chi non lo tiene parte già in ritardo su ogni contestazione.
• Servono cinque campi per decisione: input, contesto, regole/istruzioni, output, passaggio a una persona. Meno di così e non ricostruisci nulla.
• Immutabile significa righe che si aggiungono e non si riscrivono, a prova di manomissione, non blockchain. Archivi a scrittura unica e permessi separati bastano.
• Il registro è anche uno strumento per trovare gli errori: distingue un errore di dati da un errore di regola da un errore di istruzioni.
• Va abbinato al DPA art. 28 GDPR col fornitore: il registro dice come ha deciso l’agente, il DPA dice chi tratta i dati e come.

Perché un registro utile parte dalla decisione, non dal sistema

Molte aziende registrano tutto e non ricostruiscono niente. Il trucco è invertire la logica: non “cosa produce il sistema”, ma “cosa mi serve per difendere questa singola decisione”.

Per ogni decisione dell’agente, registra:

• Input ricevuto: l’evento di avvio e i dati in ingresso, così come sono arrivati.
• Contesto e dati recuperati: cosa ha letto l’agente prima di decidere (documenti, record, risultati di ricerca).
• Regole o istruzioni applicate: la versione delle istruzioni (il prompt) o della logica, non solo “il modello”.
• Output prodotto: la decisione o la bozza, con eventuale punteggio o motivazione.
• Passaggio a una persona: se e quando è successo, e cosa ha deciso quella persona.

Con questi cinque campi rispondi a “perché X” in trenta secondi. Senza, apri un’indagine.

Immutabile senza esagerare

“Immutabile” spaventa perché evoca infrastrutture pesanti. Non serve. Immutabile vuol dire tre cose concrete:

1. Solo aggiunte: si aggiungono record, non si riscrivono.
2. A prova di manomissione: un’impronta crittografica (hash) di ogni record, così un’alterazione si vede.
3. Permessi separati: chi opera l’agente non è chi può toccare i registri.

Archivi a scrittura unica, un hash per riga, ruoli distinti. La blockchain è sovradimensionata per la maggior parte delle PMI: risolve un problema di fiducia tra parti che non si fidano, non il tuo problema di tracciabilità interna.

Il registro come strumento per trovare gli errori, non solo di prova

Qui sta il valore che i venditori di paura non ti raccontano. Quando un agente sbaglia, il registro ben progettato ti dice dove ha sbagliato:

• Dati sbagliati in ingresso, è un problema di input.
• Ha letto la cosa giusta ma ha concluso male, è un problema di istruzioni o regola.
• Ha deciso da solo quando doveva passare a un umano, è un problema di passaggio alla persona.

Senza i cinque campi separati, questi tre casi sembrano lo stesso bug e ci perdi giorni. Con il registro giusto, è una lettura. È per questo che lo includiamo di serie in ogni sprint di agenti IA: non è un modulo di conformità opzionale, è come si tiene un agente sotto controllo.

Dove il registro fa la differenza davvero

Sugli agenti interni di amministrazione e finanza, il registro è quello che fa passare una riconciliazione automatica da “il computer dice così” a “ecco la regola applicata su questi dati”. Sulla selezione del personale, dove trattiamo i progetti con la massima cautela, il registro è la condizione per poter promettere volumi come i 100k+ candidati gestiti dall’agente di APraise senza che una singola valutazione resti inspiegabile.

Il registro da solo non basta. Serve abbinarlo al DPA col fornitore previsto dall’art. 28 del GDPR: il registro spiega come ha deciso l’agente, il DPA stabilisce chi tratta i dati, dove e con quali garanzie. Due strumenti diversi, stesso obiettivo: una decisione automatica che regge quando qualcuno la mette in discussione.

Quando NON ti serve registrare tutto

Te lo dico in faccia: se un agente riassume un documento interno e non decide su nessuno, non ti serve un sistema di audit da 30k. Ti serve un registro minimo e leggibile. Chi ti vende piattaforme di monitoraggio da grande azienda su un caso banale sta vendendo complessità, non tracciabilità. Il costo del registro deve crescere con l’impatto della decisione, non con la moda del momento.

Vuoi capire quale livello di registrazione serve ai tuoi agenti e come integrarlo senza appesantirli? Parliamone, 20 minuti, senza discorsi di vendita.