Quanta autonomia dare a un agente IA: dove inserire il controllo umano

La domanda arriva spesso subito dopo la messa in produzione: “quanto lo lasciamo decidere da solo, ‘sto agente?”

È la domanda giusta. Ma la maggior parte delle aziende la risolve male, ai due estremi. O danno all’agente autonomia zero (e allora l’umano approva tutto, e il risparmio di tempo svanisce). O gli danno autonomia totale (e prima o poi manda una cosa sbagliata a un cliente o autorizza un pagamento che non doveva).

La risposta operativa sta nel mezzo, ma non a caso. Si progetta.

In breve:

• La supervisione umana serve nei pochi punti ad alto rischio o irreversibili, NON ovunque. Se l’umano approva il 100% degli output, hai ricostruito il lavoro manuale.
• Decidi dove mettere il controllo umano con due assi: reversibilità e impatto. Reversibile + basso impatto → autonomia. Irreversibile o alto impatto → approvazione umana obbligatoria.
• L’AI Act (art. 14) impone supervisione umana effettiva solo ai sistemi ad alto rischio (es. selezione del personale), dal 2 dicembre 2027; per il resto è buona pratica, non obbligo.
• Un buon progetto lascia passare in autonomia l’80-90% dei casi standard e ferma solo eccezioni e anomalie.
• Con Rainplan gestiamo in autonomia centinaia di lotti e approvazioni con più parti coinvolte, con l’umano solo sul passaggio decisionale finale.

Il vero costo di un controllo umano mal posizionato

Ogni controllo umano è una tassa sulla velocità del processo. Non è gratis. Se un umano deve guardare ogni output prima che parta, hai due problemi: hai rimesso un collo di bottiglia umano nel processo, e l’umano si abitua a cliccare “approva” senza leggere (la cosiddetta approvazione a occhi chiusi, che è peggio di nessuna supervisione perché ti dà l’illusione del controllo). L’AI Act lo chiama “distorsione dell’automazione” e chiede che chi sorveglia un sistema ad alto rischio ne resti consapevole (art. 14).

Quindi la regola numero uno: metti l’umano dove il suo giudizio cambia davvero l’esito, non dove ti fa sentire tranquillo.

La matrice: reversibilità × impatto

Usiamo due assi per decidere ogni singolo passo di un flusso di lavoro.

Reversibilità: se l’azione va storta, quanto costa annullarla? Aggiornare un’etichetta nel CRM è reversibile in 10 secondi. Inviare una mail a 400 clienti no. Autorizzare un bonifico no.

Impatto: chi tocca l’errore? Un dato interno sbagliato è fastidio operativo. Una decisione sbagliata su una persona (un candidato scartato ingiustamente) o su un cliente è danno reale, e spesso reputazionale o legale. Se poi la decisione è presa solo in automatico, entra in gioco l’art. 22 del GDPR, che dà alla persona il diritto di non subirla, salvo eccezioni.

Da qui i quattro quadranti:

• Reversibile + basso impatto (bozze, etichette, arricchimento dei dati, classificazione): autonomia piena, l’agente esegue e registra.
• Reversibile + alto impatto (resoconto per la direzione, punteggi interni): autonomia con notifica, un umano lo vede ma non deve pre-approvarlo.
• Irreversibile + basso impatto (archiviazione, eliminazione dei doppioni): autonomia con soglia, l’agente ferma solo i casi ambigui.
• Irreversibile + alto impatto (invio a cliente, pagamento, decisione su persona): approvazione umana obbligatoria.

È una tabella che compiliamo insieme al cliente in fase di analisi, riga per riga sul flusso di lavoro reale. Non è filosofia: è dove finisce il confine tra ciò che l’agente esegue da solo e ciò che aspetta una firma.

Un caso concreto: approvazioni con più parti coinvolte in Rainplan

Rainplan si occupa di gestione delle acque piovane: centinaia di lotti, ognuno con più parti interessate che devono approvare. Il tipo di processo dove la tentazione è “automatizziamo tutto” e poi ti ritrovi con approvazioni sbagliate irreversibili.

La scelta di progetto: l’agente fa in autonomia tutto ciò che è reversibile e a basso impatto, acquisizione dei lotti, arricchimento dei dati, preparazione dei dossier, smistamento verso la persona giusta. Centinaia di lotti gestiti senza intervento umano.

Ma il passaggio decisionale finale, l’approvazione che fa scattare effetti sul mondo reale, resta umano. Non perché l’agente non saprebbe deciderlo, ma perché è irreversibile e coinvolge più parti. Lì un umano firma, sempre. E firma su un dossier già pronto, non su un foglio bianco: per questo il risparmio di tempo resta enorme anche col controllo umano attivo.

Questo è il punto che si sbaglia più spesso: il controllo umano non annulla il risparmio se l’agente arriva all’approvazione con il lavoro già fatto. L’umano decide, non compila.

Cosa dice l’AI Act (senza allarmismi)

L’art. 14 del Regolamento europeo IA impone supervisione umana effettiva ai sistemi ad alto rischio, con obblighi che si applicano dal 2 dicembre 2027 dopo il rinvio deciso con il Digital Omnibus. Per una PMI questo tipicamente significa selezione del personale e valutazione del merito di credito. Per il resto, agenti per amministrazione, assistenza interna e vendite, l’obbligo diretto è più leggero.

Ma “più leggero” non vuol dire “niente”. Anche fuori dall’alto rischio, un agente di assistenza clienti che risponde a un cliente o un agente per l’amministrazione che tocca importi vuole comunque un registro delle attività e un’approvazione sui casi critici. Non per conformità: per poter rendere conto. Se un giorno devi spiegare “perché l’agente ha fatto X”, il registro e il punto di supervisione sono la tua risposta. Approfondiamo i livelli di rischio nella nostra guida all’AI Act.

Quando NON serve un controllo umano

Te lo dico chiaro, perché il rischio opposto è reale:

• Attività ripetitiva, reversibile, interna (classificare richieste di assistenza, etichettare contatti, estrarre dati da PDF): mettere un umano ad approvare è spreco puro. Registra e vai avanti.
• Volume alto + errore poco costoso: se correggere un errore costa meno che approvare ogni caso, lascia correre l’agente e correggi a valle.
• Quando l’umano non ha contesto per decidere meglio dell’agente: se il tuo revisore approverebbe comunque tutto senza aggiungere giudizio, il controllo è teatro.

La supervisione umana ben progettata non è “quanto controllo posso mettere”. È “qual è il minimo controllo che copre i rischi che contano davvero”.

Come lo impostiamo negli sprint

In fase di analisi mappiamo il flusso di lavoro passo per passo sulla matrice reversibilità × impatto, definiamo le approvazioni obbligatorie, e le scriviamo nel contratto insieme alla metrica principale. Il registro immutabile di ogni decisione è di serie. Così a 30 giorni dalla messa in produzione sappiamo non solo se l’agente ha recuperato tempo, ma anche quante volte è servito l’umano, e se serviva davvero.

Vuoi mappare i controlli umani sul tuo processo reale? Parliamone (20 minuti, senza discorsi di vendita) o fai il check-up.