L'agente propone, l'umano approva: chi risponde di cosa

Quando un agente AI propone un intervento e una persona lo approva, la responsabilità non «passa» da una parte all'altra: resta dove l'organizzazione l'ha collocata, nei ruoli e nelle deleghe già esistenti. L'agente prepara e spiega; la persona decide e ne risponde secondo il proprio ruolo. Questo articolo chiarisce la ripartizione pratica nel modello proposta-approvazione e rimanda al consulente legale per i profili giuridici, che dipendono dal caso concreto.

Proposta, spiegazione, decisione: i tre momenti

Nel modello «l'agente propone, l'umano approva» ogni intervento attraversa tre momenti distinti, e la responsabilità si legge proprio nella loro separazione:

1. Proposta. L'agente osserva un segnale e prepara un intervento possibile: cosa fare, su quali sistemi, con quali conseguenze attese. In questa fase l'agente non ha deciso nulla di vincolante e non ha eseguito nulla.
2. Spiegazione. La proposta arriva alla persona con le sue ragioni: quali fonti sono state consultate, quali informazioni mancano, quali rischi comporta agire e quali non agire. Una proposta senza spiegazione non è approvabile in modo consapevole.
3. Decisione. La persona prevista approva, rifiuta o chiede un approfondimento. La decisione è nominativa e motivata, e vale per quell'intervento e quella finestra: non è un'autorizzazione generale.

Questa architettura è coerente con il principio di supervisione umana che il Regolamento europeo sull'intelligenza artificiale (AI Act) prescrive per i sistemi classificati ad alto rischio, i cui obblighi si applicheranno secondo il calendario ufficiale del regolamento. Per un agente interno dedicato alle operazioni di sicurezza la supervisione umana non è, di norma, un adempimento di legge: è una scelta di governance prudente, utile indipendentemente dalla classificazione del sistema. Sul perimetro dell'AI Act vedi l'articolo dedicato all'AI Act e agli agenti aziendali.

Esempio illustrativo: la proposta oltre i limiti della delega

Esempio illustrativo. Lo scenario seguente è inventato e non racconta un caso reale di un cliente OverZeus.

L'amministratore delegato di una vetreria ha delegato al responsabile IT l'approvazione degli interventi tecnici proposti dagli agenti, entro limiti scritti: configurazioni di rete, gestione degli accessi, procedure documentate. Restano fuori dalla delega gli interventi che interrompono la produzione e quelli che riguardano dati dei dipendenti.

Un sabato sera l'app presenta al responsabile IT due proposte. La prima: modificare una regola di rete che sta bloccando i rapporti di produzione — dentro la delega. La seconda: riavviare il servizio che pilota il forno di tempra, fermo da venti minuti — fuori dalla delega, perché tocca la produzione. Il responsabile approva la prima con una motivazione breve («regola difforme dalla configurazione approvata, ripristino documentato») e sulla seconda non decide: la gira all'amministratore delegato con tutto il contesto — cosa è stato osservato, quali conseguenze ha il fermo, cosa comporta il riavvio. L'AD valuta gli impegni di consegna del lunedì e approva il riavvio per quella notte soltanto. Il lunedì, ogni passaggio è ricostruibile: chi ha proposto, chi era competente a decidere, chi ha deciso e perché.

Il punto dello scenario è proprio il confine: il responsabile IT non ha «delegato a sua volta» né esteso il proprio potere per efficienza. Se avesse approvato anche il riavvio, la domanda corretta non sarebbe «di chi è la colpa», ma: la delega copriva quel caso? Le informazioni mostrate erano sufficienti per decidere? L'approvazione era motivata? Sono domande organizzative, a cui la policy interna deve poter rispondere; le conseguenze giuridiche spettano alla valutazione del consulente.

Domande frequenti su responsabilità e approvazioni

L'approvazione di una proposta trasferisce la responsabilità all'umano?

Non la trasferisce: la colloca. Chi approva risponde della decisione nei limiti del proprio ruolo e della propria delega, come accade per qualsiasi altra autorizzazione in azienda. L'agente non è un soggetto giuridico e non può «assorbire» responsabilità; allo stesso tempo, chi ha definito perimetro, fonti e limiti del sistema risponde di quelle scelte di progetto. Per questo conviene che perimetro e deleghe siano scritti prima dell'attivazione, non ricostruiti dopo un problema.

Come documentare la motivazione di una scelta?

In forma breve ma completa: cosa si è deciso, sulla base di quali elementi, con quale alternativa scartata. «Approvato perché la manutenzione era pianificata» è una motivazione; «ok» non lo è. La motivazione vale anche per i rifiuti e per le attese: decidere di non intervenire è una decisione, e fra sei mesi deve essere ricostruibile come le altre. Ne parliamo nell'articolo sulla tracciabilità delle azioni degli agenti.

Cosa cambia per dirigenti e delegati?

Cambia lo strumento, non la catena delle responsabilità. Una delega per approvare proposte degli agenti va scritta come ogni delega seria: oggetto, limiti, durata, sostituti, obbligo di registrazione. Il dirigente che delega deve poter verificare come la delega viene esercitata; il delegato deve poter dimostrare su quali elementi ha deciso. I profili di responsabilità amministrativa e civilistica dipendono dall'ordinamento e dal caso: vanno valutati con il consulente legale, non con un articolo.

Se nessuno risponde, l'agente può procedere?

Nel modello proposta-approvazione, no: il silenzio non è un'autorizzazione. Questa regola va scritta nella policy e va verificata nel comportamento del sistema, non data per scontata. Un'organizzazione può prevedere automatismi entro limiti approvati in anticipo — per esempio azioni di sola lettura o procedure già autorizzate come runbook — ma restano decisioni umane espresse prima, non consensi presunti dopo.

Chi risponde se la proposta dell'agente era sbagliata?

Dipende da dove è nato l'errore, e la ricostruzione serve proprio a stabilirlo. Se la proposta si fondava su una fonte obsoleta, la domanda riguarda chi mantiene quella fonte; se il perimetro era troppo ampio, riguarda chi lo ha definito; se l'approvazione è arrivata senza leggere la spiegazione, riguarda il processo di approvazione. L'articolo sulla gestione dell'errore degli agenti tratta il caso in cui l'agente deve fermarsi invece di agire; quello su fonti e spiegabilità spiega perché ogni proposta deve mostrare da dove arriva.

Come OverZeus tiene separati proposta e decisione

In OverZeus la separazione dei tre momenti è affidata a due agenti con ruoli distinti:

• Hermes è l'app dei responsabili: riceve le segnalazioni dal server locale, spiega gli interventi e raccoglie approvazioni o rifiuti. L'assenza di risposta non viene interpretata come autorizzazione.
• Mnemosyne conserva fonti, timeline, proposte, autorizzazioni ed esiti: la motivazione di una decisione resta associata al caso e ricostruibile nel tempo, comprese le scelte di attendere.

Sul piano normativo, OverZeus supporta attività ed evidenze utili a dimostrare come sono state prese le decisioni, ma non sostituisce la valutazione dell'organizzazione né quella del consulente legale: la ripartizione delle responsabilità resta una scelta dell'azienda, da scrivere nei propri documenti di governance.

La regola pratica

Chi introduce agenti AI dovrebbe poter rispondere a tre domande senza esitare: chi approva cosa, con quali informazioni davanti, e dove resta scritto il perché. Se una di queste risposte manca, il problema non è dell'agente: è della delega. Sulla supervisione come architettura generale vedi l'articolo sulla supervisione umana degli agenti AI; le regole da mettere per iscritto trovano posto nella policy aziendale.

Contenuto realizzato con assistenza AI. Gli scenari descritti sono esempi illustrativi.

Tutti gli articoli OverZeus