Il vero rischio degli agenti AI non è quello che pensi
Nel 2018 le aziende italiane si sono tuffate sui chatbot. Risultato? Bot tristi che chiedevano “come posso aiutarti?” e poi ti mandavano comunque a un operatore umano. Sette anni dopo siamo allo stesso bivio, ma stavolta con gli agenti AI.
Il rischio degli agenti AI in azienda non è che non funzionino. Il problema è che funzionano fin troppo bene. Il rischio vero è automatizzare la cosa sbagliata, con i poteri sbagliati, prima di aver capito come si comporta la tecnologia in casa tua.
La scorsa settimana ho letto un pezzo molto chiaro di Section, che riassume il problema con due variabili semplici. Lui le chiama blast radius e reversibility. In italiano, raggio del danno e reversibilità. Sono due domande terra terra che un imprenditore italiano si dovrebbe fare prima di firmare qualsiasi proposta di “agente AI” sul tavolo. La buona notizia è che valgono per qualsiasi automazione, non solo per gli agenti.
Raggio del danno: quante persone si fanno male se l’agente sbaglia
Prima domanda. Se l’agente sbaglia… perché prima o poi sbaglia… chi ci rimette, e quanto?
Un agente che ti scrive il riassunto della riunione interna ha un raggio del danno minuscolo. Se sbaglia, qualcuno legge, fa “boh” e corregge. Cinque minuti persi.
Un agente che invia bozze di email ai clienti ha un raggio più ampio. Se manda qualcosa di sbagliato, il commerciale deve telefonare e mangiarsi il rospo.
Un agente che risponde direttamente ai clienti su WhatsApp senza filtro umano ha un raggio enorme. Se confonde due clienti, sbaglia un preventivo o promette qualcosa che non puoi mantenere, finisce su Trustpilot e ci resta per anni.
E in fondo alla scala c’è l’esempio che Shove usa per chiudere ogni discussione: un agente che prescrive farmaci a migliaia di pazienti. Raggio del danno: vite umane.
Per una PMI italiana il raggio si misura concretamente in ore di rilavorazione, clienti persi, multe del Garante Privacy, articoli sul giornale locale. Prima di scegliere cosa automatizzare, mettici un numero accanto: “se questa cosa va male, quanto mi costa?”. Se la risposta è “non lo so”, hai già la risposta su cosa NON automatizzare per primo.
Reversibilità: puoi rimettere il dentifricio nel tubetto?
Seconda domanda. Quando l’agente sbaglia, quanto è facile tornare indietro?
Una bozza di email che arriva a un umano prima dell’invio è altamente reversibile. La rileggi, la cambi, la riscrivi. Nessuno si accorge di niente.
Un post pubblicato sul LinkedIn aziendale è poco reversibile. Lo cancelli, certo, ma qualcuno l’ha già letto. Qualcuno ha già fatto screenshot. La rete non dimentica.
Una modifica spinta direttamente dentro il gestionale è una variabile aleatoria che dipende solo dai tuoi backup. Buona fortuna.
Un dato spedito a un servizio esterno, pensa al pasticcio dei dati usciti da Anthropic nell’estate del 2025, è completamente irreversibile. Una volta che l’informazione è fuori, è fuori. Non la riprendi.
La matrice 2×2 per un’automazione AI sicura
Incroci le due variabili e ottieni quattro quadranti. Sono il modo più semplice per smettere di fare riunioni infinite sull’AI e iniziare a decidere.
Basso raggio + alta reversibilità: automatizza senza pensarci.Greg Shove, fondatore d Riassunti di riunioni interne, pulizia di file Excel, bozze di documenti interni, risposte automatiche a domande tipo “dove trovo la procedura ferie?”. Il caso peggiore qui è una mezza giornata di rilavorazione. È il punto di partenza obbligato per qualsiasi PMI. Qui costruisci confidenza, capisci come si comportano davvero gli agenti, alleni le persone, e raccogli i dati che ti serviranno per le decisioni più grosse.Greg Shove, fondatore d
Basso raggio + bassa reversibilità: automatizza ma osserva. Post automatici su un canale Slack o Teams interno, voci aggiunte al CRM, log permanenti. Le conseguenze sono piccole ma non riavvolgi il nastro. Lasci lavorare l’agente e tieni gli occhi addosso, perché qui impari cosa va aggiustato prima di puntarlo a obiettivi più grandi.
Alto raggio + alta reversibilità: automatizza con sorveglianza umana. Bozze di email cliente che passano da un umano prima di partire, bozze di preventivi, contenuti pronti per la pubblicazione che aspettano l’OK del responsabile marketing. È qui che la maggior parte delle PMI italiane troverà il proprio sweet spot: guadagni la velocità dell’automazione ma mantieni il freno a mano. La supervisione umana AI non è un limite, è la condizione che ti permette di osare di più.
Alto raggio + bassa reversibilità: supervisione umana obbligatoria, sempre. Modifiche dirette al gestionale o al sito senza occhio umano, pagamenti automatici, ordini ai fornitori, comunicazioni di massa via email o WhatsApp ai clienti, gestione di reclami pubblici sui social. Qui non si delega. Qui l’agente AI è un collaboratore, mai un decisore.
L’errore tipico delle aziende italiane: partire dalla parte sbagliata
Il pattern che vediamo nei nostri progetti di adozione agenti AI nelle PMI italiane è quasi sempre lo stesso. L’imprenditore o il direttore generale arriva e dice: “vogliamo fare un agente AI per il customer service”.
Perché? Perché è la cosa più visibile. Quella che si racconta meglio in CdA. Quella che fa dire ai concorrenti “guarda quelli sono avanti”.
È esattamente il quadrante sbagliato. Il customer service è quasi sempre alto raggio (parli con chi ti paga lo stipendio) e bassa reversibilità (una volta che hai risposto, hai risposto). È l’ultimo posto da cui partire, non il primo.
L’ordine giusto è il contrario. Prima costruisci cinque, dieci piccoli agenti interni a basso rischio per imparare. Poi sali di livello tenendo l’umano nel ciclo. Solo dopo, quando hai accumulato giudizio organizzativo vero, quello che non si compra dai consulenti, attacchi le aree dove il margine d’errore è zero.
L’obiettivo non è non sbagliare mai. È fare in modo che gli errori delle prime settimane costino dieci euro di tempo perso, non diecimila di clienti persi.
C’è anche un motivo strategico per partire dalla periferia: gli agenti che danno il vero vantaggio competitivo non sono quelli appariscenti, sono quelli che ti tolgono dalla testa decine di micro-decisioni operative ogni giorno. E quelli, guarda caso, vivono quasi tutti nel quadrante in basso a sinistra.
In sintesi
Il rischio degli agenti AI in azienda si valuta su due variabili: il raggio del danno potenziale e la reversibilità dell’azione. Le PMI italiane dovrebbero partire dalle attività interne a basso raggio e alta reversibilità per costruire esperienza, poi salire gradualmente di rischio mantenendo la supervisione umana sui casi critici. L’errore tipico è iniziare dal customer service, che è invece il quadrante più rischioso. L’obiettivo non è eliminare gli errori ma fare in modo che gli errori iniziali siano economici. L’adozione degli agenti AI nelle PMI funziona quando si parte dalla periferia e ci si muove verso il centro, non viceversa.
Domande frequenti sul rischio degli agenti AI
Il rischio di un agente AI è la combinazione di due fattori: il danno potenziale se l’agente sbaglia (raggio del danno) e la difficoltà di rimediare a quell’errore (reversibilità). Un agente che scrive bozze interne ha un rischio basso. Un agente che invia comunicazioni dirette ai clienti o modifica dati permanenti ha un rischio alto.
Le attività a basso rischio sono quelle interne e facilmente correggibili: riassunti di riunioni, pulizia di dati, bozze di documenti, risposte a domande operative interne, organizzazione di informazioni. Sono il punto di partenza ideale per qualsiasi PMI che voglia adottare gli agenti AI in modo sostenibile.
È la misura di quante persone, quanti soldi e quanta reputazione sono in gioco se l’agente sbaglia. Un agente che lavora su materiale interno ha un raggio piccolo. Un agente che parla con clienti, fornitori o autorità ha un raggio grande, perché un errore esce dall’azienda e diventa pubblico.
La supervisione umana è obbligatoria su tutti gli agenti che operano in scenari ad alto raggio del danno e bassa reversibilità: comunicazioni esterne, pagamenti, modifiche permanenti a sistemi gestionali, decisioni che impattano clienti o dipendenti. Sui casi ad alto raggio ma alta reversibilità (es. bozze di email cliente) si usa il modello “human in the loop”: l’agente prepara, l’umano approva.
Dalle attività interne a basso raggio del danno e alta reversibilità. È controintuitivo perché non sono le aree più appariscenti, ma sono quelle dove si costruisce competenza vera senza pagare il prezzo degli errori. Solo dopo aver gestito con successo cinque-dieci casi di questo tipo ha senso passare a scenari più rischiosi, e mai senza supervisione umana sui quadranti più delicati.
Da dove parti tu
Se stai valutando di portare gli agenti AI in azienda e non vuoi che il primo esperimento finisca male, il punto non è scegliere il software. Il punto è scegliere il quadrante. In Digital Punk aiutiamo le PMI italiane a impostare l’adozione degli agenti AI partendo dalle aree giuste, non da quelle più visibili — perché un progetto AI che parte bene apre la porta a tutti gli altri, uno che parte male la chiude per anni. Scopri come lavoriamo.
