Quando l’AI sbaglia: errori, fallback e intervento umano
Come progettare fallimenti comprensibili, recuperabili e sicuri senza lasciare la persona davanti a un risultato inatteso o a un vicolo cieco.
Pubblicato · 4 settembre 2026Aggiornato · 4 settembre 2026
00 · Premessa
Il fallimento non è un’eccezione da nascondere.
Input ambigui, dati insufficienti, strumenti indisponibili e risultati inaccurati fanno parte dell’esperienza AI. Progettarli significa proteggere il compito, spiegare il prossimo passo e limitare l’impatto dell’errore.
Fallire in modo utile
Riconosci, spiega, conserva e accompagna.
In un’esperienza conversazionale come KIKU, un errore non deve cancellare il contesto o interrompere il viaggio. Il sistema deve distinguere ciò che non ha compreso, ciò che non può fare e ciò che richiede una verifica umana.
- 01Riconosci
Individua il tipo e l’impatto del problema.
- 02Spiega
Comunica cosa è successo senza colpevolizzare.
- 03Conserva
Proteggi dati validi e lavoro già svolto.
- 04Accompagna
Offri retry, alternativa o intervento umano.
Mappa le famiglie di errore
Non tutti i fallimenti sono uguali. Distingui incomprensione dell’input, limite del modello, errore dello strumento, mancanza di permessi e indisponibilità temporanea.
Azioni pratiche
- Collega ogni errore a una causa osservabile.
- Valuta impatto e possibilità di recupero.
- Definisci soglie oltre le quali fermare l’automazione.
Scrivi messaggi orientati al recupero
Un messaggio utile evita formule vaghe, protegge la fiducia e indica cosa la persona può fare. Non attribuisce all’utente problemi del sistema.
Azioni pratiche
- Spiega il problema in una frase semplice.
- Dichiara cosa è stato conservato.
- Proponi una o due azioni realmente disponibili.
Progetta fallback coerenti
Quando la funzione AI non è affidabile, l’esperienza dovrebbe offrire un percorso alternativo proporzionato al compito: modifica, ricerca manuale, contatto o rinvio.
Azioni pratiche
- Mantieni visibili input e risultati precedenti.
- Permetti di restringere o riformulare la richiesta.
- Non simulare un successo quando manca una conferma.
Definisci il passaggio a una persona
Dopo errori ripetuti o nelle azioni ad alto rischio, l’intervento umano deve essere semplice e contestualizzato. La persona non dovrebbe ricostruire da zero quanto è già accaduto.
Azioni pratiche
- Trasferisci riepilogo, tentativi ed errori rilevanti.
- Spiega tempi e canale di risposta.
- Conferma chiaramente quando il controllo è passato a una persona.
Da usare subito
Preflight degli stati di fallimento
- Le principali famiglie di errore sono mappate.
- Il messaggio distingue causa e conseguenza.
- Il lavoro valido viene conservato.
- Esistono retry e percorso alternativo.
- Le azioni ad alto rischio si fermano in sicurezza.
- Il passaggio umano include il contesto necessario.
Principio chiave
Un buon errore protegge il compito, non l’immagine dell’AI.
La qualità si misura nella capacità di riconoscere un limite, ridurre il danno e aiutare la persona a proseguire senza perdere informazioni o fiducia.