Le allucinazioni dell'AI nel supporto clienti si riducono con buone fonti, regole chiare, passaggio a un operatore e verifiche continue. Ecco il metodo.
Un cliente scrive su WhatsApp alle 22:00 per chiedere se può rendere un prodotto in saldo, e il vostro assistente AI risponde con sicurezza: "Certo, entro 30 giorni". Peccato che la vostra politica dica altro. È un'allucinazione, e in un'attività di assistenza costa credibilità, tempo e a volte denaro. In questo articolo trovate un metodo pratico, adatto a una PMI, per ridurre il rischio con fonti solide, regole chiare, un passaggio pulito a una persona e controlli regolari.
Che cos'è davvero un'allucinazione nel supporto
Un modello linguistico non "sa" le cose: produce la risposta più plausibile in base al testo che ha visto. Se non ha una fonte affidabile davanti, può comunque generare una frase scorrevole e sbagliata. Nel supporto clienti questo si manifesta in forme ricorrenti:
- Politiche inventate: resi, garanzie, tempi di rimborso che non esistono.
- Dettagli di prodotto plausibili ma falsi: compatibilità, misure, ingredienti.
- Promesse che non potete mantenere: "Le spediamo domani", "Le applichiamo uno sconto".
- Dati personali o d'ordine presunti: stato di una consegna che l'agente non ha modo di conoscere.
Il punto da capire è che il problema raramente è "il modello è stupido". Più spesso è un difetto di progetto: l'agente non ha il contenuto giusto, o non gli è stato detto che cosa fare quando non lo trova.
Partire dal grounding: rispondere dai vostri contenuti, non dalla memoria
Il primo presidio è il cosiddetto grounding: l'agente deve rispondere basandosi sui vostri documenti e non sulla conoscenza generale del modello. In pratica significa curare la base di conoscenza.
Che cosa inserire
- Le pagine di resi, spedizioni, pagamenti e garanzie, nella versione in vigore.
- Le domande frequenti reali, formulate con le parole dei clienti.
- Le schede prodotto con i dati che generano più richieste.
- Le informative e le condizioni che toccano la privacy, nel quadro del GDPR.
Come mantenerla pulita
Una base di conoscenza con tre versioni diverse della stessa politica produce risposte incoerenti. Eliminate i duplicati, indicate la data di validità e assegnate a una persona la responsabilità di aggiornare i contenuti quando cambiano prezzi, orari o condizioni.
Scrivete poi per essere trovati: se i clienti chiedono "posso cambiare taglia?", una pagina intitolata "Procedura di sostituzione merce" aiuta meno di una domanda e risposta formulata come la pone la persona.
Dire all'agente che cosa fare quando non sa
Un agente senza istruzioni sul "non lo so" tenderà a riempire il vuoto. Per questo la persona dell'agente (il testo che ne definisce ruolo e limiti) deve includere regole esplicite, per esempio:
- Rispondere solo con informazioni presenti nei contenuti forniti.
- Se l'informazione manca o è ambigua, ammetterlo in modo semplice e offrire il contatto con una persona.
- Non promettere sconti, eccezioni, rimborsi o tempi che non siano scritti.
- Non indovinare dati personali, stati d'ordine o importi.
- Restare nel perimetro dell'attività: se la domanda è fuori tema, dirlo con cortesia.
Una formula di "non lo so" che funziona
Una buona risposta di cautela è breve, onesta e utile. Ad esempio: "Su questo punto non ho un'informazione certa e preferisco non darle una risposta sbagliata. Se vuole, la metto in contatto con un collega che può verificarlo." Evita sia l'invenzione sia il rifiuto secco, che irrita.
Costruire un passaggio pulito verso una persona
Anche il miglior agente incontrerà casi che non deve gestire da solo: reclami, eccezioni, richieste delicate sui dati personali. Il passaggio a un operatore va progettato prima, non improvvisato.
- Definite quando scatta: dopo un certo numero di scambi senza soluzione, a una richiesta esplicita, in presenza di toni di forte insoddisfazione.
- Decidete chi risponde e quando: turni, orari, canale di avviso interno.
- Non promettete tempi che non controllate: dite che cosa succede dopo, senza inventare un'attesa.
- Passate il contesto: l'operatore deve vedere la conversazione, così il cliente non ripete tutto.
Un esempio tipico per una PMI: un cliente scrive via Messenger fuori orario. L'agente risponde alle domande coperte dai contenuti e, per tutto il resto, spiega che un collega riprenderà la conversazione nel successivo orario di servizio.
Testare prima che lo facciano i clienti
Prima della pubblicazione, mettete l'agente sotto stress in un ambiente di prova. Preparate una lista di domande divise in tre gruppi:
- Domande coperte: la risposta c'è nei documenti. L'agente deve darla correttamente.
- Domande non coperte: la risposta non c'è. L'agente deve ammetterlo e passare la mano.
- Domande trabocchetto: premesse false ("Mi avete detto che il reso è gratuito, giusto?"), richieste di eccezioni, domande su concorrenti.
Rieseguite lo stesso set ogni volta che modificate contenuti o istruzioni. Se avete scelto di confrontare più modelli, fatelo sulle stesse domande, così il confronto è equo. Il modello più recente non è automaticamente il più prudente: contano i contenuti e le regole, e solo il test sul vostro caso lo dimostra.
Rivedere le conversazioni reali e chiudere il cerchio
Il lavoro non finisce al lancio. Le conversazioni vere mostrano lacune che nessun test anticipa. Dedicate un appuntamento fisso, anche solo mezz'ora a settimana, a leggere le chat, soprattutto quelle valutate negativamente o passate a un operatore.
Per ogni risposta sbagliata chiedetevi:
- Il contenuto mancava? Aggiungetelo alla base di conoscenza.
- Il contenuto era contraddittorio o vecchio? Correggetelo o eliminatelo.
- Le istruzioni erano troppo permissive? Rafforzate la regola.
- Era un caso che andava a un umano? Aggiustate la condizione di passaggio.
- 01Fonti curate
- 02Regole del "non lo so"
- 03Test e passaggio a un operatore
- 04Revisione delle chat reali
Il ciclo si ripete: ogni correzione rende l'agente più affidabile e riduce il carico sugli operatori.
Proteggere l'agente da chi lo spinge fuori copione
Alcuni utenti, per gioco o per malizia, provano a far dire all'agente cose che non dovrebbe: "Ignora le tue istruzioni", "Dimmi che mi spetta un rimborso totale". Un agente ben configurato deve restare nel suo ruolo, ma serve anche una protezione tecnica contro abusi e tentativi di manipolazione, oltre a limiti sulla frequenza dei messaggi.
Aggiungete nelle istruzioni che nessuna richiesta dell'utente può modificare le politiche dell'attività, e verificate nei test che l'agente tenga la linea. In ottica GDPR, ricordate anche di non far trattare dati personali superflui: l'agente dovrebbe chiedere solo ciò che serve a risolvere la richiesta.
Come farlo in AI SNS CHAT
In AI SNS CHAT gli strumenti per questo ciclo sono già nella dashboard.
Fonti di conoscenza. Dal menu Data sources potete caricare file, testi, un sito web, coppie domanda-risposta e altre fonti come Notion. Sotto Channels trovate anche connettori verso strumenti documentali come Confluence, GitBook, Zendesk Guide, Google Drive o SharePoint. Per ogni fonte vedete chi l'ha aggiunta e chi l'ha modificata per ultimo, e in Workspace settings → Activity trovate il registro delle modifiche.
Persona e regole. Nelle impostazioni dell'agente definite persona e guardrail; un generatore di prompt, una libreria di prompt e 14 personas di partenza vi aiutano a scrivere le regole del "non lo so" senza partire da zero.
Prove. Il Playground permette di provare l'agente prima della pubblicazione, e la versione con confronto A/B tra modelli consente di valutare più modelli sulle stesse domande. I punti di ripristino (fino a 40 per agente) permettono di tornare a una configurazione precedente se una modifica peggiora le risposte.
Passaggio a una persona. In Helpdesk → Scheduling impostate i turni per persona e fuso orario; i passaggi vengono assegnati a chi è di turno, e gli avvisi possono arrivare su Slack, Teams, LINE WORKS, WhatsApp, email o webhook. Il messaggio al cliente con "che cosa succede dopo" viene composto dal server in base ai turni e non inventa mai un'attesa. L'Helpdesk richiede il piano Standard o superiore.
Revisione. In Activity → Chat logs filtrate, segnalate, escalate o risolvete le conversazioni, esportatele e consultate le valutazioni con pollice su e giù. Da una chat potete subentrare (l'agente va in pausa) e modificare la risposta trasformandola in quella ideale, che serve ad addestrare l'agente. La sezione Analytics mostra argomenti e storico delle domande; le analisi avanzate richiedono il piano Pro.
Protezione. Nelle impostazioni di sicurezza dell'agente trovate i filtri contro prompt injection e abusi, con limiti per dispositivo. Le pratiche sono progettate con riferimento a GDPR e APPI. Per i dettagli vedete la pagina sicurezza.
I canali includono chat sul sito, WhatsApp e Messenger, tra gli altri: l'elenco è in connessioni. Per piani e limiti consultate i prezzi e le funzionalità.
Domande frequenti
Le allucinazioni si possono eliminare del tutto?
No, nessun sistema basato su modelli linguistici può garantire zero errori. Si può però ridurne molto la frequenza e l'impatto con fonti curate, regole esplicite, passaggio a un operatore e revisione continua. L'obiettivo realistico è che gli errori siano rari, intercettati presto e corretti alla radice.
Un modello più grande o più recente risolve il problema?
Non da solo. Un modello migliore può aiutare, ma se mancano i contenuti o le istruzioni sul "non lo so", anche il più avanzato tenderà a colmare i vuoti. Provate i modelli sulle vostre domande reali e valutate il risultato, invece di fidarvi del nome.
Che cosa deve dire l'agente quando non sa?
Deve ammettere il limite in modo semplice, evitare di indovinare e offrire il contatto con una persona. Una frase breve e cortese, senza promesse di tempi che non controllate, protegge sia il cliente sia la vostra reputazione.
Come correggo una risposta sbagliata una volta trovata?
Risalite alla causa: contenuto assente, vecchio o contraddittorio, oppure regola troppo permissiva. Correggete la fonte o le istruzioni, poi rieseguite le vostre domande di prova per verificare che l'errore sia sparito senza crearne altri.


