L'AI sbaglia: i controlli che servono in azienda per accorgersene in tempo

C'è un cambio di problema che in azienda non si è ancora capito bene. Fino a un anno fa la domanda era "come faccio a produrre di più con l'AI?". Adesso l'AI produce eccome: bozze di email, offerte, riassunti, testi per il sito, risposte ai clienti. La domanda vera è diventata un'altra, e se ne parla anche fuori dall'Italia: riusciamo a controllare tutto quello che produce?

La chiamano distanza tra capacità e giudizio. Detta come la direbbe un imprenditore: la macchina scrive più in fretta di quanto tu riesca a rileggere. E se non rileggi, prima o poi qualcosa di sbagliato arriva al cliente con la tua firma sopra.

Perché il foglio con le regole non basta

Nella formazione lascio sempre delle regole semplici, e servono. Ma dopo mesi passati a installare assistenti AI dentro aziende vere ho imparato una cosa scomoda: le regole scritte, prima o poi, vengono saltate. Non per cattiva volontà. Perché è lunedì, c'è fretta, la bozza sembra buona e si preme invio.

Quello che invece non viene saltato è il controllo che avviene da solo. Se il sistema si rifiuta di mandare un'offerta con un prezzo fuori listino, quel prezzo non esce, che tu sia di fretta o no. Il foglio appeso al muro dipende dall'attenzione delle persone. Il controllo dentro il sistema no.

È la differenza tra dire "mi raccomando, controlla" e costruire le cose in modo che il controllo avvenga comunque.

Che aspetto ha un controllo del genere

Non è niente di esotico. Sono paletti concreti, e li scegli tu in base a dove ti fa più male sbagliare:

• L'assistente prepara, tu mandi. Le email ai clienti restano in bozza. L'AI fa il lavoro noioso di scriverle, la partenza resta un gesto tuo. È il paletto più semplice e quello che evita più guai.
• I numeri li prende dal database, non dalla memoria. Se l'agente deve dire quanti pezzi ci sono in magazzino, deve leggerlo dal magazzino. Un'AI che "ricorda" un numero è un'AI che prima o poi te lo inventa, scritto con la stessa sicurezza di quelli veri.
• Fuori dai limiti, si ferma. Sconto oltre una certa soglia, ordine sopra un certo importo, cliente con insoluti: il sistema non decide, si ferma e chiede a te.
• Ogni azione lascia una traccia. Chi ha fatto cosa e quando, compreso l'agente. Se qualcosa va storto puoi risalire, invece di ricostruire a memoria.

Nessuno di questi punti richiede che tu diventi tecnico. Richiede che, prima di partire, qualcuno si sieda con te e ti chieda: "in questo processo, qual è l'errore che non ti puoi permettere?". Da lì nascono i paletti.

L'assistente che ammette i propri errori

C'è una cosa che nei progetti degli ultimi mesi si è rivelata più utile di quanto mi aspettassi: far tenere all'assistente un registro dei propri sbagli.

Funziona così. Quando l'assistente propone qualcosa di sbagliato e tu lo correggi, quella correzione non resta in una chat che domani nessuno riapre. Viene scritta in un file, insieme al motivo. La settimana dopo, prima di rifare quel tipo di lavoro, l'assistente rilegge il proprio registro degli errori.

Il risultato è che gli sbagli tendono a non ripetersi uguali. E ancora meglio: dopo un po' quel registro diventa la lista dei controlli da mettere nel sistema, perché ti mostra nero su bianco dove quel lavoro si rompe più spesso. Non è una previsione, è quello che è successo davvero a casa tua.

Ne ho parlato anche quando ho scritto che conta più la memoria del modello: un assistente che ricorda le correzioni è un assistente che migliora. Il registro degli errori è la stessa idea, applicata alla parte scomoda.

Le tre domande da fare a chi ti vende AI

Se qualcuno ti propone un agente, un assistente o un'automazione, queste tre domande valgono più di qualsiasi presentazione:

1. Come me ne accorgo se sbaglia? Se la risposta è "non sbaglia", chiudi la conversazione. Tutti i sistemi sbagliano, il punto è vederlo.
2. Cosa passa da un occhio umano prima di arrivare al cliente? Deve esserci una risposta precisa, non un "ci sono i controlli".
3. Dove finiscono le correzioni che faccio io? Se finiscono nel nulla, stai correggendo lo stesso errore per sempre.

Sono domande che puoi fare senza sapere niente di tecnologia. E le risposte ti dicono subito se hai davanti qualcuno che ha già messo questi sistemi in produzione oppure no.

L'onestà necessaria

Un sistema con buoni controlli non è un sistema che non sbaglia mai. È un sistema in cui gli errori si vedono presto, costano poco e non escono dall'azienda. Questo è il massimo realistico, e per una piccola impresa è già moltissimo: significa poter usare l'AI sul lavoro vero, non solo per giocare.

Chi vende la perfezione ti sta vendendo un rischio.

Se vuoi capire da quale pezzo del tuo lavoro conviene partire, e con quali paletti, ho scritto una guida gratuita che serve esattamente a quello. Oppure facciamo prima: Parliamone, 30 minuti gratis. Mi racconti dove sbagliare ti costa di più e ragioniamo insieme sui controlli giusti, anche se poi decidi di non fare niente.