Quando l'AI sbaglia: verificare invece di credere.

I modelli linguistici formulano in modo convincente, anche quando sbagliano. Chi usa l'AI ha bisogno di un processo di verifica.

Perché i modelli inventano

Un modello linguistico prevede la parola successiva statisticamente adatta. Non accede a una banca dati di fatti garantiti. Per questo una risposta suona fluida anche quando fonte, cifra o nesso sono inventati.

Schemi tipici

• Fonti, studi o citazioni inventati.
• Cifre, date e nomi errati.
• Informazioni superate senza indicazione sullo stato delle conoscenze.
• Formulazioni sicure senza alcuna incertezza.

Quattro verifiche utili

• Chiedere la fonte, e aprire la fonte stessi.
• Verificare sempre cifre, diritto e medicina.
• Far scomporre le risposte in parti verificabili.
• Lavorare con i propri documenti: fornire testi aggiornati come riferimento.

La tecnica da sola non basta

I quadri di gestione del rischio come il NIST AI Risk Management Framework si basano su quattro passi: capire il contesto, nominare i rischi, misurare l'impatto, applicare misure. La supervisione umana resta decisiva, soprattutto per decisioni con conseguenze.

Una risposta sbagliata si scrive in fretta. Una risposta verificata crea fiducia.

Conclusione

Le allucinazioni non sono un'eccezione ma una proprietà del sistema. Chi lo sa verifica, e usa l'AI dove la verifica è possibile.