Quand l'AI se trompe : vérifier plutôt que croire.

Les modèles de langage formulent de manière convaincante, même lorsqu'ils se trompent. Qui utilise l'IA a besoin d'un processus de vérification.

Pourquoi les modèles inventent

Un modèle de langage prédit le mot suivant qui convient statistiquement. Il n'accède pas à une base de faits sécurisée. C'est pourquoi une réponse semble fluide même lorsque la source, le chiffre ou le lien est inventé.

Motifs typiques

• Sources, études ou citations inventées.
• Chiffres, dates et noms erronés.
• Informations obsolètes sans indication sur l’état des connaissances.
• Formulations assurées sans aucune incertitude.

Quatre vérifications utiles

• Demander la source, et ouvrir la source soi-même.
• Toujours vérifier les chiffres, le droit et le médical.
• Faire décomposer les réponses en parties vérifiables.
• Travailler avec ses propres documents : fournir des textes actuels comme référence.

La technique seule ne suffit pas

Les cadres de gestion des risques comme le NIST AI Risk Management Framework reposent sur quatre étapes : comprendre le contexte, nommer les risques, mesurer l'impact, appliquer des mesures. La surveillance humaine reste décisive, surtout pour les décisions ayant des conséquences.

Une mauvaise réponse s'écrit vite. Une réponse vérifiée crée la confiance.

Conclusion

Les hallucinations ne sont pas une exception mais une propriété du système. Qui le sait vérifie, et utilise l'IA là où la vérification est possible.