Pourquoi une IA invente-t-elle ?
Parce qu'elle produit la suite de mots la plus plausible, sans vérifier qu'elle est vraie.
Un modèle de langage a appris à enchaîner les mots de façon cohérente. Quand l'information lui manque, il ne s'arrête pas de lui-même : il comble le trou avec ce qui ressemble à une bonne réponse. Un chiffre rond, un nom crédible, une référence qui a l'air sérieuse.
C'est ce qu'on appelle une hallucination. Le mot est trompeur : il n'y a rien d'étrange. C'est le fonctionnement normal d'un outil auquel on a demandé une réponse qu'il n'avait pas.
Où le risque est-il le plus grand pour une PME ?
Partout où une erreur sort de l'entreprise.
- Les chiffres : un taux, un montant, une statistique de marché.
- Les noms : un client cité, un interlocuteur, une référence.
- Le droit : un article de loi, une obligation, une date d'entrée en vigueur.
- Les citations : une phrase attribuée à quelqu'un qui ne l'a jamais dite.
Le risque grandit avec la confiance. Plus l'IA a eu raison, moins on relit. C'est souvent à ce moment que l'erreur passe.
En interne, une erreur se rattrape. Dans un devis, un article ou un mail à un prospect, elle engage l'entreprise.
Quelles règles j'applique ?
Quatre, et elles sont écrites dans le système.
- Aucun chiffre sans source. Un chiffre interne vient du document qui fait foi. Un chiffre externe vient d'une source primaire, ouverte et datée, citée dans la même phrase. Sinon, il ne sort pas.
- La mémoire de l'entreprise passe avant l'IA. Les faits, les références citables et les formulations autorisées sont écrits une fois. L'agent les lit avant de répondre au lieu de les deviner.
- L'IA a le droit de dire qu'elle ne sait pas. Chaque procédure lui demande de signaler ce qu'elle n'a pas pu vérifier, plutôt que de combler.
- Rien ne sort sans validation. Tout ce qui quitte l'entreprise passe par un contrôle, puis par moi.
Les articles de ce site suivent ces règles. Dans IA dans les PME françaises en 2026, chaque chiffre est relié à sa source, avec son champ et sa date.
Comment vérifier une réponse de l'IA ?
En lui demandant de se relire, puis en remontant aux sources.
Une IA relit bien son propre texte quand on le lui demande explicitement : quels faits sont vérifiables, lesquels reposent sur une supposition, quelles sources permettraient de trancher. Ce relevé prépare la vérification.
Ensuite, on ouvre la source. Une page officielle, un rapport, un texte de loi. Un chiffre qu'on ne retrouve pas à la source se retire, même s'il est vraisemblable.
Sur un sujet juridique ou financier, la relecture d'un spécialiste reste la règle.
Que faire quand l'IA s'est trompée ?
Corriger à la racine, une fois.
Si l'erreur vient d'un fait manquant, on l'ajoute à la mémoire. Si elle vient d'une étape mal décrite, on corrige la compétence. La correction vaut alors pour toutes les fois suivantes.
C'est ce qui distingue un système d'une suite de conversations. Une conversation qui se trompe recommencera demain. Une procédure corrigée ne se trompe plus de la même façon.