Quand l'IA invente des décisions de justice : le risque d'hallucination
Des citations inventées ont déjà mis des avocats en difficulté devant les tribunaux. Comment rendre les réponses de l'IA vérifiables plutôt que de leur faire confiance.
L'IA générative peut produire des indications qui sonnent juste mais sont fausses — jusqu'à des décisions de justice entièrement inventées, avec des numéros de dossier, des noms de parties et des considérants plausibles. Dans plusieurs pays, des avocates et avocats ont dû répondre devant les tribunaux d'avoir repris de telles « citations » sans les vérifier dans leurs écritures. Pour la pratique suisse, ce n'est pas une note marginale exotique, mais un risque tangible de responsabilité et de discipline.
Qu'est-ce qu'une hallucination d'IA — et pourquoi survient-elle ?
Le terme « hallucination » désigne des sorties d'un modèle de langage formulées de manière fluide et plausible, mais matériellement fausses ou librement inventées. La cause tient au fonctionnement : un modèle de langage est un système statistique qui prédit le mot suivant le plus probable. Il n'a aucun modèle de ce qui est « vrai » et aucun lien vers une source fiable — il ne connaît que des schémas issus de ses données d'entraînement. Si on l'interroge sur un arrêt du Tribunal fédéral relatif à un problème juridique rare, le modèle produit avec une forte probabilité quelque chose qui ressemble à un tel arrêt : la bonne forme, un numéro de dossier crédible, une motivation qui sonne juridique. Le modèle ne sait pas si l'arrêt existe — et ne communique pas non plus son incertitude.
C'est particulièrement délicat pour les citations juridiques, car elles suggèrent une autorité qui ne se vérifie qu'au prix d'un effort. Un considérant inventé d'un arrêt réel est encore plus difficile à démasquer qu'un numéro de dossier entièrement fabriqué. Qui reprend de telles sorties sans les vérifier risque non seulement l'embarras, mais une violation du devoir de diligence de l'avocat.
Le problème n'est pas l'IA — mais la confiance non vérifiée
Il serait faux d'en conclure qu'il faut renoncer par principe à l'IA. Le véritable problème n'est pas l'outil, mais l'usage qui en est fait : une confiance non vérifiée dans une sortie qui, par nature, n'est pas optimisée pour la vérité, mais pour la probabilité. Pour le travail juridique, un seul critère est donc décisif — savoir si une affirmation est étayée de manière vérifiable par une source réelle. Une affirmation non étayée d'un modèle de langage a, si éloquente soit-elle, la même valeur probante qu'une affirmation non étayée tirée d'une conversation : aucune, tant qu'elle n'est pas vérifiée à la source.
Il en découle une répartition claire des rôles. L'IA peut rechercher, structurer et fournir des projets — la vérification, la responsabilité et la signature restent chez l'avocate. Cette répartition n'est pas l'expression d'une méfiance, mais le seul usage soutenable, au regard du droit professionnel, d'un outil probabiliste. La manière dont Causidicus ancre techniquement cette séparation est exposée sur la page Sécurité & architecture.
Étayer plutôt qu'affirmer : comment endiguer les hallucinations
Techniquement, le risque d'hallucination se réduit nettement en liant le modèle à de vraies sources, au lieu de le laisser répondre librement de « mémoire ». Causidicus appuie chaque affirmation juridique sur des textes légaux réels récupérés et renvoie à la source. Un filtre de citation vérifie qu'une disposition citée existe réellement et est présente dans le contexte récupéré ; les affirmations non étayées sont signalées au lieu d'être cachées. Faute de base solide, Causidicus le dit ouvertement — il répond alors par un honnête « pas de base solide », au lieu de produire une fiction plausible. C'est un choix de conception : un outil qui montre ses limites est plus précieux pour la profession qu'un outil qui a toujours une réponse.
Pour les calculs exacts, le même principe vaut encore plus strictement. Les délais, par exemple, Causidicus ne les calcule pas avec le modèle de langage, mais avec un moteur distinct et déterministe dont le calcul se reconstitue entièrement — à consulter et à essayer sur le calculateur de délais. L'IA reste ainsi employée là où elle est forte (langue, recherche, projet), et là où les hallucinations seraient dangereuses (existence de normes, arithmétique du calendrier), elle est sécurisée par des mécanismes vérifiables.
L'utilité des réponses étayées dépasse la prévention des erreurs. Qui peut soutenir une appréciation juridique face au client ou au tribunal par la norme et la source concrètes argumente de manière plus convaincante et protège en même temps sa propre position. Un renseignement étayé est vérifiable et donc solide ; une affirmation non étayée dépend entièrement de la confiance en la personne qui l'énonce. Pour la profession, dont le travail repose sur la traçabilité et la motivation, l'ancrage aux sources n'est donc pas qu'une mesure technique de protection contre les hallucinations, mais un renforcement de sa propre méthode.
Comment vérifier les citations d'IA en pratique ?
L'usage le plus sûr est une routine fixe. Premièrement : chaque citation avancée par une IA est vérifiée à la source primaire — le texte légal dans le recueil officiel, l'arrêt dans la base de données officielle. Une citation introuvable dans une source primaire n'est pas utilisée, point. Deuxièmement : même pour les arrêts existants, la teneur de l'affirmation est vérifiée, pas seulement le numéro de dossier — un arrêt réel peut être cité au soutien d'une thèse qu'il n'étaye pas du tout. Troisièmement : les affirmations non étayées sont traitées comme telles et soit vérifiées, soit biffées. Les outils qui lient d'emblée leurs sources et vérifient l'existence d'une norme citée raccourcissent considérablement cette routine, parce qu'ils couplent la vérification à la réponse au lieu de l'imposer après coup.
Garde-fous organisationnels pour l'étude
Au-delà du cas d'espèce, une petite directive d'étude sur l'usage de l'IA vaut la peine. Elle consigne quels outils sont admis, que les sorties d'IA valent par principe comme projet et non comme résultat, et que chaque citation doit être vérifiée à la source primaire avant d'être utilisée dans une écriture. Il est en outre recommandé de sensibiliser spécifiquement les collaborateurs plus jeunes au risque d'hallucination — ce sont justement eux qui tendent à faire confiance aux sorties formulées avec fluidité. Une telle directive n'est pas une fin bureaucratique en soi, mais une preuve d'organisation diligente au cas où un litige surviendrait malgré tout. La façon dont Causidicus soutient techniquement cette diligence — appuyé sur les sources, avec filtre de citation et affichage ouvert de l'incertitude — est décrite sur la page Sécurité ; les modèles d'utilisation figurent sous Tarifs.
La quintessence : les hallucinations ne sont pas un motif de bannir l'IA de l'étude — mais un motif impérieux de ne travailler qu'avec des outils qui montrent leurs sources et exposent leur incertitude. L'examen final reste dans tous les cas chez l'avocate.