Un recours présenté au Tribunal administratif régional de Lombardie pour contester le échec d'un étudiant du deuxième lycée transformé en cas emblématique sur l’usage de l’intelligence artificielle dans le monde judiciaire.
L'avocat représentant la mère de la jeune fille a reconnu avoir rédigé une partie du document à l'aide d'un système basé sur l'IA. Le problème est que le texte, comme on l'a découvert plus tard, contenait de nombreux citations légales inexistantes ou complètement hors contexte.
Pour cette raison, le tribunal a non seulement rejeté l'appel, mais il a signalé le professionnel au barreau de Milan.
L’affaire : un recours « artificiel »
L'histoire vient de tentative d'une mère pour contester la note de sa fillejugé injuste en raison du prétendu manque de matériel pédagogique.
L'avocat, chargé de présenter le recours devant le tribunal administratif, a inclus dans le document diverses décisions et précédents jurisprudentiels qui se sont toutefois révélés inventés.
Les juges auraient rapporté que l'avocat « affirmait avoir cité une jurisprudence trouvée à l'aide d'outils de recherche basés sur l'intelligence artificielle qui généraient résultats incorrects», comme le rapporte « Le Corriere della Sera ».
La réaction du TAR
Les juges de la section V du TAR Lombard ont défini le comportement du défenseur comme « une violation du devoir du défenseur de se comporter devant le tribunal avec loyauté et probité».
Selon le tribunal, « ce comportement constitue une violation car introduit des éléments potentiellement appropriés influencer le contre-interrogatoire procédural et la phase de prise de décision vers une voie incorrecte, et parce que cela rend le contrôle de la jurisprudence citée inutilement fastidieux pour les juges et les contreparties ».
Et il ne suffit pas que l'avocat ait reconnu à l'audience avoir utilisé « des outils de recherche basés sur l'intelligence artificielle qui ont généré des résultats incorrects » : pour les juges, son ma faute « ne peut pas avoir de valeur exonérée».
La signature de l'acte implique en effet le l'entière responsabilité du contenu, « qu'il ait été écrit ou non personnellement ou en utilisant des collaborateurs ou des outils d'intelligence artificielle ».
Signalement à l’Ordre et sanctions éventuelles
Le TAR, comme indiqué, a rejeté l'appel et a transmis la sentence au Barreau de Milan « pour les évaluations de compétences ». L'avocat risque désormais des mesures disciplinaires : on parle d'un éventuel avertissement ou d'une censure formelle.
L'Ordre doit, dans un délai de 30 jours, ouvrir un contre-interrogatoire avec l'avocat et transmettre les documents au Conseil de discipline du district.
Des précédents dans d’autres villes
Ce n'est pas le premier épisode d'« hallucinations » de l'intelligence artificielle dans le monde de la justice italienne. À Florenceil y a quelque temps, un avocat avait déposé un mémoire avec de fausses citations devant le tribunal des sociétés : les numéros de rôle, les noms des juges et les arguments étaient complètement inventés.
À Turincependant, dans un jugement en matière de travail, le tribunal avait estimé que le document d'introduction avait été généré par un outil d'IA contenant des erreurs et des références incorrectes.
Dans les deux cas, les juges ont rappelé que le recours à l’intelligence artificielle ne dispense pas l’avocat du contrôle et de la vérification des sources.
L’appel au contrôle humain
LE'Barreau de Milanen 2024, a également rédigé un «Charte de principes pour une utilisation éclairée des systèmes d'intelligence artificielle dans le domaine médico-légal».
Dans le document, il est souligné l'obligation de toujours vérifier le résultat des recherches effectuées avec ces outilsqui « peuvent produire des résultats erronés communément qualifiés d'« hallucinations de l'intelligence artificielle », lorsqu'ils inventent des résultats inexistants mais apparemment cohérents avec le sujet abordé ».
