Une nouvelle étude menée par des chercheurs des universités de Stanford et de Yale a soulevé des inquiétudes quant à la fiabilité des outils d'intelligence artificielle (IA) utilisés pour la recherche juridique, incitant les juristes à faire preuve de prudence à l'égard des résultats de l'IA.
L'étude, intitulée "Sans hallucination ? Evaluation de la fiabilité des principaux outils de recherche juridique par IA", examine différents outils d'intelligence artificielle utilisés par les avocats pour la recherche juridique afin d'évaluer le risque de générer de fausses informations, appelées "hallucinations".
Les avocats utilisent de plus en plus d'outils d'IA pour les aider dans leur pratique juridique. Toutefois, les grands modèles de langage utilisés dans ces outils sont susceptibles de produire des "hallucinations" et présentent donc des risques pour leur pratique, ont conclu les auteurs de l'étude publiée sur le site Internet de l'université de Stanford. Certaines entreprises qui fabriquent ces outils d'IA prétendent avoir résolu ce problème, mais les chercheurs ont trouvé leurs affirmations "exagérées".
L'étude a testé des outils populaires de LexisNexis et Thomson Reuters, et a constaté qu'ils commettaient des erreurs dans 17% à 33% des cas.
Selon l'étude, certaines "hallucinations" se produisent lorsque les outils d'IA citent des règles juridiques inexistantes ou font des interprétations erronées de précédents juridiques.
L'étude, citant des recherches antérieures, montre qu'en janvier 2024, au moins 41 des 100 plus grands cabinets d'avocats des Etats-Unis auront commencé à utiliser l'IA dans leur pratique.
Les auteurs ont appelé les avocats à superviser et à vérifier les résultats générés par l'IA, tout en exhortant les fournisseurs d'outils d'IA à être honnêtes quant à l'exactitude de leurs produits et à fournir des preuves à l'appui.