LMi-MAG27 Sept - Flipbook - Page 56
FOCUS
Intelligence arti昀椀cielle
LE RAG N’EST
TOUJOURS PAS
LA PANACÉE
Bien que la génération augmentée par la récupération (RAG) ait été saluée
— et très médiatisée — comme la réponse aux hallucinations et aux erreurs
de l’IA générative, elle présente toujours quelques défauts.
Lucas Mearian, IDG NS (adapté par Serge Leblal)
a génération augmentée par la récupération (RAG), une méthode utilisée par les outils d’IA générative tels
que ChatGP d’Open AI pour fournir
des réponses plus précises et mieux
informées, est en train de devenir la
pierre angulaire des outils d’IA générative (GenAI), « offrant une flexibilité de mise en œuvre, une meilleure applicabilité et une
composabilité avec les LLM », selon une récente étude
de Gartner Research. D’ici à 2028, 80 % des applications
commerciales GenAI seront développées sur des plateformes de gestion de données existantes, le RAG jouant
un rôle clé dans les déploiements futurs.
L
conditions « if » ou « while », par exemple « si » une
requête nécessite des connaissances externes, récupérer des documents dans une base de connaissances, et
« tant que » une réponse peut être inexacte, interroger à
nouveau la base de données ou affiner le résultat. « Les
meilleurs agents Web [RAG] ne réussissent encore que
25 % du temps, ce qui est inacceptable dans un logiciel »,
a déclaré M. Nichol, dans une précédente interview
accordée à notre confrère Computerworld. « Les développeurs devraient plutôt se concentrer sur la rédaction d’une logique métier claire et utiliser les LLM pour
structurer les entrées des utilisateurs et affiner les résultats de recherche. Cela ne résoudra pas votre problème,
mais vous aurez l’impression que c’est le cas. »
Il n’y a qu’un seul problème : le RAG n’est pas toujours
efficace. En fait, ce dernier, qui assiste les technologies
GenAI en recherchant des informations additionnelles
au lieu de se fier uniquement à la base de données vectorielles, pourrait en réalité rendre les modèles GenAI
moins sûrs et moins fiables, selon des recherches
récentes. Alan Nichol, directeur technique chez Rasa,
fournisseur d’IA conversationnelle, a qualifié le RAG
de « simple mot à la mode » qui signifie simplement
« ajouter une boucle autour de grands modèles linguistiques » et récupérer des données. Selon lui, l’engouement est exagéré, ajoutant que l’utilisation des instructions « while » ou « if » par le RAG est considérée comme
une avancée majeure. Les systèmes RAG comprennent
généralement une logique qui peut ressembler à des
Informations erronées ou risques
pour la vie privée
56 / septembre / octobre / novembre 2025
Deux études, l’une réalisée par Bloomberg et l’autre par
l’Association for Computational Linguistics (ACL), ont
révélé que l’utilisation du RAG avec des grands modèles
linguistiques (LLM) peut réduire leur sécurité, même
lorsque les LLM et les documents auxquels ils accèdent
sont fiables. L’étude a souligné la nécessité de mener
des recherches sur la sécurité et de mettre en place des
équipes spécialisées dans les configurations RAG. Les
deux études ont révélé que les résultats « dangereux »,
tels que les informations erronées ou les risques pour
la vie privée, augmentaient avec le RAG, ce qui a incité à
examiner de plus près si les documents récupérés étaient
