LMi-MAG27 Sept - Flipbook - Page 57
© DR
Malgré son omniprésence, l’IA améliorée par RAG présente encore
des risques en matière de précision et de sécurité.
en cause. La conclusion principale : le RAG a besoin de
garde-fous solides et de chercheurs qui s’efforcent activement de trouver les failles, les vulnérabilités ou les faiblesses d’un système, souvent en se mettant dans la peau
d’un adversaire.
Comment fonctionne le RAG et quels sont
les risques pour la sécurité ?
Pour comprendre le RAG et son fonctionnement, on peut
comparer un modèle GenAI classique à un élève qui répond
à des questions de mémoire. L’élève peut parfois répondre
aux questions de mémoire, mais les informations peuvent
être obsolètes ou incomplètes. Un système RAG est comme
un élève qui dit : « Attendez, laissez-moi d’abord vérifier
dans mon manuel ou mes notes », puis vous donne une
réponse basée sur ce qu’il a trouvé, en y ajoutant sa propre
compréhension. Iris Zarecki, CEO du fournisseur de services d’intégration de données K2view, a déclaré que la
plupart des entreprises qui utilisent actuellement le RAG
enrichissent leurs modèles d’IA générative avec des données internes non structurées telles que des manuels, des
bases de connaissances et des sites web. Mais les entreprises doivent également inclure des données structurées
fragmentées, telles que les informations sur les clients, afin
d’exploiter pleinement le potentiel du RAG. « Par exemple,
lorsque des données clients telles que les relevés bancaires, les paiements et les interactions passés par email
et par téléphone avec l’entreprise sont récupérés par le
cadre RAG et transmis au LLM, celui-ci peut générer une
réponse beaucoup plus personnalisée et précise », explique
Mme Zarecki. Selon cette dernière, comme le RAG peut augmenter les risques de sécurité liés aux informations non
vérifiées et à l’injection rapide, les entreprises doivent
vérifier les sources, nettoyer les documents, appliquer des
limites de récupération et valider les résultats.
Le RAG peut également créer une passerelle à travers
les pare-feu, permettant ainsi la fuite de données, selon
Ram Palaniappan, directeur technique chez TEKsystems
Global Services, une société de conseil en technologie. « Cela ouvre un grand nombre de défis pour permettre un accès sécurisé et garantir que les données ne
se retrouvent pas dans le domaine public », a déclaré
M. Palaniappan. « Le RAG pose des défis en matière de
fuite de données, de manipulation et d’empoisonnement
des modèles, de sécurisation des bases de données vectorielles, etc. Par conséquent, la sécurité et la gouvernance des données deviennent très critiques avec l’architecture RAG. » Les bases de données vectorielles sont
couramment utilisées dans les applications impliquant
le RAG, la recherche sémantique, les agents IA et les
systèmes de recommandation. M. Palaniappan s’attend
à ce que le domaine du RAG évolue rapidement, avec des
améliorations en matière de sécurité et de gouvernance
grâce à des agents AI exploitant les outils Model Context
Protocol et Agent-to-Agent Protocol (A2A). « Comme
pour toute technologie émergente, nous assisterons à
des changements constants dans l’utilisation, la réglementation et les normes », a-t-il déclaré. « Les principaux domaines en progression sont la surveillance de
l’IA en temps réel, la détection des menaces et l’évolution
des approches en matière d’éthique et de partialité. »
[Lire l’intégralité de l’article sur lemondeinformatique.fr]
APPROFONDIR
ÉCOUTER EN LIGNE
Podcast
tinyurl.com/podcast-rag
LIRE EN LIGNE
Article
tinyurl.com/article-rag
57
