infiltration de requête
- Domaines
-
- intelligence artificielle
- informatique sécurité informatique
- Dernière mise à jour
Définition :
Technique consistant à faire exécuter une requête malveillante en la concaténant avec des données fournies pour la réalisation d'une requête valide, dans le but de manipuler le comportement d'un grand modèle de langage et l'amener à produire des résultats indésirables.
Notes :
L'infiltration de requête est notamment utilisée afin de générer des réponses biaisées, de propager de l'information inexacte, de modifier les instructions initiales d'une intelligence artificielle générative, de compromettre la confidentialité des données ou d'outrepasser les restrictions de contenu.
Une infiltration de requête pourrait consister, par exemple, à demander à une intelligence artificielle générative de traduire un passage dans lequel se trouve une seconde instruction dissimulée, qui l'invite à ignorer ses instructions précédentes et à en exécuter de nouvelles. Cette requête induit le grand modèle de langage en erreur en l'amenant à traiter des instructions malveillantes comme s'il s'agissait d'un texte à traduire.
Termes privilégiés :
- infiltration de requête n. f.
- infiltration d'invite n. f.
-
Les termes infiltration de requête et infiltration d'invite ont été proposés par l'Office québécois de la langue française en septembre 2023 pour désigner ce concept.
Dans les termes infiltration de requête et infiltration d'invite, les éléments requête et invite peuvent aussi s'écrire au pluriel (infiltration de requêtes, infiltration d'invites) pour évoquer une pluralité des requêtes infiltrées.
Traductions
-
anglais
Auteur : Office québécois de la langue française,Terme :
- prompt injection