Comme un modèle considère tout le texte présent dans son contexte comme potentiellement porteur d’instructions, un texte contrôlé par un attaquant peut détourner le comportement prévu. Perez et Ribeiro (2022) ont démontré des attaques par détournement d’objectif et par fuite de prompt, et Greshake et al. (2023) ont mis en évidence l’injection de prompt indirecte, dans laquelle des instructions malveillantes sont dissimulées dans des pages web ou des documents que le modèle récupère ensuite.
L’OWASP considère l’injection de prompt comme le principal risque de sécurité des applications LLM, et la parade fait l’objet de recherches actives, sans solution complète à ce jour.