Modèles et agents IA
Injection de prompt
Aussi appelé : injection d’instructions
Tentative de modifier le comportement d’une IA par des instructions cachées dans des données non fiables.
Un exemple pratique
Un document contient des instructions demandant d’ignorer la tâche de l’utilisateur.
Que dois-je savoir ?
Un contenu source ne doit pas donner de droits d’action à lui seul.
Modèles et agents IA en pratique
Le modèle traite l’information ; l’application définit outils et droits. Des réponses fiables exigent bonnes sources et vérification. Les actions sur comptes, contenus et commandes doivent rester dans les droits accordés.
Fonctionnalités Semly associées
Découvrez où ce concept s’applique dans Semly.
Termes associés
Documentation et lectures complémentaires
Définition préparée par Semly. Les normes et comportements sont décrits par leurs créateurs :
