نماذج ووكلاء الذكاء الاصطناعي
حقن التوجيهات
يعرف أيضا باسم: حقن التعليمات
محاولة لتغيير سلوك الذكاء الاصطناعي بتعليمات مخفية في بيانات غير موثوقة.
مثال عملي
مستند يحتوي تعليمات بتجاهل مهمة المستخدم.
ما الذي ينبغي أن أعرفه?
ينبغي ألا يمنح محتوى المصدر صلاحية إجراء بحد ذاته.
نماذج ووكلاء الذكاء الاصطناعي عمليا
يعالج النموذج المعلومات ويحدد التطبيق الأدوات والصلاحيات. تتطلب الإجابات مصادر جيدة وتحققا، وتبقى إجراءات الحسابات والمحتوى والطلبات ضمن النطاق الممنوح.
ميزات Semly ذات الصلة
اكتشف أين يطبق هذا المفهوم عند العمل مع Semly.
مصطلحات ذات صلة
التوثيق وقراءات إضافية
تعريف أعدته Semly. يصف المنشئون المعايير والسلوك:
