Моделі й агенти ШІ

Промпт-ін’єкція

Також відомо як: ін'єкція інструкцій

Спроба змінити поведінку ШІ інструкціями в недовірених даних.

Практичний приклад

Документ містить інструкції ігнорувати завдання користувача.

Що варто знати?

Сам вихідний контент не має надавати дозволів на дії.

Моделі й агенти ШІ на практиці

Модель обробляє інформацію, застосунок визначає інструменти й дозволи. Надійні відповіді потребують джерел і перевірки. Дії акаунтів, контенту й замовлень мають залишатися в дозволених межах.

Пов'язані функції Semly

Як це поняття застосовується в роботі із Semly

Semly MCPПідключіть дані й інструменти Semly до асистента. Аналізуйте й працюйте з Leon у розмові.Сайти для ШІ-агентівНадавайте структуровані знання компанії й форми звернень через канал агентів.

Пов’язані терміни

ШІ-агентСистема з моделлю й інструментами для досягнення цілі в межах можливостей.АвторизаціяВизначення ресурсів і операцій, доступних ідентифікованому користувачу чи застосунку.Виклик інструментівМеханізм, у якому модель пропонує доступну функцію, а застосунок виконує її.

Документація й додаткові матеріали

Визначення підготовлене Semly. Стандарти й поведінку описують їхні автори: