Модели и агенты ИИ

Промпт-инъекция

Также известен как: внедрение инструкций

Попытка изменить поведение ИИ инструкциями, скрытыми в недоверенных данных.

Пример на практике

Документ содержит указание игнорировать задачу пользователя.

Что нужно знать?

Контент источника сам не должен давать разрешения действий.

Модели и агенты ИИ на практике

Модель обрабатывает сведения, приложение определяет инструменты и права. Надежным ответам нужны источники и проверка. Действия с аккаунтами, контентом и заказами ограничены выданными правами.

Связанные функции Semly

Как понятие применяется в работе с Semly.

Semly MCPПодключите данные и инструменты Semly к ИИ-ассистенту. Анализируйте отчеты и работайте с Leon в разговоре.Сайты для ИИ-агентовПередавайте структурированные знания о компании и формы заявок через канал агентов.

Связанные термины

ИИ-агентСистема с моделью и инструментами для достижения цели в пределах доступных возможностей.АвторизацияОпределение ресурсов и операций, доступных опознанному пользователю или приложению.Вызов инструментовМеханизм, позволяющий модели предложить вызов доступной функции для выполнения приложением.

Документация и материалы

Определение подготовлено Semly. Стандарты и поведение описывают их создатели: