AI modely a agenti

Prompt injection

Také známé jako: vkládání instrukcí

Pokus změnit chování AI pomocí instrukcí skrytých v nedůvěryhodných datech.

Praktický příklad

Dokument obsahuje pokyn ignorovat úkol uživatele.

Co je dobré vědět?

Zdrojový obsah nemá sám udělovat oprávnění k akcím.

AI modely a agenti v praxi

Model zpracovává informace; aplikace určuje nástroje a oprávnění. Spolehlivé odpovědi vyžadují zdroje a kontrolu. Akce s účty, obsahem a objednávkami musejí zůstat v povoleném rozsahu.

Související funkce Semly

Zjistěte, kde se pojem uplatňuje v Semly.

Semly MCPPropojte data a nástroje Semly se svým AI asistentem. Analyzujte reporty a pracujte s Leonem v rozhovoru.Weby pro AI agentyZpřístupněte strukturované firemní znalosti a poptávkové formuláře přes kanál pro agenty.

Související pojmy

AI agentSystém používající model a nástroje k cíli v rámci možností.AutorizaceUrčení zdrojů a operací, ke kterým má identifikovaný uživatel či aplikace přístup.Volání nástrojůMechanismus, kterým model navrhne použití dostupné funkce, již aplikace provede.

Dokumentace a další zdroje

Definice Semly. Standardy a chování popisují jejich tvůrci: