Modelos e agentes de IA

Injeção de prompts

Também conhecido como: injeção de instruções

Uma tentativa de alterar o comportamento da IA com instruções escondidas em dados não fiáveis.

Um exemplo prático

Um documento contém instruções para ignorar a tarefa do utilizador.

O que devo saber?

O conteúdo de uma fonte não deve conceder permissões de ação por si só.

Modelos e agentes de IA na prática

O modelo processa informação; a aplicação define ferramentas e permissões. Respostas fiáveis exigem boas fontes e verificação. As ações sobre contas, conteúdo e encomendas devem respeitar as permissões concedidas.

Funções Semly relacionadas

Veja onde se aplica este conceito ao trabalhar com a Semly.

Semly MCPLigue dados e ferramentas Semly ao assistente IA. Analise relatórios e trabalhe com o Leon numa conversa.Sites para agentes de IAPartilhe conhecimento estruturado sobre a empresa e formulários de contacto através de um canal para agentes.

Termos relacionados

Agente de IAUm sistema que usa um modelo e ferramentas para atingir um objetivo dentro das capacidades disponíveis.AutorizaçãoDefinição dos recursos e operações acessíveis a um utilizador ou aplicação identificados.Chamada de ferramentasUm mecanismo que permite ao modelo propor uma função disponível, executada depois pela aplicação.

Documentação e leituras adicionais

Definição preparada pela Semly. As normas e o comportamento são descritos pelos respetivos criadores: