AI模型与智能体

提示词注入

也称为：指令注入

通过隐藏在不可信数据中的指令，试图改变AI行为。

实际示例

文档含有要求忽略用户任务的指令。

我应了解什么？

来源内容本身不应授予操作权限。

AI模型与智能体实践中

模型处理信息；应用定义工具及权限。可靠回答需要优质来源与核实。涉及账户、内容和订单的操作必须限制在已授权范围内。

相关Semly功能

了解此概念如何应用于Semly工作。

Semly MCP将Semly数据和工具连接到AI助手，在对话中分析报告并与Leon工作。面向AI智能体的网站通过智能体渠道共享结构化企业知识及询价表单。

相关术语

AI智能体在现有能力范围内，使用模型与工具追求目标的系统。授权确定已识别用户或应用可以访问哪些资源和操作。工具调用模型提出使用可用函数，再由应用执行的机制。

文档与延伸阅读

定义由Semly编写，标准与行为由其创建者说明：

看看AI是否能发现您

输入网站地址，获取AI可见度报告。