Modelli e agenti IA

Prompt injection

Noto anche come: iniezione di istruzioni

Un tentativo di cambiare il comportamento dell'IA con istruzioni nascoste in dati non attendibili.

Un esempio pratico

Un documento contiene istruzioni per ignorare il compito dell’utente.

Cosa dovrei sapere?

Il contenuto di una fonte non deve concedere da solo permessi di azione.

Modelli e agenti IA in pratica

Il modello elabora informazioni; l'applicazione definisce strumenti e permessi. Risposte affidabili richiedono fonti e verifiche. Le azioni su account, contenuti e ordini devono rispettare i permessi concessi.

Funzioni Semly correlate

Scopri dove si applica questo concetto usando Semly.

Semly MCPCollega dati e strumenti Semly all’assistente AI. Analizza report e lavora con Leon nella conversazione.Siti web per agenti IACondividi conoscenze aziendali strutturate e moduli di richiesta tramite un canale per agenti.

Termini correlati

Agente IASistema che usa un modello e strumenti per raggiungere un obiettivo entro le capacità disponibili.AutorizzazioneStabilire a quali risorse e operazioni accede un utente o un'applicazione identificati.Chiamata di strumentiUn meccanismo che consente al modello di proporre una funzione disponibile, eseguita dall'applicazione.

Documentazione e approfondimenti

Definizione preparata da Semly. Standard e comportamenti sono descritti dai loro creatori: