Modele i agenci AI

Prompt injection

Także: wstrzyknięcie instrukcji

Próba nakłonienia systemu AI do zmiany działania przez instrukcje ukryte w niezaufanych danych.

Przykład w praktyce

Dokument zawiera polecenie pomijające zadanie użytkownika.

Co warto wiedzieć?

Treść źródła nie powinna samodzielnie przyznawać uprawnień do działań.

Modele i agenci AI w praktyce

Model przetwarza informacje, a aplikacja określa dostępne narzędzia i uprawnienia. Wiarygodność odpowiedzi wymaga dobrych źródeł oraz sprawdzania wyników. Działania na kontach, treściach i zamówieniach powinny mieścić się w nadanym zakresie.

Powiązane funkcje Semly

Zobacz, gdzie wykorzystasz to pojęcie w pracy z Semly.

MCP SemlyPołącz dane i narzędzia Semly z asystentem AI. Analizuj raporty i pracuj z Leonem w rozmowie.Strony dla agentów AIUdostępniaj uporządkowaną wiedzę o firmie i formularze zapytań w kanale dla agentów.

Powiązane pojęcia

Agent AISystem używający modelu i narzędzi do realizacji celu w ramach udostępnionych możliwości.AutoryzacjaUstalenie, jakie zasoby i operacje są dostępne dla rozpoznanego użytkownika lub aplikacji.Tool callingMechanizm pozwalający modelowi zaproponować użycie dostępnej funkcji, którą wykonuje aplikacja.

Dokumentacja i dalsza lektura

Definicja opracowana przez Semly. Standardy i zasady działania opisują ich twórcy: