Verletzungen von Plugin-Grenzen treten auf, wenn eine LLM-Anwendung mit Funktionsaufruf- oder Tool-Nutzungsfähigkeiten unbefugte Aktionen über Plugins, externe APIs oder Integrationen ausführt. Das Testen bewertet, ob das Modell definierte Sicherheitsgrenzen einhält, und überprüft Privilegieneskalation, unbefugten Ressourcenzugriff, Befehlsausführung außerhalb des vorgesehenen Bereichs oder die Umgehung von Autorisierungskontrollen durch Prompt- oder Kontextmanipulation. Kritisch für KI-Systeme mit Zugriff auf Datenbanken, Dateisysteme oder externe Dienste.