KI, die Sie mit gutem Gewissen einsetzen.gutem Gewissen einsetzen.

Prompt Injection ist ein Angriff, bei dem Text von Nutzern oder versteckt in Dokumenten, E-Mails oder Webseiten versucht, die Anweisungen eines Sprachmodells zu überschreiben, etwa um Daten preiszugeben oder ungewollte Aktionen auszulösen. Er steht auf Platz eins der OWASP Top 10 for LLM Applications.

Mit heutigen Modellen nicht. Ziel ist, die Auswirkungen zu begrenzen: externe Inhalte als Daten behandeln, Werkzeugrechte einschränken, Ausgaben prüfen, folgenreiche Aktionen von Menschen freigeben lassen und Auffälligkeiten überwachen.

Er gilt für Anbieter und Betreiber von KI-Systemen, die in der EU in Verkehr gebracht oder genutzt werden. Die Pflichten hängen von der Risikoklasse des Anwendungsfalls ab, von Transparenzpflichten bis zu umfangreichen Anforderungen an Hochrisiko-Systeme. Wir unterstützen bei der Einordnung; die rechtliche Bewertung bleibt bei Ihrer Rechtsberatung.

Eine verbreitete Liste der kritischsten Sicherheitsrisiken für Anwendungen auf Basis großer Sprachmodelle, gepflegt von der OWASP Foundation. Sie dient als praxisnahe Checkliste zum Testen und Härten von KI-Systemen.

Nein. Wir liefern technische Analyse, Maßnahmen und Dokumentation. Rechtliche Auslegung und finale Compliance-Entscheidungen bleiben bei Ihrer Rechts- und Datenschutzberatung, mit der wir eng zusammenarbeiten.

Immer wenn sich Modell, Systemprompt, Werkzeuge oder Datenquellen wesentlich ändern, und dazwischen regelmäßig. Automatisierte Regressionstests machen häufiges Nachtesten praktikabel.