Ihr KI-Agent hat gehandelt. Auf welcher Grundlage?
Wenn ein KI-Agent handelt, muss sich später klären lassen, auf welcher Grundlage. Ein eigener Zugangsschlüssel je Agent und ein Protokoll jedes Kontextabrufs machen das nachweisbar.
Ein KI-Agent hat in Ihrer Organisation etwas getan: eine Anfrage beantwortet, einen Vorgang angestoßen, eine Entscheidung umgesetzt. Drei Wochen später fragt jemand nach. Welche Regeln galten in diesem Moment für den Agenten? In welcher Rolle hat er gehandelt? Und welche Fassung der Richtlinie kannte er?
Wer darauf keine Antwort hat, hat kein Technikproblem. Er hat ein Führungsproblem.
Jeder Agent bekommt einen eigenen Schlüssel
In roleALPHA ist ein KI-Agent Teil des Organisationsmodells, mit Zweck, Rolle und den Richtlinien, die für ihn gelten. Diesen Rahmen ruft er als Kontext ab, und dafür bekommt er einen eigenen Zugangsschlüssel. Mit diesem Schlüssel erhält er nur seinen eigenen Kontext, nicht den anderer Agenten.
Jeder Schlüssel lässt sich einzeln widerrufen. Wird ein Agent abgeschaltet oder ersetzt, endet sein Zugang, und alle anderen Agenten arbeiten weiter.
Jeder Abruf hinterlässt eine Spur
Jedes Mal, wenn der Kontext eines Agenten ausgeliefert wird, schreibt roleALPHA einen Eintrag ins Protokoll, gleich über welchen Weg. Der Eintrag hält fest:
- wer abgerufen hat: der Agent selbst, ein Mensch oder eine angebundene KI-Anwendung,
- welcher Stand des Kontexts ausgeliefert wurde,
- welche Richtlinien darin standen, jede mit ihrer Version.
Wer sich den Agenten nur in der App ansieht, steht getrennt davon als Ansicht im Protokoll. So bleibt der Nachweis sauber, was der Agent tatsächlich bekommen hat.
Nachvollziehbarkeit statt Blackbox
Für Geschäftsführung, IT und HR heißt das: Sie können belegen, welche Regeln ein Agent zu dem Zeitpunkt kannte, an dem er gehandelt hat. Das ersetzt nicht die Prüfung des einzelnen Vorgangs. Es beantwortet aber die Frage, mit der jede Prüfung beginnt.
Ausgeführt werden die Agenten weiter in Ihrer eigenen Umgebung. roleALPHA gibt ihnen den Rahmen, in dem sie arbeiten dürfen, und hält fest, was sie davon bekommen haben.
Was der EU AI Act damit zu tun hat
Die KI-Verordnung der EU (Verordnung (EU) 2024/1689) verlangt für Hochrisiko-KI-Systeme unter anderem, dass Ereignisse automatisch protokolliert werden (Art. 12), dass Menschen das System wirksam beaufsichtigen können (Art. 14) und dass Betreiber die Protokolle aufbewahren (Art. 26). Ein eigener Schlüssel je Agent und ein Protokoll jedes Kontextabrufs sind dafür ein Baustein: der Nachweis, mit welchen Regeln ein Agent gearbeitet hat. Welche Pflichten für Ihren Einsatz gelten, hängt vom einzelnen KI-System ab.
Mehr dazu
- KI-Agenten in der Dokumentation: Zugangsschlüssel und Protokoll der Abrufe im Detail
- Sie möchten sehen, wie das in Ihrer Organisation aussieht? Demo anfragen