KI-Governance
Nachweisbar statt behauptet: Protokoll für KI-Agenten
AusgangsfrageWie lässt sich im Nachhinein belegen, was ein autonomer KI-Agent getan hat, und zwar so, dass niemand das Protokoll unbemerkt ändert?
Prüfergebnis
Noch offen
Entwurf in Erprobung: signierte Ereigniskette, Schlüssel an die Hardware gebunden.
Indem jedes relevante Ereignis als signiertes Glied einer Kette gespeichert wird, mit Verweis auf seinen Vorgänger und einem an die Hardware gebundenen Schlüssel. Wird die Kette verändert, fällt das auf, und das Gerät wird isoliert. Der Entwurf ist in Erprobung.
Was wir erprobt haben
Jedes relevante Ereignis wird als Glied einer Kette gespeichert, mit Verweis auf den Vorgänger und einer Signatur. Solche Ereignisse sind etwa eine Werkzeugnutzung, eine Policy-Entscheidung oder eine Schlüsselrotation.
Der Signaturschlüssel ist an die Hardware gebunden. Wird die Kette verändert, fällt das auf und das Gerät wird isoliert.
Was es für die Business-Architektur bedeutet
Autonomie braucht Revisionssicherheit. Erst ein lückenloser Nachweis macht KI-Agenten für Prüfer, Revision und Aufsicht annehmbar.
Learnings
- Eine verschlüsselte Verbindung schützt den Übertragungsweg, nicht das gespeicherte Protokoll.
- Die Sicherheit hängt von der Hardware ab. Schwächere Geräte bedeuten schwächere Zusagen, und das muss man offen sagen.
- Das Format der Protokolleinträge muss früh eingefroren werden. Jede spätere Änderung bricht die Kompatibilität.
- Audit-Trail
- KI-Agenten
- Revisionssicherheit
- Signatur