Erfahrungsbericht 4 · KI-Governance
Nachweisbar statt behauptet: ein manipulationssicheres Protokoll für KI-Agenten
Wie sich im Nachhinein belegen lässt, was ein autonomer KI-Agent getan hat, ohne dass jemand das Protokoll unbemerkt ändert.
- Status
- Erprobung Entwurf in Erprobung, noch nicht in Betrieb.
- Veröffentlicht
- Herausgeber
- SIMO GmbH, Aschaffenburg
AusgangsfrageWie lässt sich im Nachhinein belegen, was ein autonomer KI-Agent getan hat, und zwar so, dass niemand das Protokoll unbemerkt ändert?
Was wir erprobt haben
Jedes relevante Ereignis wird als Glied einer Kette gespeichert, mit Verweis auf den Vorgänger und einer Signatur. Solche Ereignisse sind etwa eine Werkzeugnutzung, eine Policy-Entscheidung oder eine Schlüsselrotation.
Der Signaturschlüssel ist an die Hardware gebunden. Wird die Kette verändert, fällt das auf und das Gerät wird isoliert.
Was es für die Business-Architektur bedeutet
Autonomie braucht Revisionssicherheit. Erst ein lückenloser Nachweis macht KI-Agenten für Prüfer, Revision und Aufsicht annehmbar.
Learnings
- Eine verschlüsselte Verbindung schützt den Übertragungsweg, nicht das gespeicherte Protokoll.
- Die Sicherheit hängt von der Hardware ab. Schwächere Geräte bedeuten schwächere Zusagen, und das muss man offen sagen.
- Das Format der Protokolleinträge muss früh eingefroren werden. Jede spätere Änderung bricht die Kompatibilität.
- Audit-Trail
- KI-Agenten
- Revisionssicherheit
- Signatur