KI-Governance

Wer darf was wissen: Need-to-Know im Code verankert

In ErprobungVeröffentlicht:

AusgangsfrageWie stellen wir sicher, dass eine KI-Funktion nur die Daten sieht, die Rolle und Mandant erlauben, auch dann, wenn ein Entwickler eine Prüfung vergisst?

Prüfergebnis

Noch offen

Entwurf in Erprobung: Ohne signiertes Berechtigungsobjekt lässt sich ein KI-Aufruf gar nicht erst übersetzen.

Indem jeder Aufruf eines KI-Bausteins ein signiertes Berechtigungsobjekt mitführen muss, das nur eine zentrale Policy-Instanz ausstellt. Fehlt es, lässt sich der Code nicht übersetzen. Need-to-Know wird so zur Eigenschaft der Architektur; der Entwurf ist in Erprobung.

Was wir erprobt haben

Bisher hing die Berechtigung an einer Middleware-Zeile je Route. Fehlt diese Zeile, ist der Endpunkt offen.

Wir haben ein Modell entworfen, in dem jeder Aufruf eines KI-Bausteins ein signiertes Berechtigungsobjekt mitführen muss. Fehlt es, lässt sich der Code gar nicht erst übersetzen. Ausstellen darf diese Objekte nur eine zentrale Policy-Instanz. Der Entwurf ist in Erprobung und noch nicht in Betrieb.

Was es für die Business-Architektur bedeutet

Need-to-Know wird damit eine Eigenschaft der Architektur und keine Aufgabe für das Code-Review. Für regulierte Häuser zählt genau das: Man kann zeigen, dass ein Datenzugriff ohne Freigabe technisch nicht vorkommt. Dass er heute nur selten vorkommt, reicht nicht.

Learnings

  1. Eine vergessene Zeile ist das typische Datenleck. Strukturelle Garantien sind besser als Checklisten.
  2. Wenn Bausteine einander aufrufen, vervielfacht sich das Risiko. Die Prüfung gehört an jeden Übergang.
  3. Berechtigungen brauchen eine Ablaufzeit und einen engen Geltungsbereich, sonst werden sie zum Generalschlüssel.
  • Need-to-Know
  • Berechtigungen
  • KI-Governance
  • Mandantentrennung

Weitere Berichte zu KI-Governance

Beratung der SIMO GmbH

Vom Lab in die Beratung.

SIMO beurteilt Handlungsalternativen nicht allein nach Herstellerangaben. Technisch prüfbare Annahmen untersucht das SIMOSphere AI Lab. Dieser Bericht zeigt, was technisch trägt. Ob es in Ihrem Unternehmen trägt, ist eine Frage der Architektur. Die SIMO GmbH klärt sie mit Ihnen, unabhängig von Herstellern.

Decision Readiness Check: 12 Fragen, rund 3 Minuten, Ergebnis sofort. Erstgespräch: 45 Minuten, kostenfrei, per Video. Einstieg mit der Standortbestimmung BISA oder der Unternehmensanalyse BEIA. Alles auf simo-online.com.