KI-Governance

Lieber zu vorsichtig: Daten klassifizieren vor dem KI-Aufruf

In ErprobungVeröffentlicht:

AusgangsfrageWie entscheiden wir vor dem Aufruf eines Sprachmodells, ob eine Eingabe vertraulich ist und das Haus verlassen darf?

Prüfergebnis

Noch offen

Entwurf in Erprobung: Ein lokales Modell stuft jede Eingabe ein, im Zweifel als vertraulich. Das kostet Modellqualität, bewusst.

Ein lokales Modell ordnet jede Eingabe ein, bevor sie das Haus verlässt, und stuft sie im Zweifel als vertraulich ein. Nur eindeutig unkritische Grenzfälle gehen zur zentralen Prüfung. Diese Richtung ist fest eingebaut und lässt sich per Konfiguration nicht lockern.

Was wir erprobt haben

Wir haben einen zweistufigen Klassifizierer entworfen. Ein lokales Modell ordnet jede Eingabe ein. Im Zweifel stuft es sie als vertraulich ein und schickt sie nicht zur zentralen Prüfung weiter. Nur eindeutig unkritische Grenzfälle gehen dorthin.

Die Richtung „im Zweifel vertraulich“ ist fest eingebaut und lässt sich nicht per Konfiguration lockern.

Was es für die Business-Architektur bedeutet

Die Klassifizierung ist die Voraussetzung dafür, Anfragen zwischen lokalem und externem Modell aufzuteilen. Ohne sie bleibt jede Hybrid-Architektur eine Vertrauensfrage.

Learnings

  1. Den Fehler in Richtung Vertraulichkeit zu machen, kostet Modellqualität. Wir nehmen das bewusst in Kauf.
  2. Zwei Klassifizierer müssen aufeinander abgestimmt bleiben, sonst sehen Nutzer widersprüchliche Ergebnisse.
  3. Eine Klassifizierung, die nur zentral läuft, würde genau die Daten verschicken, die sie schützen soll.
  • Datenklassifizierung
  • Hybrid-Architektur
  • lokale KI
  • Vertraulichkeit

Weitere Berichte zu KI-Governance

  • In Erprobung

    Wer darf was wissen: Need-to-Know im Code verankert

    Wie eine KI-Funktion nur die Daten sieht, die Rolle und Mandant erlauben, auch wenn jemand eine Prüfung vergisst.

    Prüfergebnis: Noch offen

    Bezug: Business Architecture, KI

  • Gebaut

    Wissen mit Freigabe: KI nutzt Inhalte nur nach Erlaubnis

    Wie sich steuern lässt, welches KI-System welche Unternehmensinformation verwenden darf, getrennt davon, wer sie lesen darf.

    Prüfergebnis: Tragfähig

    Bezug: Data Architecture, Business Data Strategy

  • In Erprobung

    Nachweisbar statt behauptet: Protokoll für KI-Agenten

    Wie sich im Nachhinein belegen lässt, was ein autonomer KI-Agent getan hat, ohne dass jemand das Protokoll unbemerkt ändert.

    Prüfergebnis: Noch offen

    Bezug: Infrastruktur, KI

Beratung der SIMO GmbH

Vom Lab in die Beratung.

SIMO beurteilt Handlungsalternativen nicht allein nach Herstellerangaben. Technisch prüfbare Annahmen untersucht das SIMOSphere AI Lab. Dieser Bericht zeigt, was technisch trägt. Ob es in Ihrem Unternehmen trägt, ist eine Frage der Architektur. Die SIMO GmbH klärt sie mit Ihnen, unabhängig von Herstellern.

Decision Readiness Check: 12 Fragen, rund 3 Minuten, Ergebnis sofort. Erstgespräch: 45 Minuten, kostenfrei, per Video. Einstieg mit der Standortbestimmung BISA oder der Unternehmensanalyse BEIA. Alles auf simo-online.com.