KI-Governance
Lieber zu vorsichtig: Daten klassifizieren vor dem KI-Aufruf
AusgangsfrageWie entscheiden wir vor dem Aufruf eines Sprachmodells, ob eine Eingabe vertraulich ist und das Haus verlassen darf?
Prüfergebnis
Noch offen
Entwurf in Erprobung: Ein lokales Modell stuft jede Eingabe ein, im Zweifel als vertraulich. Das kostet Modellqualität, bewusst.
Ein lokales Modell ordnet jede Eingabe ein, bevor sie das Haus verlässt, und stuft sie im Zweifel als vertraulich ein. Nur eindeutig unkritische Grenzfälle gehen zur zentralen Prüfung. Diese Richtung ist fest eingebaut und lässt sich per Konfiguration nicht lockern.
Was wir erprobt haben
Wir haben einen zweistufigen Klassifizierer entworfen. Ein lokales Modell ordnet jede Eingabe ein. Im Zweifel stuft es sie als vertraulich ein und schickt sie nicht zur zentralen Prüfung weiter. Nur eindeutig unkritische Grenzfälle gehen dorthin.
Die Richtung „im Zweifel vertraulich“ ist fest eingebaut und lässt sich nicht per Konfiguration lockern.
Was es für die Business-Architektur bedeutet
Die Klassifizierung ist die Voraussetzung dafür, Anfragen zwischen lokalem und externem Modell aufzuteilen. Ohne sie bleibt jede Hybrid-Architektur eine Vertrauensfrage.
Learnings
- Den Fehler in Richtung Vertraulichkeit zu machen, kostet Modellqualität. Wir nehmen das bewusst in Kauf.
- Zwei Klassifizierer müssen aufeinander abgestimmt bleiben, sonst sehen Nutzer widersprüchliche Ergebnisse.
- Eine Klassifizierung, die nur zentral läuft, würde genau die Daten verschicken, die sie schützen soll.
- Datenklassifizierung
- Hybrid-Architektur
- lokale KI
- Vertraulichkeit