Erfahrungsbericht 3 · KI-Governance
Lieber zu vorsichtig: Datenklassifizierung vor jedem KI-Aufruf
Wie vor dem Aufruf eines Sprachmodells entschieden wird, ob eine Eingabe vertraulich ist und das Haus verlassen darf.
- Status
- Erprobung Entwurf in Erprobung, noch nicht in Betrieb.
- Veröffentlicht
- Herausgeber
- SIMO GmbH, Aschaffenburg
AusgangsfrageWie entscheiden wir vor dem Aufruf eines Sprachmodells, ob eine Eingabe vertraulich ist und das Haus verlassen darf?
Was wir erprobt haben
Wir haben einen zweistufigen Klassifizierer entworfen. Ein lokales Modell ordnet jede Eingabe ein. Im Zweifel stuft es sie als vertraulich ein und schickt sie nicht zur zentralen Prüfung weiter. Nur eindeutig unkritische Grenzfälle gehen dorthin.
Die Richtung „im Zweifel vertraulich“ ist fest eingebaut und lässt sich nicht per Konfiguration lockern.
Was es für die Business-Architektur bedeutet
Die Klassifizierung ist die Voraussetzung dafür, Anfragen zwischen lokalem und externem Modell aufzuteilen. Ohne sie bleibt jede Hybrid-Architektur eine Vertrauensfrage.
Learnings
- Den Fehler in Richtung Vertraulichkeit zu machen, kostet Modellqualität. Wir nehmen das bewusst in Kauf.
- Zwei Klassifizierer müssen aufeinander abgestimmt bleiben, sonst sehen Nutzer widersprüchliche Ergebnisse.
- Eine Klassifizierung, die nur zentral läuft, würde genau die Daten verschicken, die sie schützen soll.
- Datenklassifizierung
- Hybrid-Architektur
- lokale KI
- Vertraulichkeit