KI datenschutzkonform einsetzen: DSGVO-Grundlagen für den Mittelstand

Die DSGVO verbietet KI nicht, sie verlangt aber für jede Verarbeitung personenbezogener Daten eine Rechtsgrundlage. Im Unternehmensalltag kommen vor allem die Erfüllung eines Vertrags, rechtliche Verpflichtungen und berechtigte Interessen nach Art. 6 Abs. 1 DSGVO in Betracht, seltener die Einwilligung. Welche Grundlage trägt, hängt vom konkreten Zweck ab: Ein Assistent, der Kundenanfragen zusammenfasst, wird anders zu bewerten sein als ein Werkzeug, das Bewerbungsunterlagen auswertet.

Deshalb steht am Anfang die Zweckfestlegung. Die DSK betont, dass nur bei konkret festgelegten Zwecken geprüft werden kann, ob die Verarbeitung erforderlich ist. Einsatzfelder ganz ohne Personenbezug fallen nicht unter das Datenschutzrecht; ein Personenbezug kann aber auch aus dem Zusammenhang entstehen, nicht nur durch Namen und Adressen.

Für besondere Kategorien personenbezogener Daten wie Gesundheitsdaten, religiöse Überzeugungen oder Gewerkschaftszugehörigkeit gilt nach Art. 9 DSGVO ein grundsätzliches Verarbeitungsverbot mit eng gefassten Ausnahmen. Solche Daten gehören in eine eigene Datenklasse mit besonders strengen Regeln für Eingabe und Ausgabe.

Setzt ein Unternehmen eine KI-Anwendung eines externen Anbieters zu eigenen Zwecken ein, handelt der Anbieter nach Einschätzung der DSK häufig als Auftragsverarbeiter. Dann ist ein Vertrag nach Art. 28 Abs. 3 DSGVO abzuschließen, der unter anderem Weisungsbindung, Vertraulichkeit, Unterauftragnehmer und Unterstützung bei Betroffenenrechten regelt. Zu prüfen ist zusätzlich, ob der Anbieter Eingaben für das Training eigener Modelle verwendet; die DSK hält Anwendungen ohne solche Nutzung für vorzugswürdig.

Werden Daten in Länder außerhalb des Europäischen Wirtschaftsraums übermittelt, gelten die Regeln aus Kapitel V DSGVO. Für die USA hat die EU-Kommission am 10. Juli 2023 einen Angemessenheitsbeschluss zum EU-US Data Privacy Framework erlassen. Auf dieser Grundlage können Daten an US-Unternehmen übermittelt werden, die an dem Rahmenwerk teilnehmen. Ob ein Anbieter zertifiziert ist, lässt sich in der offiziellen Teilnehmerliste prüfen. Weil Angemessenheitsbeschlüsse gerichtlich überprüft werden können, wie die Schrems-II-Entscheidung von 2020 gezeigt hat, sollte der Status regelmäßig kontrolliert werden.

Vor jeder Verarbeitung ist eine Vorabprüfung des Risikos vorzunehmen. Ergibt sie ein voraussichtlich hohes Risiko für die Rechte und Freiheiten der Betroffenen, verlangt Art. 35 DSGVO eine Datenschutz-Folgenabschätzung. Die DSK schreibt, dass dies beim Einsatz von KI-Anwendungen vielfach der Fall sein wird, und verweist auf die von den Aufsichtsbehörden veröffentlichten „Muss-Listen“. Für die DSFA braucht das Unternehmen Informationen des Anbieters zur Funktionsweise; diese sollten bereits bei der Auswahl eingefordert werden.

Art. 22 DSGVO setzt eine weitere Grenze: Entscheidungen mit Rechtswirkung oder ähnlich erheblicher Beeinträchtigung dürfen grundsätzlich nicht ausschließlich automatisiert fallen. Nach der DSK reicht eine nur formelle Beteiligung eines Menschen nicht aus; der entscheidenden Person muss ein tatsächlicher Spielraum bleiben, und Zeitdruck darf nicht dazu führen, dass KI-Vorschläge ungeprüft übernommen werden. Als Beispiel für einen Verstoß nennt die DSK eine Anwendung, die Bewerbungen auswertet und selbstständig Einladungen verschickt.

Wer personenbezogene Daten mit KI verarbeitet, muss die Betroffenen nach Art. 13 und 14 DSGVO informieren. Bei automatisierten Entscheidungen umfasst das auch aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen. Dafür ist meist Dokumentation des Anbieters nötig.

Auch Auskunft, Berichtigung und Löschung müssen umsetzbar sein. Die DSK weist darauf hin, dass KI-Anwendungen unrichtige personenbezogene Daten erzeugen können und das Recht auf Berichtigung dann auch in der KI-Anwendung durchsetzbar sein muss. Nachgeschaltete Filter, die bestimmte Ausgaben unterdrücken, gelten nach ihrer Einschätzung nicht generell als Löschung. Wissensquellen und Indizes eines Assistenten brauchen daher einen Prozess zum Korrigieren und Entfernen von Einträgen.

Eine einfache Datenklassifizierung macht viele Einzelentscheidungen überflüssig. Für jede Klasse, etwa öffentlich, intern, vertraulich und besonders schutzbedürftig, wird festgelegt, welche KI-Umgebungen zulässig sind. Die DSK unterscheidet zwischen offenen Systemen, bei denen Eingaben den geschützten Bereich verlassen und weiterverwendet werden können, und technisch geschlossenen Systemen mit begrenztem Nutzerkreis, die sie aus Datenschutzsicht als vorzugswürdig bezeichnet.

Daraus ergeben sich drei typische Betriebsformen: ein Cloud-Dienst mit Unternehmensvertrag und Trainingsausschluss für weniger sensible Inhalte, ein in der EU gehostetes Modell für vertrauliche Daten und ein lokal betriebenes Modell für besonders schutzbedürftige Bestände. Alle drei setzen voraus, dass Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen nach Art. 25 DSGVO umgesetzt werden, zum Beispiel durch abgeschaltete Eingabehistorie und Trainingsnutzung in betrieblichen Accounts.

Ohne klare Regeln nutzen Beschäftigte KI-Dienste eigenständig, häufig mit privaten Accounts. Die DSK geht davon aus, dass dies in vielen Organisationen bereits Realität ist, und empfiehlt dokumentierte interne Weisungen: welche Anwendungen für welche Zwecke zugelassen sind, mit Beispielen erlaubter und untersagter Nutzung. Dazu gehören betriebliche Accounts und Schulungen.

Datenschutzbeauftragte sollten nach der DSK stets eingebunden werden, wenn Entscheidungen über KI-Anwendungen vorbereitet werden. Die Beteiligung des Betriebsrats ist zu prüfen: Nach § 87 Abs. 1 Nr. 6 BetrVG hat er bei der Einführung technischer Einrichtungen mitzubestimmen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen. Die DSK weist darauf hin, dass die Einführung einer KI-Anwendung in einigen Fällen einen Mitbestimmungstatbestand erfüllt, und nennt eine Betriebsvereinbarung als möglichen Rahmen.