KI datenschutzkonform einsetzen: So gelingt der pragmatische Einstieg

Datenschutz und KI ist für viele Organisationen nach wie vor eines der drängendsten Themen. Und leider auch eines der lähmendsten.

Denn: sobald es darum geht, KI datenschutzkonform einzusetzen und in bestehende Prozesse zu integrieren, kommen schnell Fragen zur DSGVO, zum AI Act, zu personenbezogenen Daten, Hosting, Anbietern und möglichen Risiken auf. Was ja auch gut und richtig ist.

Das große Problem ist, dass Organisationen dadurch häufig schon gestoppt werden, bevor sie überhaupt richtig angefangen haben, KI sinnvoll zu nutzen.

Dabei ist das Thema durchaus handhabbarer, als es auf den ersten Blick wirkt.

Datenschutz hat mich erstmal ausgebremst

Wer anfängt, KI in Prozesse zu bringen, denkt schnell an die DSGVO. Dann an personenbezogene Daten. Und plötzlich fühlt sich jede mögliche Anwendung kompliziert an.

Ganz ehrlich: das war bei mir auch nicht anders.

Als ich KI ernsthaft in meine Arbeit eingebunden habe, hat mich das Thema zunächst stark ausgebremst. Ich musste verstehen: Welche Sprachmodelle gibt es? Wo werden sie betrieben? Welche Anbieter kommen infrage? Was passiert mit den eingegebenen Daten? Werden sie gespeichert oder zum Training verwendet? Welche Möglichkeiten gibt es für besonders sensible Informationen? Und wie leistungsfähig sind lokale Lösungen überhaupt?

Am Anfang war es gar nicht so leicht, einen Überblick zu bekommen.

Ich habe deshalb verschiedene Lösungen ausprobiert und mich intensiv damit beschäftigt, wie sich KI so in echte Arbeitsprozesse integrieren lässt, dass Datenschutz, Vertraulichkeit und praktische Nutzbarkeit zusammenpassen.

Leider gibt es nicht die eine „DSGVO-konforme KI“, bei der man nur das richtige Produkt auswählen muss und anschließend keine weiteren Fragen mehr hat.

Grundsätzlich ist immer der konkrete Anwendungsfall entscheidend: Welche Daten werden verarbeitet? Zu welchem Zweck? Wer hat Zugriff? Wo werden die Daten verarbeitet? Welche Verträge bestehen mit den Anbietern? Wie lange werden Informationen gespeichert? Und welche technischen und organisatorischen Schutzmaßnahmen gibt es?

Die gute Nachricht ist jedoch: Für all diese Fragen gibt es heute deutlich mehr technische und organisatorische Lösungen als noch vor wenigen Jahren.

Auch für sensible Anwendungsfälle gibt es inzwischen Systeme, die sich unter entsprechenden Voraussetzungen datenschutzkonform einsetzen lassen.

Müssen die Daten überhaupt in die KI?

Bevor wir uns damit beschäftigen, wie personenbezogene Daten möglichst sicher mit KI verarbeitet werden können, lohnt sich ein Blick darauf, ob sie überhaupt in die KI hinein müssen.

Für den Einstieg empfehle ich, zunächst möglichst keine personenbezogenen Daten mit KI zu verarbeiten.

Das ist keine rechtliche Voraussetzung für den Einsatz von KI, sondern eine pragmatische Herangehensweise. Wo keine personenbezogenen Daten verarbeitet werden, reduziert sich die datenschutzrechtliche Komplexität erheblich.

Und das Potenzial außerhalb personenbezogener Daten ist bereits groß genug.

So lassen sich beispielsweise viele Prozesse automatisieren, Informationen strukturieren, Texte erstellen, Dokumente auswerten oder internes Wissen nutzbar machen, ohne dass dafür personenbezogene Daten notwendig sind. Meistens braucht die KI deutlich weniger Daten, als man auf den ersten Blick denkt.

Wichtig ist allerdings, genau hinzuschauen, was tatsächlich personenbezogen ist. Es reicht nicht immer, Namen oder E-Mail-Adressen aus einem Dokument zu entfernen. Auch aus Funktionen, Vorgängen, Kombinationen verschiedener Merkmale oder dem jeweiligen Kontext kann sich wieder ein Bezug zu einer konkreten Person ergeben.

Außerdem betrifft diese Prüfung nicht nur das, was wir aktiv in ein KI-System eingeben. Auch erzeugte Ausgaben, Accountdaten, Protokolle, hochgeladene Dokumente oder angebundene Wissensquellen können personenbezogene Daten enthalten.

Nicht alles ist gleich riskant

Nicht alle Daten sind personenbezogen – und nicht alle personenbezogenen Daten haben dasselbe Risiko.

Deshalb lohnt es sich, Daten und Anwendungsfälle zunächst sauber zu unterscheiden.

Sinnvoll ist es, zunächst mit Informationen zu arbeiten, bei denen kein oder nur ein geringes Datenschutzrisiko besteht. Das können beispielsweise öffentliche Informationen, allgemeines Fachwissen oder interne Inhalte ohne Personenbezug sein.

Umgekehrt können hochvertrauliche Geschäftsstrategien oder interne Prozessinformationen auch völlig ohne Personenbezug sein und trotzdem besonders schützenswert bleiben.

In der Praxis hilft eine einfache Datenklassifizierung: Welche Informationen sind öffentlich, welche intern oder vertraulich, welche personenbezogen und welche besonders schutzbedürftig?

So lässt sich KI schrittweise dort einsetzen, wo der Nutzen hoch und das Risiko zunächst überschaubar ist.

Nicht nur Datenschutz

Wenn KI produktiv in Organisationen eingesetzt werden soll, reicht allgemeines Wissen meistens nicht.

Besonders wertvoll wird KI dann, wenn sie auf das Wissen einer Organisation zugreifen kann: Prozesse, interne Abläufe, Richtlinien, Produktwissen, Dokumentationen oder andere Informationen darüber, wie die Organisation tatsächlich funktioniert.

Dieses Betriebswissen ist häufig nicht personenbezogen. Es kann aber sehr wohl personenbezogene Informationen enthalten.

Datenschutz ist nicht der einzige Prüfpunkt. Auch Informationssicherheit, Geschäftsgeheimnisse, vertragliche Vertraulichkeit oder Berufsgeheimnisse können bestimmen, welche Informationen in ein KI-System eingegeben werden dürfen.

Bei der Auswahl eines Systems geht es um Zugriffsrechte, Speicherung von Ein- und Ausgaben, Verwendung zu Trainingszwecken, beteiligte Unterauftragnehmer, Schutzmaßnahmen und Löschfristen.

Das lässt sich technisch und vertraglich lösen. Es muss nur bewusst entschieden werden.

Wenn personenbezogene Daten verarbeitet werden sollen

Natürlich gibt es Anwendungsfälle, bei denen personenbezogene Daten notwendig sind.

Dann steigt die Komplexität – aber das bedeutet nicht, dass der Einsatz von KI automatisch ausgeschlossen ist.

Bevor es um die technische Lösung geht, muss allerdings geklärt werden, ob diese Daten für diesen konkreten Zweck überhaupt verarbeitet werden dürfen.

Für die Verarbeitung personenbezogener Daten braucht es eine passende Rechtsgrundlage.

Technische Schutzmaßnahmen wie Verschlüsselung oder Pseudonymisierung können Risiken reduzieren, ersetzen diese Rechtsgrundlage aber nicht.

Danach geht es um die konkrete technische und organisatorische Umsetzung.

Anbieter und Datenfluss

Hosting in Deutschland oder der Europäischen Union kann ein wichtiger Baustein sein. Es ist aber allein kein Nachweis dafür, dass eine Verarbeitung DSGVO-konform ist.

Entscheidend ist immer auch der gesamte Datenfluss.

Zertifizierungen können bei einer solchen Bewertung helfen. Sie ersetzen aber nicht die Prüfung des konkreten Einsatzes.

Daten minimieren und pseudonymisieren

Eine weitere Möglichkeit zur Risikoreduktion ist die Pseudonymisierung. Dabei werden direkte Identifikatoren beispielsweise durch zufällige IDs oder Tokens ersetzt und die Zuordnung separat und geschützt aufbewahrt.

Eine häufige Fehlannahme: Pseudonymisierte Daten sind keine personenbezogenen Daten. Sind sie aber.

Auch einfaches Hashing von Namen oder E-Mail-Adressen führt nicht automatisch zu anonymen Daten. Je nach Verfahren können Werte wiedererkannt oder unter bestimmten Voraussetzungen einer Person zugeordnet werden.

Pseudonymisierung ist deshalb eine Schutzmaßnahme – keine Möglichkeit, die DSGVO einfach auszuschalten.

Wo es geht, ist es deshalb einfacher, personenbezogene Informationen gar nicht erst zu übermitteln.

Lokale KI

Für besonders sensible Anwendungen kann eine lokal betriebene KI sinnvoll sein.

Dabei läuft das Modell beispielsweise auf eigener Infrastruktur oder in einer technisch stark abgeschotteten Umgebung.

Das kann insbesondere dann Vorteile haben, wenn Daten die Organisation nicht verlassen sollen oder externe Anbieterzugriffe möglichst ausgeschlossen werden müssen.

Aber auch hier gilt: Self-Hosting macht eine Verarbeitung nicht automatisch DSGVO-konform.

Wenn personenbezogene Daten verarbeitet werden, gelten weiterhin Anforderungen an Rechtsgrundlage, Berechtigungen, Datensicherheit, Dokumentation, Löschung und Betroffenenrechte.

Gleichzeitig übernimmt die Organisation beim Self-Hosting deutlich mehr Verantwortung selbst – beispielsweise für Updates, Zugriffsschutz, Backups, Protokollierung, Betrieb und Sicherheit der Infrastruktur.

Eine lokale KI kann deshalb eine sehr gute Lösung sein. Sie ist aber nicht automatisch die richtige Lösung für jeden Anwendungsfall.

Wie man anfängt

Entscheidend ist, mit einem konkreten, überschaubaren Anwendungsfall zu starten.

Dafür reichen zunächst einige grundlegende Fragen: Was soll die KI leisten? Welche Daten werden dafür benötigt? Und welche Lösung passt zu den Anforderungen der Organisation?

Wichtig ist, nur die notwendigen Informationen zu verwenden, Zugriffe zu regeln und den Umgang mit den Daten bewusst festzulegen. Je nach Anwendungsfall können zusätzliche Schutzmaßnahmen oder eine rechtliche Prüfung erforderlich sein.

Das klingt zunächst überschaubar. In der Praxis ist aber genau das der schwierigste Schritt: aus den vielen Möglichkeiten einen sinnvollen Anwendungsfall auszuwählen, eine passende Lösung zu finden und sie sicher in bestehende Abläufe zu integrieren.

Und was ist mit dem AI Act?

Neben der DSGVO spielt auch der europäische AI Act eine Rolle. Welche Anforderungen gelten, hängt vom konkreten System und seinem Einsatzzweck ab.

Nicht jede KI-Anwendung ist automatisch ein Hochrisiko-System. Trotzdem sollten Organisationen frühzeitig klären, welche Systeme eingesetzt werden, wofür sie genutzt werden dürfen und wer dafür verantwortlich ist.

Datenschutz ist kein einmaliges To-do

Auch wenn eine Lösung eingerichtet ist, bleibt das Thema in Bewegung. Anbieter, Modelle, Datenquellen und Prozesse verändern sich. Deshalb sollten KI-Anwendungen regelmäßig überprüft und bei Bedarf angepasst werden.

Dabei unterstütze ich Organisationen bei der Auswahl geeigneter Anwendungsfälle, der Entwicklung einer passenden Lösung und der konkreten Umsetzung.

Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Die datenschutzrechtliche Bewertung hängt immer vom konkreten Einzelfall ab.