Privacy Gateway: Sicherer Schutz sensibler Daten bei der Nutzung generativer KI durch automatisierte Anonymisierung.

Privacy Gateway: Schutz sensibler Daten bei der Nutzung generativer KI

Generative Künstliche Intelligenz (KI), wie beispielsweise ChatGPT, findet sowohl im beruflichen als auch im privaten Bereich breite Anwendung – oftmals auch bei der Verarbeitung vertraulicher Informationen. Wissenschaftler der FernUniversität in Hagen haben aus diesem Grund ein Privacy Gateway entwickelt, das nicht nur offensichtliche personenbezogene Daten wie Namen oder Adressen erkennt, sondern auch scheinbar unkritische Informationen, die in Kombination Rückschlüsse auf Personen oder Geschäftsgeheimnisse zulassen. Sensible Inhalte werden automatisiert anonymisiert, bevor sie an externe KI-Dienste übermittelt werden. Die Ergebnisse dieser Forschungsarbeit wurden auf dem Privacy Enhancing Technologies Symposium (PETS) vorgestellt.

Herausforderung bei der Nutzung generativer KI

Die Verwendung generativer KI zur Textzusammenfassung, E-Mail-Erstellung oder Ideenentwicklung ist für viele Nutzer alltäglich geworden. Dabei werden häufig vertrauliche Daten eingegeben, die ungewollt an große US-amerikanische Technologiekonzerne weitergegeben werden. Das Forschungsteam der FernUniversität in Hagen hat deshalb einen Prototyp entwickelt, der sensible Informationen automatisch erkennt und entfernt, bevor die Daten an ein KI-Sprachmodell gesendet werden.

Entwicklung und Autoren

Das Privacy Gateway wurde von Pascal Tippe und Michael Maximilian Grötzner am Lehrstuhl für Parallelität und VLSI der FernUniversität unter Leitung von Prof. Dr. Jörg Keller konzipiert. Beide Autoren, ein Doktorand und ein Masterstudent, präsentierten die Studie auf dem internationalen PETS-Kongress.

Datenschutz über offensichtliche Daten hinaus

Viele Nutzer vermeiden bereits die Eingabe von Namen oder Telefonnummern bei KI-Anfragen. Dies reicht jedoch nicht aus, da auch die Kombination scheinbar harmloser Details Rückschlüsse auf die Identität zulassen kann. Pascal Tippe erläutert, dass gerade bei schnellen Interaktionen mit Sprachmodellen oft nicht erkannt wird, welche zusammengesetzten Informationen eine Identifizierung ermöglichen.

Aus einzelnen Angaben können sich im Zeitverlauf persönliche Profile zu Interessen, Gewohnheiten oder politischen Ansichten bilden. Werden diese Daten durch Sicherheitslücken oder Hackerangriffe missbraucht, entsteht ein erhebliches Risiko. Zudem betreffen viele Eingaben nicht nur die eigene Person, sondern auch Dritte wie Kollegen, Kunden oder Familienangehörige, die keine Zustimmung zur Datenweitergabe erteilt haben.

Insbesondere in Unternehmen kann die Übermittlung sensibler Daten an externe KI-Dienste gegen Datenschutzbestimmungen verstoßen und Geschäftsgeheimnisse offenlegen. Ein generelles Verbot generativer KI wird von den Forschenden nicht als praktikable Lösung angesehen, da dies zu erheblichen Produktivitätseinbußen führen würde und die Nutzung dennoch meist unkontrolliert erfolgt.

Funktionsweise des Privacy Gateway

Das Privacy Gateway fungiert als intelligenter Vermittler zwischen Nutzenden und KI-Modellen. Vor der Übertragung einer Anfrage an externe KI-Dienste analysiert das System den gesamten Text auf sensible Informationen. Im Gegensatz zu herkömmlichen Filtern werden nicht nur offensichtliche Daten erkannt, sondern auch indirekte Hinweise, die erst im Zusammenspiel Rückschlüsse auf Personen oder Unternehmen zulassen.

Beispielsweise kann die Kombination von Reiseinformationen, Beruf und Hobbys eine Identifikation ermöglichen. Das Privacy Gateway erkennt solche indirekten Hinweise und verallgemeinert sie, ohne den Sinn der Anfrage zu beeinträchtigen.

Rechtskonforme Umsetzung gemäß DSGVO

Das Privacy Gateway basiert auf einem Regelwerk, das die Anforderungen der Datenschutz-Grundverordnung (DSGVO) sowie den Schutz von Geschäftsgeheimnissen berücksichtigt. Die Forschenden haben ein sogenanntes Codebook erstellt, das die rechtlichen Definitionen personenbezogener Daten und Geschäftsgeheimnisse in konkrete Anweisungen für das Sprachmodell übersetzt.

Dadurch kann das System nicht nur sensible Informationen identifizieren, sondern auch nachvollziehbar begründen, warum diese geschützt werden müssen, bevor die Daten an externe KI-Dienste weitergeleitet werden. Dieses Vorgehen unterscheidet sich von klassischen Filtern, die meist nur einzelne Begriffe oder Zahlenfolgen erkennen und schwärzen.

Evaluation und Ergebnisse

Der Prototyp wurde anhand eines umfangreichen Datensatzes mit verschiedenen Alltagsszenarien und sensiblen Anwendungsfällen getestet. Dabei wurde sowohl die Erkennungs- und Anonymisierungsgenauigkeit als auch die Auswirkung auf die Qualität der KI-Antworten untersucht. Die Ergebnisse zeigen, dass sensible Informationen in vielen Fällen effektiv entfernt werden können, ohne die Antwortqualität wesentlich zu beeinträchtigen.

Potenziale und Einschränkungen

Die Studie verdeutlicht, dass bei den meisten Anfragen die wesentlichen Informationen erhalten bleiben und die Nutzung weiterhin praktikabel ist. Allerdings gibt es Grenzen, insbesondere bei Anfragen mit sehr umfangreichen personenbezogenen Daten, wie etwa bei medizinischen Diagnosen. In solchen Fällen kann es zu einem Verlust wichtiger Informationen kommen, was die Balance zwischen Datenschutz und Nutzbarkeit herausfordert.

Aktuell handelt es sich beim Privacy Gateway um einen Forschungsprototyp. Perspektivisch könnte eine solche Lösung direkt in Unternehmen eingesetzt werden, sodass sensible Daten bereits auf internen Servern geprüft und anonymisiert werden, bevor sie an externe KI-Anbieter übertragen werden. Die lokale Nutzung leistungsfähiger Sprachmodelle wäre hierfür ein realistisches Anwendungsfeld.

Fazit

Die Forschung von Pascal Tippe und Michael Maximilian Grötzner zeigt einen Weg auf, wie Datenschutz und generative KI besser miteinander kombiniert werden können. Ziel ist es, die Vorteile moderner Sprachmodelle zu nutzen, ohne dabei sensible Daten preiszugeben, und somit eine sichere und effiziente Anwendung generativer KI zu ermöglichen.

Kontakt für wissenschaftliche Rückfragen:

Pascal Tippe
E-Mail: pascal.tippe@fernuni-hagen.de
https://www.fernuni-hagen.de/pv/mitarbeitende/pascal.tippe.shtml

Originalpublikation:

Grötzner, M. M., & Tippe, P. (2026). Operationalizing the motivated intruder: A codebook-guided inference framework for semantic input privacy in LLMs. Proceedings on Privacy Enhancing Technologies, 2026(3), 441–466.
https://doi.org/10.56553/popets-2026-0090