GI beantwortet Fragen der Datenschutzbeauftragten zu LLMs
Kann der Schutz personenbezogener Daten gewährleistet werden, wenn Large Language Models (LLMs) zum Einsatz kommen? Die Gesellschaft für Informatik hat sich in einem Konsultationsaufruf der Bundesbeauftragten für Datenschutz (BfDI) mit dieser Frage auseinandergesetzt.
LLMs wie ChatGPT werden mit enormen Datenmengen trainiert, die häufig personenbezogene Daten beinhalten, wie der Europäische Datenschutzausschuss (EDSA) festgestellt hat. Die Bundesbeauftragte für Datenschutz (BfDI) will daher die datenschutzrechtlichen Herausforderungen bei der Entwicklung, dem Training und der Nutzung solcher Modelle adressieren und hat daher zu einer Konsultation aufgerufen.
Als Sprachrohr der Informatik nimmt die Gesellschaft für Informatik (GI) an der Konsultation teil und hat zu den acht Fragen, die die BfDI gestellt hat, Stellung genommen.
Jun. Prof. Benjamin Paaßen, Mitglied des Fachbereichs Künstliche Intelligenz der GI, erklärt dazu: „Anonyme KI-Modelle sind derzeit technisch eine Illusion. Technische Verfahren können aktuell weder die Trainingsdaten vollständig anonymisieren, noch zuverlässig verhindern, dass ein KI-Modell reale, persönliche Informationen preisgibt oder Menschen falsche Tatsachen zuschreibt. Deshalb braucht es dringend klare Regelungen: Anbieter müssen die Entwicklung ihrer KI-Modelle dokumentieren und Personal bereitzuhalten, um auf Datenleaks reagieren und sie verhindern zu können. Risiken und Missbrauch müssen qualitativ in den Blick genommen werden – und besonders im Bildungsbereich sind wirksame Schutzkonzepte für den Umgang mit KI-Modellen bei Minderjährigen unerlässlich.“
Ein anonymes LLM ist Illusion
Die GI hält fest, dass zum aktuellen Zeitpunkt ein anonymes LLM nicht möglich ist: Kein Modell kann vollständig sicherstellen, dass durch den richtigen Prompt nicht doch personenbezogene Daten ausgegeben werden. Zudem stellt sie klar, dass allein die Anonymisierung personenbezogener Daten zum Training eines Modells keine Anonymität erzeugt. Daher fordert die GI gesetzliche Regelungen, die Dokumentations- und Fehlerbehebungspflichten für LLM-Anbieter festlegen.
Solche „händischen“ Korrektur- und Aufsichtsmaßnahmen sind notwendig, da die verwendeten Datensätze zu groß sind, um sie vor der Eingabe gründlich zu überprüfen. OpenAI, der Anbieter von ChatGPT kann beispielsweise keine klare Auskunft darüber geben, wo und wie personenbezogene Daten in seinem Modell verarbeitet werden. Gleichzeitig gibt es zur Zeit noch keine Methode, die eine Extraktion personenbezogener Daten verhindern kann, ohne einen hohen Qualitätsverlust in Kauf zu nehmen.
Neben einer ungewollten Datenausgabe echter personenbezogener Daten stellt sich bei LLMs, die Ausgaben aufgrund von Wahrscheinlichkeiten errechnen, das Risiko von Falschausgaben: Personen werden falsche Tatsachen zugeschrieben, die ihren Ruf schädigen können. Beide Szenarien sind bereits eingetreten. Aufgrund von solchen Fällen betont die GI, dass eine Bewertung der Risikos bei der Verarbeitung personenbezogener Daten qualitativ erfolgen muss, anstatt lediglich die Menge an personenbezogenen Daten zu betrachten, die in ein System eingegeben werden.
Sensibilisierung der Nutzer*innen
Einen weiteren wichtigen Punkt sieht die GI in der Anwendung im Alltag: Vielen Nutzer*innen von LLMs fehlt das Bewusstsein für sensiblen Umgang mit personenbezogenen Daten. Sie wissen oft nicht, ob bereits Daten von ihnen im Modell enthalten sind, und ob und wie die Daten, die sie in das LLM eingeben, zum weiteren Training eingesetzt werden. Gerade beim Umgang mit LLMs durch Minderjährige, etwa im Schulunterricht, braucht es funktionierende und effektive Schutzkonzepte.
Die GI unterstützt daher die Konsultation der BfDI und freut sich, weiterhin im Austausch zu einem möglichen datenschutzgerechten Einsatz zu bleiben. Die umfassende Beantwortung der Konsultationsfragen ist hier zu finden.
