KI und Datenschutz: Worauf Erwachsenenbildner*innen achten sollten

Viele Erwachsenenbildner*innen nutzen generative KI längst selbstverständlich, etwa wenn sie Kurse planen, Texte schreiben oder Materialien erstellen. Doch je mehr ChatGPT und Co. zum festen Bestandteil des Arbeitsalltags werden, desto wichtiger ist es, den Umgang damit bewusst zu hinterfragen. Wer KI in der Bildung einsetzt, sollte nicht nur wissen, was technisch möglich ist, sondern auch, was rechtlich erlaubt ist – und wie man Teilnehmende dafür sensibilisiert.

Rechtlicher Rahmen: EU-DSGVO

Was ist nun aus rechtlicher Sicht in Bezug auf den Datenschutz zu beachten? Wenn KI-Systeme mit personenbezogenen Daten arbeiten (d.h. mit Informationen, die Rückschlüsse auf eine Person zulassen), greift neben der KI-Verordnung (AI-Act) auch die europäische Datenschutzgrundverordnung (EU-DSGVO). Die DSGVO schützt personenbezogene Daten und schreibt vor, dass jede Verarbeitung eine klare rechtliche Grundlage braucht – etwa ein Gesetz, einen Vertrag oder eine Einwilligung. Betroffene müssen darüber informiert sein, was mit ihren Daten passiert. Diese dürfen nicht ohne Zustimmung weitergegeben oder nachträglich für andere Zwecke genutzt werden.

Sichere Tools auswählen

Auch bei der Auswahl von KI-Tools lässt sich viel für den Datenschutz tun. Erwachsenenbildner*innen sollten dabei Anbieter aus der EU oder dem Europäischen Wirtschaftsraum bevorzugen. Ein Beispiel für einen europäischen, DSGVO-konformen Chatbot ist LeChat des französischen Anbieters Mistral.

Auch außerhalb Europas gibt es datenschutzfreundliche KI-Tools wie z.B. duck.ai, das ohne Anmeldung auskommt, nur sehr wenige Nutzungsdaten erfasst und dadurch ein hohes Maß an Privatsphäre bietet. Bei Diensten aus Drittstaaten ist zu prüfen, ob ein Datenschutzabkommen besteht und ob eine Datenverarbeitung in der EU bzw. im EWR möglich ist.

In den USA gilt etwa seit 2023 das Data Privacy Framework (DPF), das zertifizierte amerikanische Unternehmen zur Einhaltung europäischer Standards verpflichtet. Das DPF ist nicht unumstritten, eine Nichtigkeitsklage beim EuGH wurde jedoch im September 2025 abgewiesen – das Framework gilt weiterhin.

Tools sicher nutzen

Hat man ein sicheres Tool ausgewählt, so gilt es, dieses auch sicher zu nutzen. Das bedeutet: Keine personenbezogenen oder sensiblen Daten in KI-Systeme eingeben und Grundregeln zur Vermeidung von Datenpannen befolgen. Weiters empfiehlt es sich, das Modelltraining von Tools wie ChatGPT in den Einstellungen zu deaktivieren oder den „privaten Modus“ zu verwenden, bei dem die Chatverläufe nicht gespeichert werden. Wer sichergehen möchte, dass keine Daten übertragen werden, kann Sprachmodelle als „lokale KI“ offline nutzen.

Wenn die Verarbeitung personenbezogener Daten unvermeidbar ist, braucht es eine klare Begründung nach Art. 6 DSGVO und eine transparente Information der Betroffenen. Bildungsorganisationen sollten ihr Vorgehen mit Datenschutzbeauftragten abstimmen und ihre Datenschutzerklärung anpassen.

Teilnehmende sensibilisieren

Wer KI im Bildungskontext einsetzt, ist auch dafür verantwortlich, Teilnehmende für deren Funktionsweise zu sensibilisieren. Sie sollten verstehen, wie Sprachmodelle arbeiten (Stichwort „Generieren vs. Recherchieren“), welche Datenflüsse entstehen und warum Vertrauen in KI-Ergebnisse (Stichwort „Automation Bias“) kritisch zu hinterfragen ist. Datenschutz ist dabei kein Hemmnis, sondern Voraussetzung für einen sicheren und verantwortungsvollen Einsatz von KI.