KI-Verordnung ruft Erwachsenenbildung zum Handeln auf

Das schrittweise Inkrafttreten des europäischen AI-Act stellt die Erwachsenenbildung vor neue Aufgaben. Im aktuellen Fokus steht dabei die KI-Kompetenz, deren Sicherstellung der AI-Act von Anbietern und Betreibern fordert. Betreiber sind all jene, die ein KI-System in eigener Verantwortung im beruflichen Kontext verwenden - also beispielsweise eine Einrichtung, die intern mit Microsoft Copilot arbeitet oder ChatGPT in Kursen einsetzt. Erwachsenenbildungs-Einrichtungen als Betreiber von KI müssen "nach besten Kräften sicherstellen", dass alle Personen, die mit KI arbeiten, auch über die nötigen KI-Kompetenzen verfügen. Das Ziel dabei lautet, KI-Anwendungen sachgerecht einzusetzen, um Schäden und damit auch Haftungsfälle zu vermeiden. 

Hochrisiko-Anwendungen im Bildungsbereich

Ein zentrales Anliegen des AI-Act ist die Regulierung sogenannter Hochrisiko-Systeme. Dazu zählen im Bildungsbereich KI-Anwendungen, die über die Zulassung zu Bildungseinrichtungen entscheiden, Lernergebnisse bewerten oder Prüfungen überwachen. Kritisch ist z.B. der Einsatz von Proctoring-Software, die während Online-Prüfungen das Verhalten von Teilnehmenden analysiert. Ebenso problematisch sind Systeme, die Bewerber*innen für Studienplätze auf Basis historischer Daten auswählen und dadurch bestehende Diskriminierungen fortschreiben können. Für all diese Fälle gilt: Betreiber müssen erhöhte Sicherheits- und Transparenzauflagen einhalten. Die KI-Servicestelle der RTR-GmbH hat die Betreiberpflichten übersichtlich zusammengefasst.

Transparenz, Verantwortung und Haftung

Neben den Vorgaben zu Hochrisiko-Systemen betont der AI-Act die Verantwortung von Bildungsanbietern für den korrekten Einsatz von KI. Inhalte, die von KI generiert wurden, dürfen erst nach sorgfältiger Prüfung veröffentlicht werden. Dies betrifft sowohl inhaltliche Korrektheit als auch ethische Fragen wie Verzerrungen durch Bias. Besonders brisant sind sogenannte Deepfakes: Bild-, Ton- oder Videoinhalte, die Menschen täuschend echt erscheinen, müssen  eindeutig als KI-generiert gekennzeichnet werden. Kommt es durch fehlerhafte KI-Inhalte zu Schäden, droht den Anbietern nicht nur ein Reputationsverlust, sondern auch eine rechtliche Haftung.

Wer muss KI-kompetent sein?

Die Verordnung verpflichtet nicht nur Anbieter und Betreiber von KI-Systemen, sondern auch deren Personal, über ausreichende KI-Kompetenz zu verfügen. Dazu zählen auch freie Mitarbeiter*innen, sofern sie im Auftrag einer Einrichtung tätig sind und dabei KI einsetzen. Der AI-Act verfolgt das Ziel, Risiken im Umgang mit KI möglichst zu reduzieren – unabhängig von der arbeitsrechtlichen Stellung der Beteiligten.  Darüber hinaus legt die europäische Diskussion nahe, dass auch Lernende ein Mindestmaß an KI-Verständnis entwickeln sollen. Für die Erwachsenenbildung ergibt sich daraus ein doppelter Auftrag: Einrichtungen müssen ihr Personal qualifizieren und sollten zugleich Teilnehmenden grundlegende KI-Kompetenz vermitteln.

Konsequenzen für die Bildungspraxis

Für die Erwachsenenbildung bedeutet der AI-Act zweierlei: einerseits rechtliche Pflichten, andererseits die Chance, durch den reflektierten Umgang mit KI neue Standards für Qualität und Fairness zu setzen. Empfehlenswert sind spezifische Weiterbildungen, institutionelle Richtlinien und gegebenenfalls auch die Benennung von KI-Beauftragten. So können Bildungsanbieter glaubhaft darlegen, dass sie „nach besten Kräften“ ihre Verantwortung wahrnehmen. Gleichzeitig eröffnet die Regulierung die Möglichkeit, Lernprozesse fundierter und transparenter zu gestalten – vorausgesetzt, KI wird nicht kritiklos als Allroundmittel verstanden, sondern als Werkzeug, dessen Chancen und Risiken gleichermaßen zu berücksichtigen sind.

Im Webinar KI-Compliance kompakt – für Bildungsmanagement & Training am 30.10. haben Erwachsenenbildner*innen die Gelegenheit, das wesentliche Knowhow rund um den AI-Act zu vertiefen. Melden Sie sich an – es sind noch Plätze frei!