AI-Act verlangt ab 2025 Sicherung von KI-Kompetenz

Der im vergangenen Sommer verlautbarte AI-Act der EU schafft einen verbindlichen Rechtsrahmen für einen sicheren und verantwortungsvollen Einsatz von KI in der Europäischen Union. Einrichtungen sind schon bald verpflichtet, dafür zu sorgen, dass Mitarbeiter*innen bei Anwendung von Künstlicher Intelligenz nachweislich über die dazu nötigen Kompetenzen verfügen.

Für wen gilt die Regelung, und ab wann?

Die Verpflichtung, KI-Kompetenz sicherzustellen, betrifft alle Organisationen, die KI-Systeme beruflich nutzen, unabhängig von ihrer Größe oder der Risikoklassifizierung ihrer Anwendungen – nicht nur Anbieter von KI-Systemen. Demnach müssen auch Erwachsenenbildungseinrichtungen spätestens jetzt aktiv werden, wenn sie KI beispielsweise in Kursen, zur Unterstützung administrativer Aufgaben oder im Management einsetzen.

Die Regelung tritt bereits mit Februar 2025 in Kraft. Stellungnahmen von österreichischen Anwaltskanzleien verweisen auf ein potenzielles Haftungsrisiko für Einrichtungen ab diesem Zeitpunkt oder sehen einen „Schulungsbedarf von beispiellosem Ausmaß“.

Es gilt daher, rasch zu handeln, um die erforderlichen Kompetenzen nachzuweisen.

Was bedeutet KI-Kompetenz im AI-Act?

Als KI-Kompetenz gelten laut AI-Act (Kap. I Art. 4) „die Fähigkeiten, die Kenntnisse und das Verständnis, (…) KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“

Damit ist einerseits das technische Funktionsverständnis angesprochen, das einen sachlogisch richtigen KI-Einsatz ermöglicht – zum Beispiel keine Wissensfragen an einen ungeeigneten Chatbot zu stellen, auch wenn das eine verbreitete Praxis ist.

Andererseits ist die Fähigkeit zur begründeten Risikoabschätzung und rechtssicheren Anwendung von KI gefordert. Im weiteren Sinn kann das Risikobewusstsein auch gesellschaftlich-ethische Aspekte umfassen, und betrifft damit etwa den Bildungsauftrag von Anbietern und das darin formulierte Menschenbild.

Spezifisch zu berücksichtigen sind dabei laut AI-Act der Kontext, in dem die KI-Systeme eingesetzt werden, sowie die Personen oder Personengruppen, die die KI verwenden. Das bedeutet: Der geforderte Kompetenzaufbau ist spezifisch für jede Branche. Auch die Erwachsenenbildung selbst hat diesbezüglich einen Bedarf, der sich von dem anderer Bildungssektoren unterscheidet. Anbieter von Bildungsberatung etwa prüfen sehr genau, inwieweit KI als Assistenztechnologie im individualisierten Beratungsprozess einsetzbar ist, wenn der Schutz persönlicher Daten gesetzliche Verpflichtung bleibt.

Die Rolle der Erwachsenenbildung

Mit der Anforderung, in allen Branchen ein ausreichendes Kompetenzniveau sicherzustellen, entsteht ein differenzierter Weiterbildungsbedarf. Damit wächst der Weiterbildungsbranche eine umfassende Aufgabe zu, die spezifisches Fachwissen erfordert.

Gleichzeitig steht zu befürchten, dass wegen der rasanten Entwicklung manche Bildungsanbieter die nötigen internen Professionalisierungsschritte noch nicht systematisch planen oder umsetzen konnten. Eine KI-Strategie mit gezielter Positionsbestimmung, KI-bezogener Programmplanung, Mindeststandards für KI im Kursgeschehen und KI als Gegenstand der Personalentwicklung ist wohl vielfach noch in Erarbeitung. Der AI-Act könnte dafür schon zu Jahresbeginn 2025 einen Entwicklungsschub bringen.

Was ist jetzt zu tun?

Bei Unsicherheiten hinsichtlich der Erfordernisse des AI-Act, des Regelungsbedarfs in Einrichtungen sowie der rechtlichen und sachlogischen Risiken beim KI-Einsatz finden Interessierte im DigiProf-Weiterbildungskalender ab Jan. 2025 passende Angebote für Erwachsenenbildner*innen.

Generelle Empfehlungen für alle Branchen umfassen eine Bestandsaufnahme der vorhandenen Kenntnisse der Mitarbeiter*innen und daraus abgeleitete Schulungen – mehr dazu unter den „weiteren Informationen“. Solche Schulungen machen vor allem dann Sinn, wenn es ein klares Kompetenzziel gibt – wenn also klar ist, was die Mitarbeiter*innen der jeweiligen Einrichtung mit KI tun sollen oder nicht.

Für jede Einrichtung ist es daher empfehlenswert, Regeln für den KI-Einsatz zu entwickeln. In der Minimalvariante beinhalten diese Regeln das Vermeiden von typischen Risiken und können zur Sicherheit aller Beteiligten beitragen. In der Optimalvariante beinhalten sie Umsetzungstipps und Vorbildlösungen für einen sinnvollen KI-Einsatz und inspirieren die Lehrenden und andere Funktionsgruppen für eine KI-gestützte Praxis.

Die wesentliche Basis bildet dabei immer das branchenspezifische Wissen über typische Arbeitsformen und Tätigkeiten in Lehre, Beratung, Verwaltung oder Management – verbunden mit dem Wissen über typische Fallen. Für Bildungsanbieter steht daher am Anfang ein guter Überblick, was in der Praxis mit KI sinnvoll ist und wo typische Fehlerquellen lauern.