KI ethisch anwenden – wie kann das gelingen?

Sollte KI jede Aufgabe übernehmen und sollen wir Entscheidungen an sie abgeben? Solche und ähnliche Fragestellungen sind Thema der Ethik und gerade beim Einsatz von KI im Bildungsbereich besonders relevant. Schließlich ist nicht alles, was technisch möglich ist, auch gesellschaftlich wünschenswert und moralisch vertretbar.

Menschliches Wohlergehen ins Zentrum digitaler Entwicklungen stellen

Einen hilfreichen Rahmen, um sich mit ethischen Fragen zu digitalen Entwicklungen wie der Künstlichen Intelligenz zu beschäftigen, bietet der Digitale Humanismus. Dieser Ansatz zielt darauf ab, im Zuge des technologischen Fortschritts gesellschaftliche Interessen, Ethik und Menschenrechte ins Zentrum zu stellen. Bei der Bewertung von KI-Technologien sollte man demnach nicht nur nach ihrer Effizienz fragen. Es ist genauso relevant, ihre Auswirkungen auf Gesellschaft und menschliches Wohlergehen zu berücksichtigen.

Digitaler Humanismus in der Praxis beinhaltet die Entwicklung von Technologien, die soziale Gerechtigkeit fördern und zu einer nachhaltigen Entwicklung beitragen. Dazu gehören beispielsweise die Schaffung von inklusiven Technologien, die für alle nutzbar sind, die Stärkung von Datenschutz und Privatsphäre auf Social-Media-Plattformen sowie ethisch gestaltete KI-Systeme im Gesundheitswesen. Die aktuelle Publikation „Die Praxis des Digitalen Humanismus“ versammelt dazu unterschiedliche Projekte und Praxisideen aus Wissenschaft, Politik und Wirtschaft.

KI-Technologien reflektiert im Unterricht einsetzen

Im Bildungsbereich sind die Anwendungsmöglichkeiten von Künstlicher Intelligenz vielfältig. Das können etwa punktuelle Anwendungen zur Personalisierung des Lerngeschehens sein – wie z.B. intelligente tutorielle Systeme (ITS). Diese unterstützen individualisiertes Lernen, indem sie sich auf Basis von KI an Lernende anpassen. So können ITS repetitive Aufgaben wie etwa das Vokabellernen effizienter gestalten. Es gibt aber auch tiefgreifendere Einsatzmöglichkeiten von KI wie z.B. Classroom Analytics. Dabei werden KI-Technologien genutzt, um Verhalten, Emotionen oder Aufmerksamkeit von Lernenden zu erfassen und zu bewerten.

In einer aktuellen Folge des Podcasts Werkstattgespräch betont Judith Simon vom Deutschen Ethikrat, dass Nutzen, Risiken und damit auch die ethische Bewertung verschiedener KI-Systeme sehr unterschiedlich sein können. Der Bereich von Classroom Analytics birgt beispielsweise sehr viel mehr Risiken als ein Vokabeltrainingsprogramm. Zu bedenken sind dabei unter anderem die Aspekte der Privatsphäre und des Datenschutzes. Außerdem besteht das Risiko systematischer Verzerrungen, da KI-basierte Systeme Merkmale wie Aufmerksamkeit oder Emotionen nicht bei allen Menschen gleich gut erfassen können. Hautfarbe und Geschlecht führen hier beispielsweise zu qualitativen Unterschieden.

Bei der Verwendung von Technologien wie Classroom Analytics sollten laut Judith Simon besonders Sicherheit und Transparenz im Vordergrund stehen. Um Anwendungen im Hinblick auf ethische Maßstäbe bewerten zu können, gilt es verschiedene Aspekte zu berücksichtigen. Es ist wichtig, zu prüfen, wie und wie gut KI-gestützte Lösungen funktionieren, bevor sie zum Einsatz kommen. Zudem muss festgestellt werden, ob sie auch wirklich das messen, was sie messen sollen. Bei der Emotionsanalyse bestehen etwa Zweifel, ob man Emotionen zuverlässig aus Gesichtern lesen kann.

In Bezug auf den Datenschutz muss zudem geklärt werden, wer Zugang zu welchen Daten erhält und für welche Zwecke diese verwendet werden dürfen. Dabei ist es beispielsweise relevant, ob die Daten auf individueller Ebene betrachtet werden oder ob Classroom Analytics genutzt werden, um anonymisierte Informationen zu sammeln, die zur Verbesserung von Lehrmaterialien, -inhalten oder -methoden beitragen können.

Es gilt, diese Aspekte sorgfältig abzuwägen, um zu entscheiden, wo KI sinnvoll eingesetzt werden kann, um die Fähigkeiten von Lernenden und Lehrenden zu fördern, und wo Vorsicht geboten ist.

Was ist bei Entwicklung und Einsatz von KI-Systemen zu berücksichtigen?

Der Deutsche Ethikrat hat in einer aktuellen Stellungnahme praktische Empfehlungen für die Entwicklung und Nutzung von KI im Bildungsbereich formuliert. Demnach können KI-Systeme die pädagogische Arbeit nicht ersetzen, auch wenn sie in bestimmten Bereichen hilfreich sind. Im Zentrum sollte immer die Frage stehen, was gute Bildung ausmacht und wie sie Menschen dazu befähigt, sich selbstständig weiterzuentwickeln. Lehrende müssen darauf achten, keine Aufgaben zu delegieren, die eigentlich Sinn und Zweck der Bildung sind. Wie auch der Digitale Humanismus betont, darf die Digitalisierung der Bildung nicht zum Selbstzweck werden. Je größer die Aufgaben sind, die von einer KI übernommen werden, desto strenger müssen die Einsatzbereiche, Risiken und Potenziale evaluiert werden.

Bildung sollte auch als Beziehungsarbeit verstanden werden. Sie umfasst nicht nur das Lernen von Inhalten, sondern auch die Interaktionen zwischen Lernenden untereinander sowie mit Lehrenden. Ein unreflektiertes Delegieren an KI kann sich darauf negativ auswirken. Es ist daher notwendig, den Einsatz von KI in Bildungsprozessen sorgfältig zu prüfen und sicherzustellen, dass er zwischenmenschliche Beziehungen nicht beeinträchtigt.

Die Privatsphäre und Autonomie von Lehrenden und Lernenden sollten umfassend geschützt werden. Bei der Sammlung, Verarbeitung und Weitergabe von bildungsbezogenen Daten sollten Bildungsorganisationen deshalb strenge Datenschutzanforderungen definieren. Die Nutzung von Daten sollte außerdem gut begründet und transparent erfolgen. Außerdem sollten Lehrende im Umgang mit KI und der damit verbundenen Medienkompetenz geschult werden. So können sie Risiken realistisch einschätzen und KI pädagogisch sinnvoll einsetzen.