Kritische Medienkompetenz: Noch relevanter durch neue KI-Anwendungen?

Mittlerweile wird dies in Fachkreisen breit diskutiert: KI-Kompetenz ist zentrales Thema der Gegenwart. In diesem Zusammenhang ist auch immer von (kritischer) Informations- und Medienkompetenz die Rede – wenn es z.B. darum geht, KI-generierte Fotos oder Desinformation zu erkennen. Nun war Kritische Medienkompetenz schon vor den neuen KI-Anwendungen ein relevantes Thema für die Gesellschaft im Allgemeinen und die Erwachsenenbildung im Speziellen. Was hat sich also geändert?

Am Bedeutungsgehalt Kritischer Medienkompetenz ändert sich nichts

Falschinformationen rund um komplexe Sachverhalte beschäftigen uns schon lange – Stichworte: Pandemie und Klimakrise. Vor einigen Jahren hat es eine Falschinformation sogar fast auf den 50-Pfund-Schein geschafft: Zwei Studenten hatten sich im Jahr 2012 einen neuen Erfinder des Toasters ausgedacht und ein Jahr später hatte „Alan MacMasters“ einen Wikipedia-Artikel. Die Verbreitung dieser Falschmeldung ging schließlich so weit, dass MacMasters in der näheren Auswahl war, um auf der 50-Pfund-Banknote abgebildet zu werden. Das passierte dann letztlich aber doch nicht, und die Lüge wurde – viele Jahre später – aufgedeckt (siehe auch Video von Simplicissimus „Die größte Lüge im Internet“).

Quellen zu hinterfragen und Informationen mit einem kritischen Blick zu prüfen ist also keine neue Kompetenz und war schon vor dem KI-Boom von hoher gesellschaftlicher Relevanz. Auch in der aktuellen Publikation „Vom Chat zum Check. Informationskompetenz mit ChatGPT steigern“ (PDF) heißt es „die Medien- und Informationskompetenz bleiben die gleichen.“

Am Bedarf an Kritischer Medienkompetenz ändert sich alles

Neu und der KI zu verdanken ist das massenhafte Aufkommen von Desinformation. Dabei geht es nicht nur um fotorealistische Bilder, die dank generativer KI-Tools nun von allen auf Knopfdruck erzeugt werden können. Wie gedankenlos diese weiterverbreitet werden, hat erst kürzlich das gefälschte Bild einer Pentagon-Explosion gezeigt. 

Vielmehr geht es auch um die zahlreichen Falschinformationen, die ohne explizite Betrugsabsicht generiert und zirkuliert werden: einfach weil Menschen KI-Tools unsachgemäß verwenden und Sprachmodelle mit Suchmaschinen verwechseln. Sprachmodelle werfen auch in neuen Versionen regelmäßig wohlklingenden Unsinn aus, weil ihr Output nicht auf Wahrheitsgehalt optimiert ist.

Die Erwartung ist also berechtigt, dass mit frei zugänglicher generativer KI auch Falschinformationen um ein Vielfaches zunehmen – weil sie so leicht oder ganz unabsichtlich erzeugt werden.

Wissen hilft

Grundlegende informatische Kompetenz fehlt derzeit bei vielen, so auch bei Anwender*innen von KI. Genau diese ist aber unverzichtbar, um die sinnvollen Einsatzfelder von KI zu erkennen. Die Fragen „was tut ein Sprachmodell?“ oder „was tut ein Diffusionsmodell?“ sind alles andere als akademisch, sobald man eines verwendet, um Inhalte für die Sozialen Medien zu generieren. Darüber (nicht nur in der Schule!) zu informieren, hilft dabei, Desinformation schon bei der Produktion einzudämmen.

Bei der Rezeption gilt es dagegen, einen grundsätzlich kritischen Blick auf Fotos und Texte zu stärken. Das Bewusstsein für omnipräsente Fiktion genau jetzt in der breiten Bevölkerung zu fördern, ist von zentraler Bedeutung für die Demokratie und eine Aufgabe für die Erwachsenenbildung. An die Grundfrage, ob ein „Foto“ die Realität abbildet, müssen viele erst herangeführt werden. Und dass eine stilistisch saubere Argumentation keinen Hinweis auf einen Wahrheitsgehalt bietet, ist für einige auch erst neu zu erlernen. 

Aber was können wir überhaupt wissen?

In der Publikation „Vom Chat zum Check“ ist auch zu lesen, dass „mit dem Aufkommen verschiedener KI-basierter Anwendungen Informations- und Medienkompetenz noch stärker benötigt werden“. Denn: KI-Produkte werden immer realitätsgetreuer, und wir können KI-erstellte Inhalte immer weniger von jenen unterscheiden, die Menschen erstellt haben (siehe z.B. „Forschungsarbeiten von Mensch oder KI kaum unterscheidbar“).

Ein Problem: Informationen zu Algorithmen sind nur teilweise zugänglich, genauso wie die exakten Lernprozesse neuronaler Netze. Und auch die Antwort auf die Frage, mit welchen Daten ein Modell trainiert wurde, liegt selten offen.

Beim Informieren über KI-Anwendungen stoßen wir also an Grenzen. Auch das ist nicht ganz neu, wenn wir an Social Media denken: Auch hier sind uns die dahinterliegenden Algorithmen für unseren News-Feed nicht vollumgänglich erschließbar. Dennoch gilt auch hier: Mit breit zugänglichen und wenig transparenten KI-Anwendungen spitzt sich dieses Problem zu.

Was also tun?

Wenn Informationen nur teilweise zugänglich sind, die aber notwendig sind für medienkompetentes Handeln, drängt sich ein zentraler Auftrag für die Erwachsenenbildung auf: Es geht darum, politisches Engagement und Teilhabe zu fördern, die es uns ermöglichen, gemeinsame Regeln, Werte und ethische Grundlagen in einer digitalen Welt auszuhandeln.

Was schon vor dem Hype um KI ein Thema war, wird jetzt noch deutlicher: Zum Beispiel als 2016 Microsofts Chatbot „Tay” vom Netz genommen wurde, weil er – gelernt über Social Media - rassistische Kommentare und Verschwörungsmythen verbreitet hatte. Derart Probleme zeigen sich bei neuen KI-Anwendungen immer wieder, da sie mit massenhaften historischen Daten trainiert werden, in die gesellschaftliche Ungleichheiten eingeschrieben sind. Ganz zu beheben sind solche Probleme auch nicht mithilfe menschlicher Intelligenz, die aus Billiglohnländern zugekauft wird, um rassistische oder gewalttätige Inhalte zu entfernen.

Zusammenfassend könnte man also sagen: Kritische Medienkompetenz war schon vor den neuen KI-Anwendungen von gesellschaftlicher Bedeutung. Dennoch gewinnt sie durch breit zugängliche KI-Anwendung stark an Brisanz und zeigt die Relevanz von Politischer Bildung einmal mehr auf. Politische Bildung rückt damit noch enger an das Thema Kritische Medienkompetenz heran.