Immer häufiger werden KI-Systeme für die Erzeugung und Verbreitung von Desinformation oder Deepfakes in Form von Texten, Bildern und Videos genutzt. Wie weit sind solche Inhalte verbreitet? Wie wirken sie? Wer kann sie als solche erkennen – und wer nicht?
Um diese und weitere praxisrelevante Fragen zu beantworten und den wachsenden Herausforderungen in den Themenbereichen Desinformation und Künstliche Intelligenz zu begegnen, haben das Institut für Demokratie und Zivilgesellschaft (IDZ) und die Gesellschaft für Medienpädagogik und Kommunikationskultur (GMK) im Frühling 2025 zunächst eine Bedarfserhebung unter 37 zivilgesellschaftlichen Organisationen durchgeführt. Anhand dessen wurde ein wissenschaftlich fundiertes Orientierungsangebot gestaltet, das Antworten auf die genannten Fragen liefert und den Transfer in verschiedene Praxisfelder eröffnet: Der erste Schwerpunkt des neuen Formats Atlas: Wahrheit und Wissen im digitalen Wandel behandelt das Thema »Desinformation und KI« und wurde vom IDZ und der GMK im Rahmen von toneshift – Netzwerk gegen Hass im Netz und Desinformation zusammen gestaltet.
Der Themenschwerpunkt »Desinformation und KI« bündelt den interdisziplinären Forschungsstand in insgesamt 19 Fragen und Antworten entlang viel diskutierter Annahmen zum Themenfeld. Neben Definitionen, Einordnungen zu Verbreitung und Wahrnehmung von Desinformation und Deepfakes bietet der Atlas Einblicke in pädagogische Ansätze, mit denen sich Desinformation und Deepfakes gezielt adressieren lassen. Viele Studien zu Wahrnehmung, Einstellung und Befähigung der Menschen im Umgang mit Medienphänomenen wie Desinformation und KI beziehen sich auf Erwachsene. Für die pädagogische Arbeit sind jedoch insbesondere Erkenntnisse zu jungen Menschen relevant. Daher wurden explizit auch Studien einbezogen, die Auskunft über Kinder, Jugendliche und junge Erwachsene geben. Sie gelten in diesem Kontext als besonders vulnerable Gruppe, da sie sich flächig in digitalen Öffentlichkeiten bewegen, täglich mit visuellen und KI-generierten Inhalten konfrontiert sind und im Kompetenzerwerb für den Umgang damit unterstützt werden müssen. Erwachsene sind nicht notwendigerweise kompetenter, sondern vor allem schwieriger durch Bildungsangebote zu erreichen. Für die medienpädagogische und politische Bildungsarbeit bedeutet all das anhaltend neue Herausforderungen, für die die erste Ausgabe des Atlas Überblick und Orientierung bietet.
Zum Atlas: Wahrheit und Wissen im digitalen Wandel
Der Atlas ist ein Format des Online-Magazins Machine Against the Rage am IDZ.
