Kinder & KI: 5 Risiken, die Eltern kennen sollten

Die Diskussion über die Auswirkungen von Künstlicher Intelligenz (KI) auf Kinder und Jugendliche gewinnt zunehmend an Bedeutung. Daniel Wolf, Digitaltrainer und Autor, beleuchtet die vielfältigen Möglichkeiten und Herausforderungen, die KI für die jüngere Generation mit sich bringt. Besonders hervorzuheben ist die weit verbreitete Nutzung von KI-Tools wie Meta-AI in sozialen Medien, die Kinder oft unbemerkt verwenden, um Aufgaben zu erledigen oder Informationen zu erhalten. Diese Technologien können nicht nur die Lernfähigkeiten der Kinder beeinflussen, sondern auch ihre sozialen Interaktionen und ihr Verständnis von Realität.

Wolf weist darauf hin, dass Kinder durch den Zugang zu KI-gestützten Anwendungen in ihrer Entwicklung beeinträchtigt werden könnten. Es besteht die Gefahr des sogenannten "Skill Skipping", bei dem Kinder grundlegende Fähigkeiten nicht mehr erlernen, weil sie sich auf KI verlassen. Zudem wird die Beziehung zwischen Kindern und KI als potenziell problematisch angesehen, da diese Technologien oft eine freundliche und unterstützende Interaktion bieten, die von der Realität abweichen kann.

Ein weiteres zentrales Thema ist die Verantwortung der Eltern und der Gesellschaft im Umgang mit diesen Technologien. Wolf betont die Notwendigkeit, Kinder aktiv zu begleiten und ihnen den sicheren Umgang mit KI zu vermitteln. Er fordert eine stärkere Regulierung und ein Bewusstsein für die Risiken, die mit der Nutzung von KI verbunden sind, insbesondere im Hinblick auf Cyber-Grooming und andere Gefahren im Internet. Die Diskussion über einen Mindestalter für den Zugang zu sozialen Medien und KI-Anwendungen wird als dringend notwendig erachtet, um Kinder vor den potenziellen Gefahren der digitalen Welt zu schützen.

Die meistgenutzte KI der Kinder heißt nicht ChatGPT – sie steckt in WhatsApp. Zwei Drittel bis drei Viertel der Eltern haben Meta AI noch nie geöffnet, während ihre Kinder darauf Hausaufgaben abfotografieren und sich morgens sagen lassen, was sie anziehen sollen.

Daniel Wolff ist Digitaltrainer und ehemalige Lehrkraft. Er arbeitet an Schulen mit Kindern, Eltern und Lehrkräften, hat das Buch „Allein mit dem Handy“ geschrieben und war im April dazu im Bundestag. In dieser Folge nimmt er sich fünf Bereiche vor, in denen KI die Welt von Kindern gerade umbaut – und sagt dazu, was er an der Front tatsächlich beobachtet und was nicht.

Wir sprechen darüber, warum eine KI, die niemals ablehnend reagiert, das Kommunikationsverhalten von Kindern verschiebt, was Companion-Apps in Kinderzimmern anrichten, warum Kindern nicht De-Skilling droht, sondern Skipping, was der KI-Ausbau an Strom und Wasser kostet – und was Eltern konkret tun können.

Hinweis: Die Folge spricht offen über belastende Themen, unter anderem über sexualisierte Inhalte und über Todesfälle von Jugendlichen.

Du erfährst...

… warum die meistgenutzte KI deiner Kinder nicht ChatGPT heißt, sondern in WhatsApp steckt

… was Companion-Apps sind, wie Kinder darauf stoßen und wie du sie auf dem Handy findest

… warum Kindern nicht De-Skilling droht, sondern Skipping – und was der Unterschied ausmacht

… was der KI-Ausbau an Strom und Wasser kostet und warum das ausgerechnet die Generation deiner Kinder trifft

__________________________

||||| PERSONEN |||||

👤 Joël Kaczmarek, Gründer & Geschäftsführer digital kompakt

👤 Daniel Wolff, Digitaltrainer & Medienpädagoge

__________________________

||||| SPONSOREN |||||

🔥 Übersicht aller Sponsoren

__________________________

||||| PLAYLISTS |||||

Lust auf mehr? Entdecke unsere Playlists mit weiteren spannenden Episoden zum Thema:

__________________________

||||| LEXIKON |||||

Du verstehst nur Bahnhof? Zu viel Fachchinesisch? Unser Lexikon hilft dir dabei, die wichtigsten Fachbegriffe zu verstehen:

🔹 Parasoziale Beziehung - Eine parasoziale Beziehung ist eine einseitige Bindung an ein Gegenüber, das die Zuwendung nicht erwidern kann – klassisch an Medienfiguren oder Creator:innen, zunehmend auch an KI-Chatbots. Sie fühlt sich für die Person echt an, obwohl auf der anderen Seite niemand ist, der sie kennt. Bei KI-Anwendungen wird dieser Effekt durch Erinnerungsfunktionen, freundliche Antworten und Push-Nachrichten verstärkt.

🔹 Companion App - Companion Apps sind Anwendungen, deren einziger Zweck darin besteht, eine künstliche Gesprächspartnerin oder einen Charakter zu simulieren – Freund:in, Coach, Prominente oder frei erfundene Figur. Anders als ein Assistenzsystem lösen sie keine Aufgabe, sondern halten die Unterhaltung am Laufen, oft mit Push-Nachrichten und Erinnerungsfunktion. Bekannte Beispiele sind Character AI, PolyBuzz oder Chai; einzelne Länder haben das Genre inzwischen verboten.

🔹 Guardrails - Guardrails sind Schutzgeländer für KI-Systeme: technische und redaktionelle Regeln, die festlegen, was ein Modell nicht ausgeben darf und wie es bei heiklen Themen reagiert. Sie sind kein Bestandteil des Sprachmodells selbst, sondern werden vom Anbieter darübergelegt – und können deshalb unterschiedlich streng ausfallen oder ganz fehlen.

🔹 De-Skilling - De-Skilling beschreibt den Verlust einer Fähigkeit, die eine Person einmal beherrscht hat, weil sie die Tätigkeit dauerhaft an ein Werkzeug abgibt. In der KI-Debatte meint der Begriff, dass Erwachsene das Formulieren, Rechnen oder Strukturieren verlernen, weil das Modell es schneller erledigt. Entscheidend ist: Das Können war vorhanden und verkümmert – im Unterschied zum [[Skipping]], bei dem es nie aufgebaut wurde.

🔹 Skill Skipping - Skipping bezeichnet den Fall, dass eine Fähigkeit in der Entwicklungsphase, in der sie üblicherweise erlernt wird, gar nicht erst aufgebaut wird – weil ein Werkzeug die Aufgabe von Anfang an übernimmt. Gegenüber dem [[De-Skilling]] ist das