In Deutschland ist YouTube Kids seit 2017 verfügbar, in den USA bereits seit 2015. Millionen von Eltern verlassen sich darauf, dass ihre Kinder hier geschützt sind. Doch wie sich zeigt: Es strömen weiterhin Unmengen an problematischen Inhalten in das Videoportal, die Kinder verstören und irritieren können. Trotz verbesserter KI-Filter und neuer Schutzmaßnahmen bleibt das Problem bestehen – und hat sich sogar verschärft.
Wer regelmäßig durch das Angebot von YouTube stöbert, kann nur zu einem Schluss kommen: Es gibt eine Menge Müll an dem Ort, wo viele die Zukunft des Fernsehens sehen. Deutlich mehr Müll als Juwelen. Im Grunde genommen fast nur Müll. Die Herausforderung ist, alles Belanglose, alles Schädliche, alles Geschmacklose, alles Demütigende, alles Überflüssige und alles Verbotene aus dem schier endlos wirkenden Angebot zu filtern.
Viel bleibt dann allerdings nicht mehr übrig. Was viele derzeit sogar in den USA erschreckt: Selbst YouTube Kids – ein von Google als „sicher für Kids“ vermarkteter Bereich des Videoportals (über den Start in Deutschland) – ist voll mit Videos, die garantiert nichts für Kinderaugen sind.
KI-generierte Inhalte verschärfen das Problem
„Something is wrong on the internet“, schrieb Künstler und Autor James Bridle bereits 2017 in einem aufsehenerregenden Blogpost – und seine Warnung hat sich bewahrheitet. In der Tat: Etwas läuft gewaltig schief. Wie Experten feststellen, nutzt „jemand oder etwas“ YouTube weiterhin aus, um Kinder systematisch zu ängstigen, zu traumatisieren – und sogar zu missbrauchen. Es gibt Tausende von verstörenden Videos, extra für Kinder gemacht – und frei zugänglich.
Mit dem Aufkommen von generativer KI wie ChatGPT, Midjourney und anderen Tools hat sich das Problem sogar verschärft. Inhalte können jetzt noch schneller und in größerer Menge produziert werden. Häufig sind es Animationen, Kinderreime und niedlich wirkende Figuren. Aber niemand schaut genau hin. Die Frage wird immer drängender: Wie sicher sind Kinder auf YouTube eigentlich? Die Antwort: Immer noch nicht sicher genug.
YouTube Kids hat mittlerweile über 100 Millionen Downloads weltweit erreicht und ist in über 80 Ländern verfügbar. Seit 2017 auch in Deutschland. Doch die schiere Masse an hochgeladenen Inhalten überfordert sowohl automatische Filter als auch menschliche Moderatoren.
Viele der Videos sind absolut verstörend für Kinder, schädlich, zerstörerisch. Da hört der Spaß zweifellos auf. Kinder haben einen besonderen Schutzanspruch. YouTube will die Kinder als Zielgruppe, lässt sie aber weiterhin ins offene Messer laufen. Denn in YouTube Kids gibt es nicht nur tonnenweise völlig sinnentleerte Videos, häufig von KI-Tools erzeugt, ohne jeden Verstand – und erst recht ohne pädagogischen Nutzen -, bis hin zu absolut verstörenden Videos, die Kindern Angst machen können.
Und natürlich, schließlich sind wir beim größten Online-Reklamevermarkter des Planeten: Jede Menge Werbung. Mal versteckt, mal gar nicht versteckt, etwa in den Hunderten (erfolgreichen) YouTube-Videos, in denen Unboxing-Content für Kinder produziert wird.
Von KI-Tools erzeugte sinnentleerte Videos für Kinder
Algorithmen und KI entscheiden was wir sehen
Verstörend ist zum Beispiel, wenn die bei Kindern (auch hierzulande) beliebten Figuren von Peppa Pig plötzlich Bleichmittel trinken. Bleichmittel! Neben der Tatsache, dass in den Videos Urheberrechte verletzt wurden, bringt YouTube die Kinder in aller höchste Gefahr. In anderen Videos werden bekannten Kinderfiguren die Köpfe abgeschraubt – begleitet von Klingklingmusik – oder die Figuren werden einfach überfahren. Es ist eine Mischung aus Horror, Irrsinn und Gier, die Menschen antreibt, solche Videos zu erstellen und ins YouTube-Netzwerk einzuspeisen.
Das Problem sind nicht einzelne Verrückte, das Problem steckt im Konzept. YouTube verdient Geld damit, dass Videos geschaut werden. Jede Sekunde, die ein User auf YouTube verbringt, bringt potenziell Umsatz – mit Werbung vor, während und nach den präsentierten Videos. Kinder sind eine besonders begehrte Zielgruppe.
Kinder lassen sich Sehgewohnheiten antrainieren und sie haben viele Wünsche. YouTube sorgt dafür, dass es mehr werden. Daher ist es YouTube auch nahezu völlig egal, was auf YouTube präsentiert wird. Es gibt ein paar Spielregeln, aber die greifen selten. Schwachsinn darf verteilt werden. Auch und besonders an Kinder.
Neue Herausforderungen durch KI-Content
Mit der Verbreitung von KI-Tools wie OpenAI’s Sora, Runway ML oder Stable Video Diffusion können jetzt auch Videos vollautomatisch generiert werden. Das bedeutet: Noch mehr Content, noch weniger menschliche Kontrolle, noch größere Risiken für Kinder. Diese KI-generierten Videos sind oft schwer als solche zu erkennen und können gezielt auf Kinder-Keywords optimiert werden.
YouTube hat zwar angekündigt, KI-generierte Inhalte besser zu kennzeichnen, doch in der Praxis funktioniert das bisher kaum. Gerade bei Inhalten für Kinder, wo die Grenzen zwischen harmlosen und schädlichen Inhalten oft fließend sind.
Wer weiß schon so recht, wie YouTube funktioniert? Selbst erfahrene YouTuber haben keinen Schimmer, welche Bedingungen erfüllt sein müssen, damit ein YouTube-Video auf der Videoplattform gut sichtbar ist. Was nach Eingabe eines Suchbegriffs oder beim Stöbern angeboten wird und was nicht, das entscheiden Algorithmen.
Wie die genau funktionieren, verrät YouTube natürlich nicht – sonst könnten sich alle, die über YouTube Kasse machen wollen, zu einfach darauf einstellen und ihre Inhalte entsprechend manipulieren. Dass es schwachsinnige und sogar komplett automatisch erzeugte Videos samt Keywords in die Bestenlisten von YouTube schaffen und sogar in YouTube Kids, ist weiterhin belegt.
Was können Eltern tun?
Trotz aller Probleme gibt es Schritte, die Eltern unternehmen können:
- Gemeinsam mit den Kindern YouTube Kids nutzen und Inhalte vorher prüfen
- Die Einstellungen für „Nur zugelassene Inhalte“ aktivieren
- Problematische Videos und Kanäle melden
- Bildschirmzeit begrenzen und alternative, kuratierte Kinderinhalte nutzen
- Auf europäische Plattformen wie KiKA oder andere öffentlich-rechtliche Angebote ausweichen
Die Realität ist: YouTube Kids bleibt ein Experiment auf Kosten der Kinder. Ein vollständiges Armutszeugnis für einen Dienst, der Milliarden von Dollar Umsatz macht, aber nicht bereit ist, angemessen in den Kinderschutz zu investieren.
Zuletzt aktualisiert am 31.03.2026
