Wenn Kinderconent zur Pornografie wird

KI-generierte Figuren als Einstieg in problematische Inhalte

Auf den ersten Blick wirken viele Inhalte auf Plattformen wie TikTok unbedenklich. Niedlich gestaltete Tiere, fantasievolle Wesen oder Figuren, die an bekannte Kindheitshelden erinnern, tauchen in kurzen Clips auf, bewegen sich spielerisch durch bunte Welten und greifen die Ästhetik klassischer Kinderformate auf. Genau diese vertraute Optik ist es, die Aufmerksamkeit erzeugt und Vertrauen schafft.

Doch hinter dieser Oberfläche entwickelt sich aktuell eine neue Form von Inhalten, die genaueres Hinsehen erfordert.

Durch den Einsatz moderner KI-Tools werden Bilder und Videos erzeugt, in denen solche Figuren in Darstellungen erscheinen, die nicht mehr klar dem Bereich kindgerechter Unterhaltung zuzuordnen sind. Körpersprache, Inszenierung und Bildsprache orientieren sich zunehmend an erwachsenen Mustern. Die Inhalte bleiben dabei oft so gestaltet, dass sie nicht sofort als problematisch erkannt werden, sondern erst im Kontext ihre Wirkung entfalten.

Diese Inhalte verbreiten sich besonders schnell, weil sie eine Lücke nutzen. Die dargestellten Figuren wirken auf den ersten Blick harmlos. Es sind keine realen Personen, keine offensichtlich kritischen Szenen. Dadurch passieren sie häufig automatisierte Prüfmechanismen. Gleichzeitig ist die Gesamtwirkung für Betrachtende deutlich anders einzuordnen.

Für Kinder und Jugendliche entsteht dadurch eine Situation, in der sie mit Darstellungen konfrontiert werden, die schwer einzuordnen sind. Die Inhalte wirken vertraut, gleichzeitig transportieren sie unterschwellige Botschaften, die nicht ihrem Alter entsprechen. Der Übergang zwischen kindgerechter Unterhaltung und nicht altersangemessenen Darstellungen wird dadurch zunehmend unscharf.

Hinzu kommt, dass einige dieser Inhalte nicht für sich stehen. In Kommentaren, Profilen oder begleitenden Hinweisen werden Nutzerinnen und Nutzer teilweise auf externe Seiten aufmerksam gemacht. Diese Verknüpfungen können dazu führen, dass Kinder von zunächst harmlos wirkenden Inhalten in deutlich ungeeignetere Bereiche weitergeleitet werden.

Die besondere Herausforderung liegt darin, dass diese Entwicklung nicht offensichtlich ist. Es gibt keine klaren Warnzeichen wie bei eindeutig problematischen Inhalten. Stattdessen erfolgt die Annäherung schrittweise, eingebettet in bekannte Bildwelten. Dadurch kann sich Wahrnehmung verändern, ohne dass dieser Prozess bewusst reflektiert wird.

Für Eltern und pädagogische Fachkräfte bedeutet das, genauer hinzusehen und mit Kindern über Inhalte zu sprechen, die auf den ersten Blick unproblematisch erscheinen. Es geht weniger darum, einzelne Videos zu verbieten, sondern darum, gemeinsam ein Verständnis dafür zu entwickeln, wie Inhalte wirken und warum nicht alles, was freundlich aussieht, auch unbedenklich ist.

Kinder und Jugendliche bewegen sich in einer digitalen Umgebung, in der Inhalte zunehmend künstlich erzeugt und gezielt gestaltet werden. Umso wichtiger ist es, ihnen Orientierung zu geben, Zusammenhänge zu erklären und sie darin zu stärken, Inhalte kritisch einzuordnen. Die zentrale Botschaft lautet daher nicht, Angst zu machen, sondern aufmerksam zu sein. Denn die größte Veränderung liegt darin, dass sich problematische Inhalte heute oft hinter einer harmlosen Fassade verbergen.

Bild KI-generiert: