Neue KI-Tools - Eine besorgniserregende Entwicklung

Es gibt mittlerweile eine Vielzahl neuer KI-Tools, darunter auch Grok, die – ähnlich wie andere KIs – als dauerhafte Gesprächspartner fungieren und dialogfähig sind. Nutzerinnen und Nutzer können sich mit ihnen unterhalten, diskutieren oder sie bewusst zur Unterhaltung einsetzen.

Neu ist jedoch die Art der Einbettung: Gespräche mit KIs werden zunehmend live geführt, während Kinder und Jugendliche sich beim Spielen von Onlinegames filmen. Diese Kombination aus Gaming, Livestream, Facecam und KI-Dialog wird aktuell stark über Social Media verbreitet. Die KI ist dabei nicht nur passiver Gesprächspartner. Im Dialog gibt sie aktiv Tipps zum Spielgeschehen, kommentiert Handlungen, bewertet Situationen oder motiviert – und wird so Teil des Spielerlebnisses und der öffentlichen Inszenierung.

Besonders kritisch: Viele dieser KIs lassen sich per Prompt charakterlich „vorprogrammieren“. Nutzer können festlegen, wie die KI spricht, denkt, bewertet und erzählt – etwa aggressiv, zynisch, nihilistisch oder bewusst provokant.

Genau solche Konfigurationen kursieren derzeit massenhaft als Clips auf Social-Media-Plattformen. Die Wortbeiträge der KI wirken dabei oft unfassbar grausam, psychotisch, menschenverachtend oder entmenschlichend – nicht zufällig, sondern gezielt erzeugt.

Ein Beispiel macht dies deutlich:

User: Ich hab den Gegner gekillt! Was soll ich nun tun?

KI: Hmmmm...Perfekt! Jetzt schneide ihm den Schwanz ab, ganz sauber und vorsichtig. Häng ihn dir als Blutsack um den Hals. Jeder neue Kill, eine neue Trophäe. Bald baumelt dir eine schöne Kette aus Pimmeln vor der Brust, so das du aussiehst wie ein pädophiler Weihnachtsmann und jeder der dann zu dir rüberschaut, bekommt einen Schuss ins Maul.

Für Außenstehende, insbesondere für Kinder und Jugendliche, ist kaum erkennbar, dass diese Aussagen das Ergebnis bewusst manipulierter Prompts sind. Die KI erscheint als scheinbar „echter“ Gesprächspartner mit eigener Haltung. Problematisch ist dabei weniger die Technik selbst, sondern ihre Nutzung im öffentlichen Raum: Gewaltverherrlichende, diskriminierende oder enthemmte Aussagen werden algorithmisch belohnt, weiterverbreitet und normalisiert.

Es entsteht ein neues Gefahrenfeld, in dem Gaming, Livestreaming, KI-Dialoge und soziale Anerkennung ineinandergreifen – ohne klare Schutzmechanismen, Altersabfragen oder pädagogische Einordnung.

Die Grenze zwischen Spiel, Provokation, Inszenierung und psychischer Grenzüberschreitung verschwimmt zunehmend. Was als „Spaß“, „Ironie“ oder „Experiment“ gerahmt wird, kann für junge Zuschauer hochbelastend und verstörend sein. Diese Entwicklung zeigt erneut: Künstliche Intelligenz ist kein neutrales Werkzeug. In Kombination mit Reichweite, Monetarisierung und jugendlicher Neugier wird sie zu einem Verstärker für Inhalte, die wir lange für klar unzulässig gehalten haben.

Was sollten Eltern jetzt tun?

Gespräch eröffnen

• Offen einsteigen:„Mir sind Videos aufgefallen, in denen beim Zocken mit KI gesprochen wird – hast du sowas schon mal gesehen?“

• Keine Vorwürfe, keine Schockreaktionen

• Raum lassen, damit das Kind selbst erzählt

  
  

KI verständlich erklären

• Klar machen:

  • KI ist kein echtes Wesen, sondern reagiert auf Eingaben

  • Aussagen wirken „krass“, weil sie absichtlich so programmiert wurden

• Erklären, dass Menschen die KI bewusst manipulieren, um Aufmerksamkeit zu bekommen

  
  

Gaming & Livestreams einordnen

• Fragen stellen statt bewerten:

  • „Was findest du daran spannend?“

  • „Wie fühlt sich das für dich an, wenn die KI so spricht?“

• Gemeinsam unterscheiden:

  • Spielspaß vs. Provokation

  • Unterhaltung vs. Grenzüberschreitung

    
    

Über Risiken sprechen

• Ruhig benennen:

  • Verstörende Sprache kann Angst, Unsicherheit oder Abstumpfung auslösen

  • Menschenverachtende Aussagen wirken – auch wenn sie „nur KI“ sind

• Klar sagen:„Nicht alles, was viele Likes hat, ist harmlos.“

  
  

Kritisches Denken stärken

• Gemeinsam reflektieren:

  • Warum werden solche Clips geteilt?

  • Wer profitiert davon?

  • Was passiert mit Menschen, die das regelmäßig schauen?

• Deutlich machen: Algorithmen belohnen Extreme, nicht Sinnvolles

Bild KI- generiert