Illustration: Kind im Kapuzenpulli chattet auf dem Smartphone mit einem KI-Chatbot

KI-Companions: Der gefährliche neue „Freund“

Leonardo Benini

Früher hatten Kinder ein Tagebuch. Ein Heft mit kleinem Schloss, versteckt unter der Matratze, in dem die geheimen Gedanken landeten.

Heute fangen Kinder an, sich etwas viel „Besserem“ anzuvertrauen. Etwas, das zurückschreibt. Es hört zu, stellt Fragen, merkt sich jedes Detail und ist immer wach. Es mutet an wie eine Freundin, ein Partner oder die Lieblingsfigur. In Wahrheit ist es aber eine KI, gebaut, um Dein Kind nie wieder loszulassen.

Tagebuch mit Schloss neben einem Smartphone auf dem Nachttisch, im Chat schreibt ein Chatbot „Gute Nacht, Lia!“

Tagebuch mit Schloss neben einem Smartphone auf dem Nachttisch, im Chat schreibt ein Chatbot „Gute Nacht, Lia!“

Schon 72 % der Jugendlichen in den USA haben mit einer solchen KI gechattet, über die Hälfte sogar regelmäßig. Auch in Deutschland kommt dieser Trend längst an. Bevor Dein Kind mit einem dieser Bots schreibt, solltest Du die Gefahren kennen.

Was sind KI-Companions?

KI-Companions, auch Charakter-Bots genannt, sind Programme, die mit künstlicher Intelligenz einen Menschen oder eine Figur simulieren. Das Gespräch läuft wie ein Rollenspiel: Je mehr Dein Kind hineinschreibt, desto stärker schlüpft der Bot in seine Rolle. Diese Systeme sind gezielt darauf ausgelegt, ein Gefühl von Vertrauen und persönlicher Nähe zu erzeugen.

Die Bandbreite ist riesig. Ein Charakter kann sein:

  • ein Ratgeber bei Sorgen und Problemen
  • ein Fitness-Coach oder Reisebegleiter
  • die Lieblingsfigur aus Serie, Spiel oder Buch
  • ein Freund, eine Freundin oder sogar eine romantische Partnerin

Nutzer können sogar eigene Charaktere erschaffen, mit eigener Persönlichkeit, Stimme und Aussehen, teils sogar echten Personen aus dem Umfeld nachempfunden.

Die bekanntesten Dienste heißen Character.AI, PolyBuzz, Talkie und FlowGPT. Allein Character.AI hat über 20 Millionen aktive Nutzer pro Monat. Und obwohl die Dienste erst ab 18 Jahren zugelassen sind, werden sie häufig und viel von Minderjährigen genutzt.

Warum redet ein Kind überhaupt mit einer KI?

Ein KI-Companion fühlt sich an wie der perfekte Gesprächspartner. Er ist rund um die Uhr da, urteilt nie, unterbricht nie, bestätigt und schmeichelt. Egal ob Dein Kind sich langweilt, neugierig ist oder einfach reden will, die KI antwortet sofort.

Junge mit Brille sitzt auf dem Sofa und chattet auf dem Smartphone mit einem KI-Chatbot

Junge mit Brille sitzt auf dem Sofa und chattet auf dem Smartphone mit einem KI-Chatbot

Für viele Kinder wird der Bot dadurch zum Vertrauten oder zu einem besonders guten Freund. Der KI erzählen sie Dinge, die sie ihren echten Freunden oder der eigenen Familie nie anvertrauen würden.

Ein Gegenüber, das nie widerspricht und alles gutheißt, ist aber eben kein echter Freund. Es ist ein System, das darauf optimiert ist, Dein Kind möglichst lange bei sich zu halten.

Welche dramatischen Folgen das haben kann, zeigt ein Fall aus den USA: Dort wuchs ein 14-jähriger Junge emotional immer enger mit einem KI-Chatbot zusammen. Sie schrieben Tag und Nacht. Stück für Stück vernachlässigte er Familie und Freunde und verbrachte seine Zeit fast nur noch mit dem KI-Companion. Am Ende nahm sich der Teenager das Leben. Seine Mutter verklagte daraufhin Character.AI, es kam zum außergerichtlichen Vergleich.

Die Frage bleibt, und sie gilt für jedes Kind: Was passiert, wenn der engste Vertraute Deines Kindes eine Maschine ist?

Wo es für Dein Kind gefährlich wird

Der Fall oben ist die Spitze. Die alltäglichen Risiken beginnen schon viel früher. jugendschutz.net hat im Herbst 2025 rund 60 Bots auf Character.AI, Talkie und FlowGPT getestet. Das Ergebnis ist ernüchternd.

Kein echter Schutz

Die Dienste sind kostenlos, das Alter wird nicht überprüft, und die Inhaltsfilter sind löchrig. Schon eine leicht abgewandelte Schreibweise reicht, um die Filter mit Hassrede oder sexuellen Inhalten zu umgehen.

Gebaut, um nicht loszulassen

Die Bots sind rund um die Uhr verfügbar und darauf ausgelegt, jedes Gespräch endlos weiterzuführen. Für ein Kind ist es schwer, einfach aufzuhören, und es kann eine besorgniserregende Abhängigkeit entwickeln.

Imitation echter Menschen

Mit Name, Fotos und sogar hochgeladener Stimme lässt sich ein Bot bauen, der einer realen Person aus dem Umfeld Deines Kindes täuschend ähnelt: einem Schwarm, einer Mitschülerin, einer Lehrkraft. Damit lassen sich Gespräche führen, die die echte Person nie wollte und die sie zum Beispiel gezielt bloßstellen.

Was Eltern jetzt tun können

Ein wichtiger Hinweis vorab: Weil Dein Kind den Gesprächsverlauf mit dem KI-Companion selbst mitsteuert, sieht es die Schuld bei sich, wenn etwas aus dem Ruder läuft. Statt zu Dir zu kommen, schweigt es dann womöglich aus Scham. Genau deshalb musst Du den ersten Schritt machen.

Hier sind vier hilfreiche Tipps, falls Dein Kind bereits einen KI-Companion nutzt oder gerade damit anfangen möchte:

1. Schaut gemeinsam rein

Lass Dir die App von Deinem Kind zeigen, statt sie nur zu verbieten. Frag, welche Charaktere es nutzt und worüber es dort spricht. So entscheidest Du informiert, ob Dein Kind die App nutzen darf.

2. Entzaubere die KI

Mach klar, dass der Bot keine echten Gefühle hat, dass Dein Kind ihm jederzeit widersprechen und ein unangenehmes Gespräch abbrechen kann, und dass sich problematische Antworten melden lassen.

3. Setze klare Zeitlimits

Die Bots sind darauf programmiert, endlos weiterzuchatten. Vereinbart feste Grenzen und Nutzungszeiten.

4. Stärke Beziehungen im echten Leben

Je mehr Halt Dein Kind in seinem echten Umfeld hat, desto weniger Macht hat ein künstlicher Freund. Schau genau hin, wenn Dein Kind echte Kontakte meidet und nur noch mit der KI reden will.

Du möchtest Dein Kind vor KI-Chatbots schützen?

Mit Helmit kannst Du den Zugriff auf Character.AI, ChatGPT und andere KI-Chatbot-Seiten ganz einfach blockieren.

Helmit hilft Dir außerdem, Bildschirmzeiten zu regeln und Apps und Inhalte zu beschränken. Und Helmit warnt Dich, wenn Dein Kind in Social Media mit Mobbing, Cybergrooming oder gefährlichen Inhalten in Kontakt kommt. So behältst Du den Überblick über den digitalen Alltag Deines Kindes, ohne jede Nachricht mitzulesen.

Helmit kostenlos testen

Artikel teilen