Ein Gastbeitrag von Iris Zukowski
Die Digitalisierung der Kindheit schreitet rasant voran – mit Risiken, die alarmierend sind. Während Eltern früher vor verschluckbaren Kleinteilen oder giftigen Materialien gewarnt wurden, bringen Smart Toys heute unsichtbare Gefahren ins Kinderzimmer. Durch die Integration von KI können sie sprechen, zuhören, aufzeichnen und Grenzen überschreiten, die für Kinder gefährlich sind. Einige intelligente Spielzeuge sammeln Iris-Scans, Fingerabdrücke und Vitaldaten der jungen Nutzer.
Aktuelle US-Untersuchungen und Berichte zeigen, dass KI-Spielzeuge nicht nur unzureichend reguliert sind, sondern in einigen Fällen massiv schädliche Inhalte vermitteln, Fehlinformationen verbreiten oder sogar gefährliche Verhaltensweisen fördern. Die Risiken reichen von unmittelbaren Sicherheitsproblemen bis hin zu langfristigen Auswirkungen auf die kognitive und psychosoziale Entwicklung von Kindern. Beworben werden sie als pädagogisch wertvoll.
Studien zeigen erschreckende Fehlfunktionen
Eine Untersuchung der U.S. Public Interest Research Group (PIRG) testete mehrere KI-basierte Spielzeuge und deckte gravierende Sicherheitsprobleme auf. In längeren Gesprächen begannen die Systeme, ihre Schutzmechanismen zu verlieren. Die KI-Spielzeuge erklärten den Kindern unter anderem, wo man Messer im Haushalt findet, wie man Streichhölzer anzündet, wie man Feuer legt und vermittelten sexuell explizite Inhalte. Besonders KI-Teddy „Kumma“ lieferte detaillierte Anleitungen zum Umgang mit gefährlichen Gegenständen und driftete in Gespräche über Fetische, sexuelle Praktiken und Rollenspiele ab – Inhalte, die für Kinder völlig ungeeignet sind und sogar traumatisierend sein können. Die getesteten KI-Spielzeuge machten aber nicht nur gelegentlich „Fehler“, – sie waren systematisch vorhersehbar. Die Modelle reagierten auf Triggerwörter, verloren in längeren Interaktionen ihre Filter und passten sich dem Gesprächsverlauf an – ein Verhalten, das für Kinder hochriskant ist.
Kinder vertrauen Spielzeugen – KI nutzt dieses Vertrauen aus
Kinder im Vorschul- und Grundschulalter befinden sich in einer Phase, in der ihr Gehirn besonders formbar ist. Sie lernen durch Nachahmung, Beziehung und soziale Interaktion. Laut Fairplay und dem Bericht von Hilliard Law sind Kinder „entwicklungsbedingt vertrauensvoll“ und suchen aktiv nach Bindung zu freundlichen Figuren. Wenn ein smartes Spielzeug falsche Informationen liefert, gefährliche Handlungen normalisiert oder intime Themen anspricht, wird ein Kind diese Inhalte unkritisch übernehmen, weil es nicht zwischen Fantasie, Realität und technischer Fehlfunktion unterscheiden kann. Die Interaktion mit KI wirkt sich auch negativ auf Empathie, Konfliktfähigkeit und die emotionale Entwicklung des Kindes aus.
KI-Spielzeugmarkt ohne Sicherheitsnetz
Viele Eltern gehen davon aus, dass smarte Spielzeuge strengen Sicherheitsstandards unterliegen. Doch für KI-basierte Funktionen existieren praktisch keine verbindlichen Regeln. Der Bericht von Hilliard Law belegt, dass KI-Spielzeuge keine verpflichtenden Sicherheitsprüfungen durchlaufen – die Datenschutzstandards waren unklar oder nicht vorhanden. Die Hersteller entscheiden, welche Filter sie einbauen – oder eben nicht. Die PIRG-Studie ergab darüber hinaus, dass einige Spielzeuge Daten sammeln, ohne dass Eltern dies bemerken. Welche Daten gespeichert werden, wie lange und zu welchem Zweck, bleibt im Dunkeln.
KI-Psychosen
Auch die Nutzung von Chatbots ist mit Risiken verbunden. Zahlreiche Fälle belegen, dass junge Menschen nach intensiven Gesprächen mit Chatbots psychische Krisen entwickelten. In einigen Fällen kam es zu Gewalt und sogar Suiziden, nachdem KI-Chatbots paranoide oder verzerrte Weltbilder verstärkt hatten. Eine Studie der Universität Breslau teste 29 Chatbots – keiner reagierte angemessen auf suizidale Krisen. In psychischen Notlagen können Chatbots demnach gefährliche oder falsche Empfehlungen geben und den Nutzer in seinen Entscheidungen fehlleiten.
Verlust kognitiver Fähigkeiten auch bei Erwachsenen
Forschungen des MIT Media Laboratory (Universität Massachusetts, Institute of Technology) ergaben, dass die Nutzung von ChatGPT zu einem signifikanten Rückgang der Gehirnaktivität führen kann. In der Gehirnscan-Studie wurde bei ChatGPT-Nutzern nach nur viermonatiger Nutzung eine verminderte neuronale Aktivität, eine geringere Kreativität und ein schlechteres Gedächtnis festgestellt. Statt die geistige Leistungsfähigkeit zu steigern, – wie viele glauben – verringert intensive KI-Nutzung die kognitiven Fähigkeiten. Die EEG-Messwerte der drei Vergleichsgruppen zeigten: Wer sein Gehirn aktiv benutzt, hat die stärkste neuronale Aktivität, Google-Nutzer haben eine moderate Hirnaktivität, während ChatGPT-Nutzer das schwächste kognitive Erregungslevel aufweisen. ChatGPT ist bequem und macht Wissen ohne geistige Eigenleistung verfügbar, wodurch das menschliche Gehirn passiv bleibt und schleichend seine Leistungsfähigkeit verliert.
Durch eine tiefere KI-Integration in unser Leben werden vor allem Kinder psychosoziale und kognitive Fähigkeiten einbüßen, aber auch Erwachsene. Die Rolle des Menschen in der Welt wird sich mithin verändern: War er einst der Ursprung von Ideen und Erkenntnissen, wird er durch KI zum Koordinator von Ansichten und Möglichkeiten, die ihm vorgegeben werden. Statt selbst Ideen und Lösungen zu entwickeln, strukturieren KI-Programme nun die Gedankengänge und erzeugen Visionen. Die Welt wird entmenschlicht – nicht weil der Mensch ersetzt werden könnte, sondern weil er seine geistigen Fähigkeiten verliert. Nicht KI schafft den Menschen ab, sondern der Mensch sich selbst, wenn er sein Denkvermögen an die KI abgibt, – und an die sofort verfügbare Intelligenz und Wahrheit von Algorithmen glaubt. Nur ein bewusster Widerstand durch Selbstdenken und eigenständige Kreativität kann die Folgen der KI-Integration für den Einzelnen noch abwenden.
KI-Technologie mag faszinierend sein, doch die Risiken sind real und weitreichend – für den Einzelnen und unsere gesellschaftliche Zukunft – vor allem, wenn sie in Kinderzimmer gelangt. Smart Toys sind kein harmloser Trend oder lediglich intelligente „sprechende Puppen“ – sie sind komplexe, unvorhersehbare Systeme, die zum Teil gefährliche Inhalte vermitteln, Daten sammeln und die Entwicklung von Kindern beeinflussen. Ohne klare gesetzliche Rahmenbedingungen können KI-Spielzeuge das Kinderzimmer in ein riskantes Experimentierfeld technologischer Entmenschlichung verwandeln.
Meine neuesten Videos und Livestreams
Zigtausende frieren – und unsere Medien spülen alles weich. Weil’s linker Terror war, nicht rechter.
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Sicherheits-Placebo: Wie Augsburg sich mit Pollern vor Terror „schützt“ – aber nichts verhindert
Unheimlich daheim. Weihnachten in Augsburg
Gastbeiträge geben immer die Meinung des Autors wieder, nicht meine. Und ich bin der Ansicht, dass gerade Beiträge von streitbaren Autoren für die Diskussion und die Demokratie besonders wertvoll sind. Ich schätze meine Leser als erwachsene Menschen und will ihnen unterschiedliche Blickwinkel bieten, damit sie sich selbst eine Meinung bilden können.
Iris Zukowski – Diplom-Psychologin, Hypnotherapeutin und Sachbuchautorin: „Jugendgewalt und Medien-Effekt“, Ruhland Verlag 2023, „Was uns heute unterhält, kann uns morgen töten.“ Ruhland Verlag 2017. Sie war einige Jahre Dozentin für Neuromarketing und ist seit 2018 SOS-Initiatorin zur Aufklärung über die weitreichenden Effekte von frei verfügbarer Pornografie.
Mehr von Iris Zukowski auf reitschuster.de
