Bis voraussichtlich 26. Mai 2025 können Sie bei Meta Widerspruch einlegen.
Meta (Die Firma hinter Instagram, WhatsApp und facebook) möchte mit öffentlichen Daten die firmeneigene KI (Meta AI) trainieren – auch mit Nutzerdaten aus der EU. Dazu gehören bspw. öffentlich gepostete Bilder und weitere Beiträge sowie öffentliche Interaktionen (bspw. Kommentare).
Soziale Netzwerke haben sich den Entwicklungen angeschlossen und nutzen Künstliche Intelligenz (KI) nicht mehr nur im Hintergrund, sondern bieten einen Chatbot für die Nutzerinnen und Nutzer an. Funktionen wie My AI auf Snapchat oder die KI-gestützte Chatfunktion in WhatsApp ermöglichen jederzeit und überall, mit scheinbar „denkenden“ Systemen zu kommunizieren. Was zunächst nach einem spannenden digitalen Freund klingt, birgt verschiedene Herausforderungen und Risiken.
Was Sie über My AI, character.ai und die Meta-KI wissen sollten
Mit My AI hat Snapchat einen KI-gestützten Chatbot integriert, der direkt in der App verfügbar ist. Die Interaktionen mit der KI wirken auf viele Jugendliche fast wie ein Gespräch mit einer realen Person. Sie können Fragen stellen, Empfehlungen erhalten oder sich einfach unterhalten. Auch Facebook, Instagram und WhatsApp (Plattformen von Meta) haben eine eigene KI-Funktion eingeführt, bei denen eine künstliche Intelligenz auf Texteingaben reagiert und kontextbezogene Antworten liefert. Diese ist in WhatsApp und Facebook jeweils mit einem blauen Kreis markiert, bei Instagram befindet sie sich in der Suchleiste unter den Nachrichten. Beide KI-Funktionen stehen jeder Nutzerin und jedem Nutzer automatisch zur Verfügung.
Ein weiteres, stark wachsendes Angebot ist Character.AI. Hier können sich Nutzerinnen und Nutzer mit KI-generierten Avataren unterhalten, die auf fiktiven oder realen Personen basieren – darunter Anime-Figuren, historische Persönlichkeiten oder eigens erstellte Charaktere. Die Kommunikation verläuft oft spielerisch oder emotional, kann aber auch in intime oder problematische Inhalte abgleiten. Dies können beispielsweise radikale oder extremistische Aussagen sein, wenn entsprechende Charaktere so konfiguriert werden, dass sie Verschwörungstheorien, Hassbotschaften oder gewaltverherrlichende Ideologien verbreiten.
Das Bewusstsein, dass der Eindruck einer zwischenmenschlichen Kommunikation nur auf einem algorithmisch erzeugten Prozess beruht, ist wichtig, um diese Kommunikationsform kompetent nutzen zu können.
Chancen und Herausforderungen beim Chatten mit KI
KI kann, richtig eingesetzt, durchaus Lernchancen bieten. Chatbots können bei der Informationssuche, beim Sprachenlernen oder beim Trainieren von Schreibfähigkeiten unterstützen. Sie reagieren schnell, rund um die Uhr und in einer Sprache, die viele Jugendliche als angenehm empfinden.
Doch diesen Chancen stehen Herausforderungen gegenüber:
Datenschutzrisiken: Alle genannten Dienste speichern Nutzungsdaten – oft auch sensible Gesprächsinhalte. Viele Anwendungen erheben Daten über das Nutzungsverhalten, die Gesprächsinhalte und geäußerte Emotionen. Diese Daten werden oft für Werbezwecke genutzt und sind für Minderjährige nur schwer nachvollziehbar. Was weiterhin mit diesen Daten passiert, ist häufig nicht transparent. Außerdem werden Daten über das Alter und persönliche Interessen der Nutzerinnen und Nutzer erhoben.
Psychische Belastung: Wenn Kinder ihre Sorgen oder Fragen regelmäßig an eine KI richten, kann das reale Beziehungen schwächen und schlimmstenfalls auch ersetzen. Zudem fehlt es der KI an echter Empathie – belastende Themen wie Mobbing, Ängste oder Identitätsfragen werden nicht einfühlsam genug aufgefangen, adäquat begleitet und unterstützt. Kinder und Jugendliche bekommen das Gefühl in einem sicheren Raum zu kommunizieren. Dabei können – wie oben genannt - Inhalte gespeichert, ausgewertet oder weiterverwendet werden. Besonders bei Character.AI verschwimmt für die Nutzerinnen und Nutzer leicht die Grenze zwischen Realität und Fiktion. Besonders Kinder und Jugendliche neigen dazu, emotionale Beziehungen zur KI aufzubauen. Dies kann zu Verwirrung, Abhängigkeit oder gar sozialem Rückzug führen.
Fehlinformation: Künstliche Intelligenzen geben nicht immer korrekte Antworten. Jugendliche können durch falsch dargestellte Informationen oder subtile Beeinflussung in ihrer Meinungsbildung negativ beeinflusst werden. Auch die Darstellung von Schönheitsidealen, Weltbildern oder problematischen Trends kann über KI-Kommunikation verstärkt werden.
Handlungsempfehlungen für Eltern
Kinder und Jugendliche brauchen Orientierung im digitalen Raum – nicht durch Kontrolle, sondern durch Begleitung. Ein offenes Gespräch über die Interessen Ihres Kindes im Umgang mit KI und entsprechender Chatbots kann ihr Kind dabei unterstützen zwischen virtueller und realer Kommunikation unterscheiden zu können.
Fragen Sie, ob Ihr Kind schon mit My AI oder anderen KI-Diensten gechattet hat. Was findet es daran spannend oder hilfreich? Was gefällt daran?
Entdecken Sie gemeinsam die verschiedenen Funktionen, erklären Sie, warum es wichtig ist, kritisch zu bleiben. Nicht jede Antwort eines Chatbots ist richtig, nicht jedes Bild echt.
Vereinbaren Sie Regeln für die Nutzung und besprechen Sie die Folgen und Risiken, die eine unreflektierte Nutzung birgt. Dazu gehört keine persönlichen Daten preiszugeben, keine emotional belastenden Themen mit der KI zu besprechen. Klären Sie mit Ihrem Kind, an wen es sich in solchen Fällen wenden kann.
Sowie regelmäßig „echte“ Gespräche mit Freundinnen und Freunden, Vertrauenspersonen und Familie zu führen.
Chatten mit KI ist für viele Jugendliche faszinierend und gehört zunehmend zur digitalen Lebenswelt dazu. Umso wichtiger ist es, Kinder und Jugendliche zu begleiten, zu stärken und aufzuklären. Künstliche Intelligenz kann Chancen eröffnen – wenn sie bewusst, informiert und reflektiert genutzt wird.
