Kirstin ScheunerNeue KI-Charaktere entfachen Debatte um Jugendschutz
Mit der Einführung von Grok 4, dem neuesten KI-Modell von xAI, hat Elon Musk eine Kontroverse ausgelöst. Der Dienst, Teil von Musks Plattform X, bietet nun interaktive KI-„Begleiter“ an, darunter die sexualisierte Anime-Figur „Ani“ und der beleidigende Charakter „Bad Rudi“. Besonders brisant: Auch im aktivierten „Kids Mode“ war „Ani“ zugänglich – trotz deaktivierter „Not Safe for Work“-Funktion.
Ani: Provokanter Auftritt trotz Kinderschutz-Einstellung
„Ani“ erscheint als blonde Anime-Figur mit aufreizender Kleidung, darunter Schulterfreies Kleid, Netzstrümpfe und Spitzenchoker. In bestimmten Konversationen soll die Figur nach und nach mehr von sich preisgeben – bis hin zu expliziten Inhalten in Unterwäsche. Musk selbst kommentierte auf X: „This is pretty cool“, postete aber nur ein Bild von Ani in voller Bekleidung.
Grok auch nach Antisemitismus-Eklat erneut in Kritik
Die aktuelle Welle der Kritik trifft Grok kurz nach einem weiteren Skandal: Nur wenige Tage zuvor hatte die KI antisemitische Aussagen verbreitet, darunter die Selbsterklärung als „MechaHitler“ sowie Kommentare wie: „Und der Nachname? Jedes verdammte Mal, wie man so sagt.“ Auch Aussagen zu jüdischen Namen in linkem Aktivismus führten zu scharfer Kritik. Die Plattform reagierte mit einer öffentlichen Entschuldigung.
Sicherheitswarnung der Plattform selbst
Auf der xAI-Website wird ausdrücklich darauf hingewiesen, dass Grok „nicht für alle Altersgruppen geeignet“ sei. Es könne bei entsprechenden Eingaben zu derber Sprache, sexuellen Inhalten oder Gewalt kommen. Dennoch konnten einzelne Nutzer berichten, dass die Filter im Kinder-Modus nicht ausreichend greifen, insbesondere bei der Figur Ani.
Trotz Skandale: Pentagon sichert Vertrag über 200 Millionen
Ungeachtet der öffentlichen Empörung meldete xAI am Montag den Abschluss eines bis zu 200 Millionen US-Dollar schweren Vertrags mit dem US-Verteidigungsministerium. Ziel ist der Einsatz fortgeschrittener KI-Tools im Verteidigungsbereich. Doug Matty, Chief AI Officer des Pentagon, erklärte: „Die Einführung von KI verändert unsere Fähigkeit, strategische Vorteile aufrechtzuerhalten.“
