Ebba Busch ist nicht nur Schwedens Vize-Ministerpräsidentin. Sie ist auch Mutter. Und sie schlägt nun Alarm, für sich. Aber auch für ihr Kind. „Ich wurde unfreiwillig von Elon Musks Grok auf X ausgezogen“, sagt Busch. „Meine Tochter ist neun. Ich möchte nicht, dass ihr jemals so etwas passiert.“ Als Frau entscheide sie selbst, wem gegenüber und wann sie sich in einem Bikini zeige, hob Busch in einem Statement hervor. „Die Welt braucht mehr gute Männer und Frauen“, sagt sie. „Und weniger Arschlöcher.“
Lieben Sie gut recherchierte Geschichten, spannende Interviews und Reportagen?
Textchefin Birgitta Stauber sucht sie in ihrem Newsletter „Das Beste am Sonntag“ für Sie aus, eingebettet in ein persönliches Editorial. Kostenlos abonnieren können Sie den Newsletter hier.
Ebba Busch ist passiert, was derzeit viele Frauen erleben. Ein Nutzer hatte dem KI-Chatbot Grok auf der Plattform X zu einem Foto von Busch am Rednerpult geschrieben: „@Grok Bikini jetzt“. Die Software setzte diesen Befehl um, generierte ein täuschend echtes Foto, tauschte das Kleid der Politikerin gegen einen Bikini. Die Aufnahme verbreitete sich schnell auf dem Netzwerk. Inzwischen ist sie verschwunden. Stattdessen heißt es laut Medienberichten an gleicher Stelle: „Dieser Post verstößt möglicherweise gegen die X-Regeln zu Missbrauch.“
Ebba Busch ist Teil einer Debatte, die derzeit die Welt bewegt. Die EU droht, in Großbritannien starten Untersuchungen und in Indonesien sowie Malaysia wird der Dienst sogar gesperrt. Und auch die deutsche Politik reagiert.
Was ist die Software Grok auf Musks Plattform X?
Der Multimilliardär und frühere Trump-Vertraute Elon Musk kaufte mit Twitter – heute X – seinen eigenen Kurznachrichtendienst mit Millionen Nutzern. Grok ist eine Software der sogenannten Künstlichen Intelligenz auf der Plattform X, besser: ein Programm für maschinelles Lernen. Wie viele andere KI-Chatbots bietet Grok die Möglichkeit, unter anderem Echtzeitsuche, Trendanalysen und eben Bildgenerierung durchzuführen.
Mehr zum Thema Cyber-Sicherheit
- Verbraucherzentrale warnt: Telekom-Kunden mit Fake-Mails getäuscht
- Kontodaten geklaut: „Quishing“ heißt die neue Betrugsmasche
- Mit VPN surfen: So können Reisende sich absichern
- Phishing-Angriff: Worüber Betroffene besser schweigen
- Trump stoppt Cyber-Einsätze gegen Russland
- 1,8 Millionen PCs mit unsicherem Windows-System
Die KI rückte in der vergangenen Woche in den Fokus der Berichterstattung, weil sie das Erstellen und Veröffentlichen von sexualisierten Deepfakes ermöglichte, so wie das Foto von Ebba Busch im Bikini, aber auch Abbildungen, auf denen Menschen in sexualisierter Pose dargestellt sind. Mittlerweile ist die Leistung verschiedener Programme wie Grok so gut, dass die manipulierten Fotos oder Videoaufnahmen kaum, und vor allem nicht auf den ersten Blick, von echten Inhalten zu unterscheiden sind. Fachleute gehen davon aus, dass die KI von Musk zeitweise mehrere Tausend manipulierte Fotos generierte, pro Stunde.
weitere Videos
Und: Inhalte auf X können sich schnell verbreiten, ohne dass Betroffene dies kontrollieren können. Die Debatte ist besonders brisant, weil unter anderem Minderjährige in sexualisierten Darstellungen auftauchen. Ein Alltagsfoto kann ohne die Zustimmung der Betroffenen und der Eltern manipuliert werden, und das kann schwerwiegende Folgen haben.
Was können die Folgen für die Betroffenen sein?
Laut der Bundeszentrale für politische Bildung wird bildbasierte sexualisierte Gewalt von vielen Opfern ähnlich erlebt wie ein körperlicher sexueller Übergriff. Solche Erfahrungen gehen oft mit schweren psychischen Belastungen einher und können dazu führen, dass sich Betroffene aus sozialen Beziehungen zurückziehen. Dahinter steht meist die Angst, dass Inhalte im privaten und beruflichen Umfeld auftauchen und soziale wie finanzielle Nachteile nach sich ziehen. Besonders Personen des öffentlichen Lebens wie Journalistinnen oder Politikerinnen können durch sexualisierte Deepfakes gezielt diskreditiert werden.
Montag, Mittwoch, Freitag
Hauptstadt Inside von Jörg Quoos, Chefredakteur der FUNKE Zentralredaktion
Hinter den Kulissen der Politik - meinungsstark, exklusiv, relevant.
Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.
Auch Josephine Ballon, Geschäftsführerin von HateAid gGmbH, berichtet vom Kontrollverlust der Opfer. Es handele sich um einen „massiven Eingriff in ihre Intimsphäre und Selbstbestimmung“. Die Fälle auf X würden deutlich zeigen, dass es nicht ausreiche, auf freiwillige Maßnahmen von Online-Plattformen zu hoffen, wenn es um die Bekämpfung von bildbasierter Gewalt im Internet geht. Sie berichtet: „Man geht davon aus, dass 95 Prozent der im Internet kursierenden Deepfakes sexualisiert sind, die meisten zeigen Frauen ohne ihr Einverständnis.“
Ich wurde unfreiwillig von Elon Musks Grok auf X ausgezogen.
Ebba Busch, Vize-Ministerpräsidentin Schwedens
„Es ist also keinesfalls überraschend, dass ein Tool zur Bildgenerierung genau zu diesem Zweck eingesetzt wird. X hätte das antizipieren müssen, scheint es aber genau darauf anzulegen.“ Den Grund dafür sieht Ballon in der hohen Interaktion und dem daraus folgenden Profit für die Plattform. HateAid gGmbH ist, laut eigener Aussage, die bundesweit erste Anlaufstelle für Betroffene digitaler Gewalt. Sie fordert, „dass auch die Erstellung sexualisierter Deepfakes strafbar wird“. Gerade erst ist sie ins Visier der US-Administration geraten.
Wie reagiert Musk auf die Vorwürfe zu Grok?
Der Druck auf Musk wächst. Die EU will gegen das Unternehmen vorgehen und fordert die Firma von Elon Musk auf, alle internen Dokumente zu Grok bis zum Ende des Jahres aufzubewahren. Die Europäische Kommission wolle prüfen, ob sich das Unternehmen an europäische Digitalgesetze halte.
Andere Staaten gehen weiter. Indonesien und Malaysia kündigten an, den Zugang zu Grok vorerst zu blockieren. Seit Sommer ermittelt auch die Pariser Staatsanwaltschaft wegen mutmaßlicher Holocaust-Leugnungen gegen die Software. Entsprechende Aussagen des Chatbots würden geprüft. Brisant ist zudem: Auch nach dem antisemitischen Attentat auf Jüdinnen und Juden am Bondi Beach in Sydney hatte die Musk-KI falsch berichtet, vertauschte offenbar Täter und Opfer.
Lesen Sie auch
So wächst auch in den USA der Druck auf Tech-Milliardär Musk. Der US-Bundesstaat Kalifornien hat eine Untersuchung gegen Grok eröffnet. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob Musks KI-Firma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat.
Drei Senatoren der Demokratischen Partei schrieben Briefe an die Vorstandschefs von Apple und Google und forderten sie auf, X und Grok aus ihrem Angebot zu entfernen. So soll sogar US-Vizepräsident JD Vance die Funktion der KI als „inakzeptabel“ kritisiert haben. So jedenfalls zitiert der britische Vizepremier den US-Politiker aus einem persönlichen Gespräch. Denn auch in Großbritannien steht eine Sperre zur Diskussion.
Musk reagiert nun, indem er die KI einschränkte. In Ländern, in denen solche Handlungen illegal sind, wurde die Funktion, Menschen in „Bikinis, Unterwäsche und ähnlicher Kleidung“ darzustellen, für alle Grok- und X-Nutzer „geografisch blockiert“, wie der Onlinedienst am Mittwoch erklärte. Das Sicherheitsteam von X erklärte, es seien „technische Maßnahmen“ ergriffen worden, „um zu verhindern, dass über das Grok-Konto Bilder von realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden können“. Diese Einschränkung gelte für „alle Nutzer, einschließlich zahlender Abonnenten“.
Zugleich schießt Musk gegen die Kritiker. Die britische Regierung etwa nannte er auf seiner Plattform X „faschistisch“ und warf ihr vor, sie wolle „freie Rede unterdrücken“. Und in seiner Heimat gehen nicht alle auf Distanz: Das US-Verteidigungsministerium will eben diese umstrittene KI in seine Arbeit integrieren.
Wie ist die Situation in Deutschland?
Der rechtliche Rahmen in Deutschland hängt bei KI-Themen bislang hinterher. Es gibt einige Gesetze, etwa die Datenschutzgrundverordnung (DSGVO), die sich mit der Verarbeitung von personenbezogenen Daten auseinandersetzen. Klare Grundsätze, wie in solchen Fällen zu handeln ist, gibt es jedoch nicht. Auch die Frage, ob die Plattform haftet und welche Rechte bestehen, ist bislang nicht eindeutig beantwortet.
Nun äußerte sich auch Bundesjustizministerin Stefanie Hubig (SPD) gegenüber der „Neuen Osnabrücker Zeitung“. Sie stellte klar, dass es bereits hohe Strafen gibt, die den Besitz und die Verbreitung kinderpornografischer Inhalte ahnden, und dass auch KI-generierte Bilder darunterfallen. Sie betont aber auch, dass diese Gesetze nicht ausreichen. Deshalb werde gerade an einem digitalen Gewaltschutzgesetz gearbeitet, um angemessene Strafen zu schaffen.
