Nicht erst seit dem Fall Fernandes beschäftigt sich die EU mit dem Thema künstlich erstellter Missbrauchsdarstellungen. Zwar geht es in den Vorwürfen der Schauspielerin nicht um solche – dennoch diskutiert durch ihren Fall angestoßen eine breite Öffentlichkeit über das Thema. Jetzt hat das Parlament in Brüssel beschlossen: Anwendungen, die solche Bilder und Videos mit wenigen Eingaben erstellen, werden verboten. Zumindest teilweise.
Montag, Mittwoch, Freitag
Hauptstadt Inside von Jörg Quoos, Chefredakteur der FUNKE Zentralredaktion
Hinter den Kulissen der Politik - meinungsstark, exklusiv, relevant.
Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.
Das Problem: Chatbots wie Grok oder andere Software können Bilder von Menschen so verändern, dass diese nackt oder in sexualisierten Posen dargestellt sind – ohne, dass die gezeigten Menschen ihre Einwilligung dazu gegeben haben. So werden vor allem Frauen und Kinder im Internet als sexualisierte Objekte missbraucht, ganz überwiegend von Männern.
Auch können Täter ganze Videoclips erstellen, die wie Pornografie anmuten, eigentlich aber Missbrauch in digitaler Form sind. Und das ohne großes Vorwissen über Bild- und Videobearbeitung – was die Verbreitung solcher Missbrauchsdarstellungen befeuert.
Sind die Missbrauchsdarstellungen erst einmal auf Plattformen hochgeladen oder in Chatgruppen, etwa bei WhatsApp oder vor allem Telegram, verteilt, ist es schier unmöglich, gegen deren Weiterverbreitung vorzugehen oder die Bilder zu löschen. Der Missbrauch geht weiter, ohne dass sich die Opfer nennenswert wehren können.
Verbot ist „dringlich geboten“
Das EU-Parlament will der Erstellung solcher Missbrauchsdarstellungen einen Riegel vorschieben. Die Abgeordneten stimmten am Donnerstag für ein Teilverbot von KI-Systemen, die sexualisierte Abbildungen realer Personen ermöglichen – außer die Person hat zugestimmt.
Das Verbot bezieht sich auf Anwendungen, die mit Künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung“ zeigen. Solche Bilder und Videos „schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre“, heißt es im Gesetzentwurf zur Begründung.
Ein ausdrückliches Verbot sei „dringend geboten“, argumentieren die Abgeordneten. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.
Auch interessant
Jegliches KI-System, das Material über Kindesmissbrauch erstellt, wird komplett verboten. Betreiber, die wirksame Sicherheitsmaßnahmen gegen den Missbrauch nachweisen können, sollen ausgenommen werden. Nun muss sich das Parlament noch mit dem Rat der EU auf die endgültige Ausgestaltung einigen. Die Mitgliedstaaten, die durch den Rat in die EU-Gesetzgebung eingebunden sind, haben sich grundsätzlich auch für ein Verbot ausgesprochen.
Bundesregierung will härtere Strafen für Täter
Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) in Kürze vorstellen will: Die EU ist für Regeln und Verbote für die Technologie zuständig, die Bundesregierung kümmert sich um härtere Strafen für die Täter, die pornografische Deepfakes erstellen. Hubig will Gesetzeslücken schließen, bislang ist das bloße Erstellen pornografischer Aufnahmen hierzulande nicht strafbar.
Auch interessant
Einem Entwurf zufolge soll das Erstellen und Verbreiten von Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden. Hubig hatte die Pläne vor dem Hintergrund des Falls der Schauspielerin Fernandes angekündigt.
Mit dem weitreichenden Verbot dieser „Nudifier“-Systeme beschloss das Parlament eine ganze Reihe von Gesetzesänderungen zu Künstlicher Intelligenz. Diese wurden von der EU-Kommission angestoßen. Vor allem soll die 2024 verabschiedete KI-Verordnung durch die Änderungen einfacher und wirksamer werden und der Wettbewerbsfähigkeit der Union dienen, argumentieren die EU-Institutionen. Verbraucherschützer befürchten weniger Schutz von persönlichen Daten. Die KI-Verordnung reguliert Plattformen und Anwendungen.
Anmerkung der Redaktion: In einer früheren Version dieses Artikels wurde ein falscher Zusammenhang zwischen Deepfake-Pornos und der Anzeige gegen Christian Ulmen suggeriert. Wir haben den Artikel entsprechend korrigiert.
mit AFP und KNA
