EU einigt sich auf Verbot von KI-Tools für sexualisierte Deepfakes
KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden, sollen in der EU künftig verboten werden. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich dazu auf Änderungen des KI-Gesetzes.
Die politische Einigung muss noch vom Plenum des EU-Parlaments und vom Rat der Mitgliedstaaten bestätigt werden. Nach der Zustimmung soll das Verbot ab 2. Dezember 2026 vom vor zwei Jahren geschaffenen Europäischen KI-Amt durchgesetzt werden. Parallel werden weitere Vorschriften des KI-Gesetzes vereinfacht, um das wirtschaftliche Potenzial von Künstlicher Intelligenz in Europa zu stärken.
Deepfakes sind manipulierte Inhalte, bei denen etwa Gesichter in andere Videos eingefügt oder Stimmen künstlich nachgeahmt werden, sodass Handlungen oder Aussagen entstehen, die nie stattgefunden haben. Das neue Verbot soll auch das Erstellen von Inhalten erfassen, die sexuellen Kindesmissbrauch darstellen. Durch die Weiterentwicklung von KI-Technologie ist die Erstellung täuschend echter Bilder, Videos und Audiodateien deutlich einfacher geworden.
Auf EU-Ebene rückte das Thema Ende vergangenen Jahres in den Fokus, als Nutzer den KI-Chatbot Grok der von Elon Musk geführten US-Firma anweisen konnten, Frauen auf ausgewählten Bildern zu „entkleiden“. Nachdem die Firma die Funktion eingeschränkt hatte, entschuldigte sich der Chatbot an Silvester dafür, ein Bild von zwei Mädchen im Teenageralter „in sexualisierten Outfits“ erstellt zu haben. Ende März erhielt die Debatte über sexualisierte digitale Gewalt neue Aufmerksamkeit, als Collien Fernandes ihrem Ex-Mann Christian Ulmen vorwarf, in ihrem Namen Fake-Profile erstellt und darüber pornografische Inhalte verbreitet zu haben; für Ulmen gilt die Unschuldsvermutung.
Bereits geltende EU-Regeln sehen vor, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten manipulierten Materials sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll. Die entsprechende Richtlinie gilt seit Mai 2024, wurde aber in vielen Staaten noch nicht in nationales Recht umgesetzt. Das neue Verbot im KI-Gesetz zielt nun unmittelbar auf die betreffenden Anwendungen selbst, nicht nur auf die Taten der Nutzer. Verhandlungsteilnehmer betonen, dass die Bearbeitung und Erstellung von Bildern insgesamt nicht übermäßig eingeschränkt werden soll.
Das Gesetz soll genau festlegen, was als sexualisierter Inhalt gilt. Nicht-einvernehmliche Bikini-Bilder, wie sie Grok generierte und die auf X verbreitet wurden, könnten demnach weiterhin erlaubt sein. Ursprünglich hatte die EU-Kommission die Änderung des KI-Gesetzes vorgeschlagen, um Unternehmen, insbesondere aus der KI-Branche, zu entlasten. Firmen verlangten jedoch mehr Zeit, um die strengeren Vorgaben umzusetzen; diese Fristen werden nun verlängert.
Bestimmungen, die das Europäische KI-Amt zunächst ab August anwenden sollte, gelten für Anbieter von Diensten wie ChatGPT und Claude nun erst ab Dezember 2026. Spätestens dann müssen sie KI-generierte Inhalte deutlich kennzeichnen und etwa Bilder und Videos mit Wasserzeichen versehen. Weitere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen. Politikerinnen und Politiker verschiedener Parteien begrüßten die Einigung. Die SPÖ-Abgeordnete Elisabeth Grossmann erklärte, Frauen müssten auch digital vor Gewalt geschützt werden und Deepfakes seien Gewalt. Sophia Kircher (ÖVP) verwies auf konkrete Folgen sexualisierter Online-Gewalt für Betroffene. Die Grünen-Abgeordnete Lena Schilling zeigte sich erleichtert, dass der von den Grünen eingebrachte Vorschlag für ein Verbot der entsprechenden Apps in den Verhandlungen übernommen wurde.
Einordnung
Mit dem Verbot von KI-Anwendungen zur Erstellung sexualisierter Deepfakes verschiebt die EU den Schwerpunkt von der strafrechtlichen Verfolgung einzelner Taten hin zur Regulierung der zugrunde liegenden Werkzeuge. Gleichzeitig erhalten Unternehmen längere Übergangsfristen, um Kennzeichnungspflichten und technische Anpassungen umzusetzen. Dadurch entstehen für Anbieter klare Anforderungen für KI-Dienste, während Betroffene sexualisierter digitaler Gewalt zusätzliche Schutzmechanismen erhalten.
