KI-Nacktfotos: Neue Zensurmaßnahmen wegen Politiker-Deepfakes?

In Brüssel beklagt man sich über angebliche sexualisierte KI-Bilder von Politikerinnen. Bei genauerem Blick auf die Erhebungsmethode zeigt sich jedoch: Die Zahl der als „betroffen“ bezeichneten Personen entspricht nicht der Zahl tatsächlich auffindbarer Nacktbilder. Auch bei den europäischen Abgeordneten wurden unterschiedliche Arten von Fundstellen erfasst.

Für die EU ist das vermeintliche Problem trotzdem ein willkommener Anlass für weitere Überwachungsmaßnahmen.

Was die Agora-Studien tatsächlich erfasst haben

Untersuchungen der deutschen Denkfabrik „Agora Digitale Transformation GmbH“ haben zahlreiche Politikerinnen als betroffen ausgewiesen. In einer ersten Erhebung wurden 147 Abgeordnete aus 22 EU-Ländern erfasst – darunter 138 Frauen.

Hinter dieser hohen Zahl verbergen sich allerdings unterschiedliche Kategorien von Fundstellen. Bei der Untersuchung wurden neben tatsächlich auffindbaren sexualisierten Darstellungen auch Webseiten und sogenannte Gateway-Seiten berücksichtigt, die zu entsprechenden Angeboten führten. Teilweise wurden zudem Hinweise auf entsprechende Inhalte erfasst, obwohl die konkreten Bilder selbst nicht mehr zugänglich waren.

Damit bedeutet die Bezeichnung „betroffen“ nicht in jedem Fall, dass ein frei zugängliches KI-Nacktfoto der jeweiligen Politikerin gefunden wurde.

Die häufig genannte Zahl von 147 betroffenen Abgeordneten darf daher nicht mit 147 nachgewiesenen KI-Nacktbildern gleichgesetzt werden. Die Untersuchungen erfassen vielmehr verschiedene Formen der digitalen Verbreitung sexualisierter Inhalte. Dazu gehören auch Seiten, auf denen entsprechende Bilder angeboten oder deren Erstellung beworben wird. Damit ist die Zahl der erfassten Personen größer als die Zahl jener Fälle, bei denen ein konkretes Bild unmittelbar überprüft werden konnte.

Auch EU-Abgeordnete untersucht

In einer zweiten Untersuchung wurden die 720 Abgeordneten des Europäischen Parlaments überprüft. Dabei wurden 50 Abgeordnete als betroffen erfasst. Der überwiegende Teil davon waren Frauen.

Auch hier wurden unterschiedliche Kategorien von Fundstellen berücksichtigt. Letztlich waren lediglich bei acht Personen tatsächlich verfügbare sexualisierte Bildmanipulationen unmittelbar auffindbar. Bei den übrigen Fällen handelte es sich demnach unter anderem um Verweise, Vermittlungsseiten oder andere Fundstellen.

Die Untersuchung sollte zeigen, in welchem Ausmaß Politikerinnen (und in geringerem Ausmaß auch Politiker) Ziel sexualisierter KI-Manipulationen werden. Gleichzeitig wurden unterschiedliche digitale Spuren berücksichtigt, die auf solche Inhalte oder deren Verbreitung hindeuten.

Der Fall Lena Schilling

Ein konkreter Fall betrifft die grüne EU-Abgeordnete Lena Schilling. Von ihr waren nach eigenen Angaben sexualisierte KI-Manipulationen im Internet aufgetaucht. Entsprechende Webseiten wurden gemeldet und die Inhalte anschließend entfernt. Schilling forderte gemeinsam mit anderen Grünen ein konsequenteres Vorgehen gegen sogenannte Nudifier-Angebote. Dabei handelt es sich um Anwendungen, die aus Fotos bekleideter Personen künstlich sexualisierte Darstellungen erzeugen können.

Forderungen nach härterem Vorgehen

Agora plädiert für weitreichende Maßnahmen gegen die Herstellung und Verbreitung nicht einvernehmlicher sexueller Deepfakes – von Einschränkungen bestimmter KI-Anwendungen und automatisierten Löschungen bis hin zu strengeren Pflichten für Hostinganbieter, Zahlungsdienste und App-Stores.

Auch eine persönliche Haftung von Führungskräften sowie die Strafbarkeit bereits der Herstellung solcher Inhalte sollen geprüft beziehungsweise ermöglicht werden. Behörden und eine neue EU-Durchsetzungsstelle sollen die Einhaltung überwachen.

Im Zuge der Debatte werden strengere Regeln für Anbieter solcher Anwendungen gefordert. Im Mittelpunkt stehen schnellere Löschungen, strengere Verpflichtungen für Plattformen und eine stärkere Verantwortung der Unternehmen, die entsprechende Technologien anbieten.

Auch Hostinganbieter, Zahlungsdienstleister und App-Stores könnten stärker in die Verantwortung genommen werden. Die europäische Regulierung soll zudem den Umgang mit sogenannten Nudifier-Anwendungen verschärfen. Für die Durchsetzung entsprechender Regeln sind auch die nationalen Behörden gefordert.

Grundrechte in Gefahr

Das bringt erhebliche grundrechtliche Risiken mit sich: Weitreichende Präventions- und Löschpflichten könnten dazu führen, dass auch legale Inhalte vorsorglich entfernt werden.

Unklar ist zudem, wie Behörden die private Herstellung solcher Bilder auf Smartphones oder Computern kontrollieren wollten, ohne tief in die Privatsphäre einzugreifen. Zu befürchten ist außerdem, dass Unternehmen aus Angst vor Strafen im Zweifel weitreichend sperren. Gefordert werden unter anderem automatisierte Erkennungssysteme und schnellere Löschverfahren. Solche Maßnahmen könnten zu weitreichenden Eingriffen in die Kontrolle digitaler Inhalte führen.

Finanzierung und politische Verbindungen

Auch die Finanzierung und personellen Verbindungen von Agora sind bemerkenswert. Die Stiftung erhielt 8,6 Millionen Euro von ihrem Eigentümer, der linken Mercator-Stiftung, sowie mindestens 1,2 Millionen Euro öffentliche Fördermittel aus Deutschland.

Geschäftsführer Stefan Heumann wurde 2018 von der Bundestagsfraktion der Grünen als Sachverständiger für die Enquete-Kommission „Künstliche Intelligenz“ nominiert.

ORF übernimmt Zahlen kritiklos

Auch die Berichterstattung des ORF über die Agora-Studien sorgt für Kritik. Am 28. September titelte ORF.at: „147 Abgeordnete von sexualisierten KI-Deepfakes betroffen“.

Bei genauer Betrachtung der Studie ist diese Darstellung jedoch verkürzt. Die Untersuchung unterschied verschiedene Kategorien von Fundstellen; unter anderem wurden nur 38 Fälle als aktive Darstellungen klassifiziert. Auch mögliche klassische Bildmanipulationen wurden nicht entsprechend herausgearbeitet. Stattdessen übernahm der ORF die Gesamtzahl und die daraus abgeleiteten politischen Forderungen ohne Auseinandersetzung mit der Methodik.

Auch ein weiterer ORF-Beitrag vom 6. Oktober steht in der Kritik. Unter dem Titel „Frauen zunehmend eingeschüchtert im Netz“ wurde der Eindruck vermittelt, eine Studie habe untersucht, ob Frauen sich zunehmend aus Angst aus sozialen Medien zurückziehen.

Tatsächlich befasste sich die zugrunde liegende Untersuchung mit Frauen und Männern unter den Abgeordneten des Europäischen Parlaments. Eine Entwicklung, wonach „immer mehr Frauen“ eingeschüchtert seien oder sich deshalb aus sozialen Netzwerken zurückzögen, wurde darin nicht untersucht.

Auffälliger zeitlicher Ablauf

Auffällig ist zudem der zeitliche Ablauf der Veröffentlichungen.

Die Grünen veröffentlichten ihre erste Stellungnahme zur Agora-Studie am 28. September um 17:25 Uhr. Bereits um 18:29 Uhr erschien der entsprechende ORF-Onlinebericht. Bei der zweiten Veröffentlichung veröffentlichten die Grünen ihre Aussendung am 5. Oktober um 16:56 Uhr; der ORF-Bericht „Abgeordnete zunehmend Opfer sexualisierter KI-Gewalt“ folgte um 19:21 Uhr. Der Ablauf könnte Hinweise auf eine enge kommunikative Abstimmung geben.

Auch der ORF-„ZIB“-Beitrag vom 6. Oktober verband die Deepfake-Debatte mit einer Umfrage des Deutschen Frauenrats. In der Berichterstattung wurde zudem auf bevorstehende EU-Regeln und mögliche weitere gesetzgeberische Schritte in Österreich verwiesen. Damit wurde die Debatte über sexualisierte KI-Manipulationen zugleich mit weitergehenden politischen Forderungen nach Regulierung verknüpft.

Damit kümmert sich Brüssel vor allem ein weiteres Mal um ein Randthema, während Formen von echter Angst und Unsicherheit von Frauen im öffentlichen Raum in der Berichterstattung kaum Aufmerksamkeit erhalten.