Wie Meta’s Oversight Board gegen sexuelle Bilder von AI vorgeht

DasOversight Board von Meta ist erneut mit den Regeln des sozialen Netzwerks fürKI-generierte Inhalte konfrontiert. Das Gremium hat zwei Fälle akzeptiert, bei denen es um explizite Bilder von KI-generierten Personen des öffentlichen Lebens geht.

Die Fälle betreffen explizite Bilder von zwei Personen des öffentlichen Lebens

Meta hat Regeln, die Nacktheit auf Facebook und Instagram verbieten. DasOversight Board erklärte jedoch in einem Vermerk, dass es überprüfen möchte, ob„Metas Richtlinien und Durchsetzungspraktiken bei der Bekämpfung von expliziten KI-generierten Bildern wirksam sind„. KI-generierte Bilder von weiblichen Prominenten, Politikern und anderen Persönlichkeiten des öffentlichen Lebens sind zu einer immer prominenteren Form der Online-Belästigung geworden und haben zu einer Reihe von Vorschlägen für eine Regulierung geführt. Mit diesen beiden Fällen könnte das Oversight Board Meta dazu drängen, neue Regeln für den Umgang mit solchen Belästigungen auf seiner Plattform zu erlassen.

Das OversightBoard hat erklärt, dass es die Namen der beiden in die Fälle verwickelten Personen des öffentlichen Lebens nicht preisgeben wird, um weitere Belästigungen zu verhindern, obwohl es die Umstände der jeweiligen Beiträge beschrieben hat.

Der erste Fall betrifft einen Beitrag auf Instagram

Der erste Fall betrifft einen Beitrag auf Instagram, der einKI-generiertes Bild einer nackten indischen Frau zeigte. Der Beitrag wurde von einem Konto veröffentlicht, das „nur KI-generierte Bilder von indischen Frauen teilt“. Der Beitrag war Meta gemeldet worden, aber die Meldung wurde nach 48 Stunden geschlossen, ohne dass sie untersucht wurde. Derselbe Nutzer hatte gegen diese Entscheidung Berufung eingelegt, aber auch diese wurde ohne Prüfung geschlossen. Meta entfernte den Beitrag schließlich, nachdem der Nutzer beim Oversight Board Einspruch eingelegt hatte und das Board zustimmte, den Fall zu prüfen.

Der zweite Fall betrifft einen Facebook-Post

Der zweite Fall betrifft einen Facebook-Post in einer Gruppe, die sich mitKI-generierter Kunst beschäftigt. Der fragliche Beitrag zeigte „ein KI-generiertes Bild einer nackten Frau mit einem Mann, der ihre Brüste betatscht“. Die Frau sollte „einer amerikanischen Persönlichkeit des öffentlichen Lebens“ ähneln, deren Name auch in der Bildunterschrift des Beitrags genannt wurde. Der Beitrag wurde automatisch entfernt, da er zuvor markiert worden war und Metas interne Systeme ihn mit dem vorherigen Beitrag in Verbindung bringen konnten. Der Nutzer legte gegen die Entscheidung, den Beitrag zu entfernen, Einspruch ein, aber der Einspruch wurde „automatisch geschlossen“. Daraufhin wandte sich der Nutzer an das Oversight Board, das sich bereit erklärte, den Fall zu prüfen.

Das Ziel des Oversight Board und die Beteiligung von Meta

In einer Erklärung sagte die Ko-Vorsitzende des Oversight Board, Helle Thorning-Schmidt, dass das Board die beiden Fälle von verschiedenen Ländern aus angegangen sei, um etwaige Unterschiede in der Anwendung der Richtlinien von Meta zu beurteilen. „Wir wissen, dass Meta in einigen Märkten und Sprachen schneller und effektiver moderiert als in anderen„, sagte Thorning-Schmidt. „Anhand eines Falles aus den USA und eines Falles aus Indien wollen wir testen, ob Meta alle Frauen auf der Welt gleichermaßen schützt.“

Das Oversight Board bittet nun in den nächsten zwei Wochen um öffentliche Kommentare und wird seine Entscheidung in Kürze zusammen mit politischen Empfehlungen für Meta veröffentlichen. Ein ähnlicher Prozess, bei dem es um ein irreführendes Video von Joe Biden ging, führte kürzlich dazu, dass Meta sich verpflichtete, mehr KI-generierte Inhalte auf seiner Plattform zu kennzeichnen.