Anzeige für KI-Bearbeitungs-App, die sagte, sie könne „alles entfernen“, verboten

<h1>Anzeige für KI-Bearbeitungs-App, die behauptete, sie könne „alles entfernen“, verboten</h1>
<p>Eine Anzeige für ein Video- und Bildbearbeitungstool, die den Eindruck erweckte, dass Betrachter digital die Kleidung einer Frau entfernen könnten, wurde von der britischen Werbeaufsichtsbehörde verboten.</p>
<p>Die YouTube-Anzeige für PixVideo - AI Video Maker, die im Januar geschaltet wurde, zeigte ein „Vorher“- und „Nachher“-Bild einer jungen Frau, wobei auf dem ersteren ein rotes Kritzeln über ihrem Bauch lag und auf dem letzteren Teile ihrer nackten Haut freigelegt waren.</p>
<p>Text am unteren Bildrand lautete: „Erase anything“ gefolgt von einem Herzaugen-Emoji.</p>
<p>Acht Personen beschwerten sich bei der Advertising Standards Authority (ASA), dass die Anzeige Frauen sexualisierte und objektivierte und unverantwortlich, beleidigend und schädlich sei.</p>
<p>Es ist nicht klar, ob das Bild in der Anzeige von einer realen Person stammt oder selbst KI-generiert ist. Die ASA teilte der BBC mit, dass die Beurteilung dieser Frage nicht Teil ihrer Untersuchung gewesen sei.</p>
<p>Die Regulierungsbehörde sagte, dass PixVideo seinen Nutzern nicht erlaube, Kleidung von digitalen Bildern zu entfernen, um sexuell explizite Inhalte zu erstellen, aber dass Betrachter den Eindruck gewinnen könnten, dass dies der Fall sei.</p>
<p>„Da die Anzeige den Eindruck erweckte, dass Betrachter eine App verwenden könnten, um die Kleidung einer Frau zu entfernen, betrachteten wir dies als Duldung der digitalen Veränderung und Entblößung von Frauenkörpern ohne deren Zustimmung“, sagte die Agentur in einer Erklärung.</p>
<p>Sie fügte hinzu, dass die Anzeige „unverantwortlich war, einen schädlichen Gender-Stereotyp enthielt und wahrscheinlich zu schwerer Beleidigung führte“.</p>
<p>Saeta Tech, dem PixVideo gehört, sagte, es verstehe, warum die Anzeige Anstoß erregen könnte, schob dies aber auf ihre Präsentation und Botschaft und nicht auf die beabsichtigte Verwendung seines Produkts.</p>
<p>Es sagte, dass die Erstellung nackter oder sexuell expliziter Inhalte verboten sei und dass es automatisierte Erkennungs- und Blockierungstools gebe, um die Generierung solcher Bilder zu verhindern.</p>
<p>Das Unternehmen hat zugestimmt, die Anzeige nicht erneut zu schalten, und alle Werbeaktivitäten pausiert, während es eine interne Überprüfung durchführt.</p>
<p>Das Thema Apps, die Frauen und Mädchen ohne deren Zustimmung „entkleiden“, schlug im Januar hohe Wellen, als Elon Musks Chatbot Grok verwendet wurde, um X mit sexualisierten Bildern zu überschwemmen.</p>
<p>Nach einer globalen Gegenreaktion blockierte Musk anschließend <a href="https://www.bbc.co.uk/news/articles/ce8gz8g2qnlo">Grok</a> von der Generierung solcher Bilder in Gerichtsbarkeiten, in denen dies illegal ist, aber X sieht sich weltweit immer noch <a href="https://www.bbc.co.uk/news/articles/clye99wg0y8o">Untersuchungen</a> und <a href="https://www.bbc.co.uk/news/articles/cgk2lzmm22eo">Klagen</a> gegenüber.</p>
<p>Die britische Regierung kündigte im Dezember an, dass sie die Erstellung und Lieferung von KI-Tools, die es Nutzern ermöglichen, Bilder so zu bearbeiten, dass scheinbar die Kleidung einer Person entfernt wird, illegal machen würde.</p>
<p>Die neuen Straftaten werden auf bestehenden Regeln zu sexuell expliziten Deepfakes und dem Missbrauch intimer Bilder aufbauen.</p>
<p><a href="https://www.bbc.co.uk/newsletters/zxh6cxs">Melden Sie sich für unseren Tech Decoded Newsletter an</a>, um die Top-Tech-Nachrichten und -Trends der Welt zu verfolgen. <a href="https://cloud.email.bbc.com/techdecoded-newsletter-signup">Außerhalb des Vereinigten Königreichs? Melden Sie sich hier an</a>.</p>