Imágenes falsas y explícitas de Taylor Swift comenzaron en 4chan, según un estudio

6 min read


Las imágenes de Taylor Swift que habían sido generadas por inteligencia artificial y se habían difundido ampliamente en las redes sociales a finales de enero probablemente se originaron como parte de un desafío recurrente en uno de los foros de mensajes más notorios de Internet, según un nuevo informe.

Graphika, una firma de investigación que estudia la desinformación, rastreó las imágenes hasta una comunidad en 4chan, un foro de mensajes conocido por compartir discursos de odio, teorías de conspiración y, cada vez más, contenido racista y ofensivo creado con inteligencia artificial.

Las personas de 4chan que crearon las imágenes de la cantante lo hicieron en una especie de juego, dijeron los investigadores: una prueba para ver si podían crear imágenes lascivas (y a veces violentas) de figuras femeninas famosas.

Las imágenes sintéticas de Swift se extendieron a otras plataformas y fueron vistas millones de veces. Los fanáticos se unieron en defensa de la Sra. Swift y los legisladores exigieron protecciones más fuertes contra las imágenes creadas por IA.

Graphika encontró un hilo de mensajes en 4chan que animaban a las personas a intentar evadir las salvaguardas establecidas por las herramientas generadoras de imágenes, incluidas DALL-E de OpenAI, Microsoft Designer y Bing Image Creator. Se pidió a los usuarios que compartieran «consejos y trucos para encontrar nuevas formas de evitar los filtros» y se les dijo: «Buena suerte, sean creativos».

Compartir contenido desagradable a través de juegos permite a las personas sentirse conectadas con una comunidad más amplia y están motivadas por el prestigio que reciben por participar, dijeron los expertos. Antes de las elecciones de mitad de período de 2022, grupos en plataformas como Telegram, WhatsApp y Truth Social se embarcaron en una búsqueda de fraude electoral, obtención de puntos o títulos honoríficos por presentar supuestas pruebas de mala conducta electoral. (Las pruebas verdaderas de fraude electoral son excepcionalmente raras).

En el hilo de 4chan que condujo a las imágenes falsas de la Sra. Swift, varios usuarios recibieron elogios (“hermosa gen anon”, escribió uno) y se les pidió que compartieran el lenguaje utilizado para crear las imágenes. Un usuario lamentó que un mensaje produjera una imagen de una celebridad vestida con un traje de baño en lugar de desnuda.

Las reglas publicadas por 4chan que se aplican en todo el sitio no prohíben específicamente imágenes sexualmente explícitas de adultos reales generadas por IA.

“Estas imágenes se originaron en una comunidad de personas motivadas por el ‘desafío’ de eludir las salvaguardas de los productos de IA generativa, y las nuevas restricciones se ven como un obstáculo más para la ‘derrota’”, dijo Cristina López G., analista senior de Graphika, dijo en un comunicado. «Es importante comprender la naturaleza gamificada de esta actividad maliciosa para evitar mayores abusos en la fuente».

Swift está “lejos de ser la única víctima”, dijo López G. En la comunidad de 4chan que manipuló su imagen, muchas actrices, cantantes y políticos aparecieron con más frecuencia que la Sra. Swift.

OpenAI dijo en un comunicado que las imágenes explícitas de la Sra. Swift no fueron generadas usando sus herramientas, señalando que filtra el contenido más explícito cuando entrena su modelo DALL-E. La compañía también dijo que utiliza otras barreras de seguridad, como rechazar solicitudes que soliciten el nombre de una figura pública o busquen contenido explícito.

Microsoft dijo que estaba «continuando investigando estas imágenes» y agregó que había «reforzado nuestros sistemas de seguridad existentes para evitar aún más que nuestros servicios sean utilizados indebidamente para ayudar a generar imágenes como estas». La empresa prohíbe a los usuarios utilizar sus herramientas para crear contenido íntimo o para adultos sin consentimiento y advierte a los infractores reincidentes que pueden ser bloqueados.

La pornografía falsa generada con software ha sido una plaga desde al menos 2017, afectando a celebridades involuntarias, figuras gubernamentales, transmisores de Twitch, estudiantes y otros. La regulación irregular deja a pocas víctimas con recursos legales; aún menos tienen una base de seguidores devotos que puedan ahogar las imágenes falsas con publicaciones coordinadas sobre “Protege a Taylor Swift”.

Después de que las imágenes falsas de Swift se volvieran virales, Karine Jean-Pierre, secretaria de prensa de la Casa Blanca, calificó la situación de “alarmante” y dijo que la aplicación laxa de sus propias reglas por parte de las empresas de redes sociales afectaba desproporcionadamente a mujeres y niñas. Dijo que el Departamento de Justicia había financiado recientemente la primera línea de ayuda nacional para personas víctimas de abuso sexual basado en imágenes, que el departamento describió como una satisfacción de una “necesidad creciente de servicios” relacionada con la distribución de imágenes íntimas sin consentimiento. SAG-AFTRA, el sindicato que representa a decenas de miles de actores, calificó las imágenes falsas de Swift y otros como un “robo de su privacidad y su derecho a la autonomía”.

También se han utilizado versiones generadas artificialmente de la Sra. Swift para promover estafas relacionadas con los utensilios de cocina de Le Creuset. Se utilizó IA para hacerse pasar por la voz del presidente Biden en llamadas automáticas para disuadir a los votantes de participar en las elecciones primarias de New Hampshire. Los expertos en tecnología dicen que a medida que las herramientas de inteligencia artificial se vuelven más accesibles y fáciles de usar, se podrían crear parodias de audio y videos con avatares realistas en cuestión de minutos.

Los investigadores dijeron que la primera imagen de IA sexualmente explícita de la Sra. Swift en el hilo de 4chan apareció el 6 de enero, 11 días antes de que aparecieran en Telegram y 12 días antes de que aparecieran en X. 404 Media informó el 25 de enero que Las imágenes virales de Swift habían saltado a las principales plataformas de redes sociales de 4chan y un grupo de Telegram dedicado a imágenes abusivas de mujeres. La organización de noticias británica Daily Mail informó esa semana que un sitio web conocido por compartir imágenes sexualizadas de celebridades publicó las imágenes de Swift el 15 de enero.

Durante varios días, X bloqueó las búsquedas de Taylor Swift «con mucha precaución para poder asegurarnos de que estábamos limpiando y eliminando todas las imágenes», dijo Joe Benarroch, jefe de operaciones comerciales de la compañía.



Source link

You May Also Like

More From Author

+ There are no comments

Add yours