Desde la irrupción de las IA generativas, capaces de crear imágenes realistas a partir de unas pocas instrucciones de texto, son muchos los que están advirtiendo sobre el peligroso potencial de estas herramientas para generar bulos y fake news. 

Esto es precisamente lo que trataba de denunciar el humorista Justin T. Brown cuando utilizó Midjourney para crear una serie de imágenes fotorealistas de diversas personalidades políticas engañando a sus parejas.

Así figuras como Donald Trump, Barack Obama o Joe Biden aparecen retratadas en habitaciones de hotel manteniendo relaciones extramatrimoniales. Todo ello, claro, creado a golpe de prompts.

IMG_0120

Según cuenta Brown esta serie de imágenes, publicadas bajo el sugerente título de AI will revolutionize the blackmail industry (la IA reviolucionarrá la industria del chantaje), demuestra lo sumamente fácil que es usar estas tecnologías como un arma para dañar a otras personas. Asegura además que crear estas imágenes le llevó poco más de una hora.

“Para mostrar la verdadera amenaza potencia de las IA el proyecto tenía que ser una amenaza potencial en sí mismo, y para demostrarlo nada mejor que atacar a los hombres más poderosos de Washington”, explica Brown en unas declaraciones en la web de PetaPixel.

IMG_0119

Las imágenes se publicaron en un hilo de Reddit de Midjourney meses después de haberlas creado, y jamás se presentaron como si fueran reales. A pesar de eso los moderadores borraron de inmediato la publicación, y poco después Justin T. Brown recibió un aviso de Midjourney informándole de que estaba baneado de la plataforma.

Esto genera, según Brown, varios interrogantes. Por un lado demuestra que Midjourney tiene cierto control sobre lo que generan sus usuarios, pero no actuaron hasta que las imágenes salieron publicadas en Reddit, cuando llevaban meses creadas y ya podrían haber ocasionado muchos problemas a sus posibles víctimas. Por otro lado habría que preguntarse cuales son los criterios para regular el contenido, quién toma esas decisiones y en base a qué.

IMG_0122

En todo caso es más que evidente que urge un debate en profundidad sobre cómo regular el uso de las IA generativas. Y es que según un informe de The New York Times las imágenes generadas por inteligencia artificial ya están irrumpiendo con fuerza de cara a las próximas elecciones presidenciales de 2024. 

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.