Estas imágenes fueron generadas por la herramienta de inteligencia artificial Midjourney
Medjourney / Responder
Una imagen del Papa Francisco, el líder de la Iglesia Católica, con una gran chaqueta blanca acolchada se ha vuelto viral en las redes sociales en los últimos días. El Papa de 86 años se ve elegante, y muchas personas comentan sobre su ropa de moda. Solo hay un problema: la foto no es real.
Las imágenes de arriba fueron creadas por la inteligencia artificial de Midjourney, que produce imágenes basadas en mensajes de texto, y fueron publicadas en Reddit el 24 de marzo por un artista que se hace llamar u/trippy_art_special. Desde entonces, la cuenta del usuario ha sido suspendida, pero una foto (foto de la izquierda) se ha difundido desde entonces en Twitter, engañando a muchos.
¿Deberíamos preocuparnos? Ryan Broderick Experto en cultura web Llamar La imagen del Papa es “el primer caso real de desinformación de inteligencia artificial a nivel masivo”. Pero el problema se ha estado gestando durante algunas semanas, después de que una actualización de Midjourney mejorara enormemente la producción. A principios de marzo, las fotos de Medjourney haciendo un arresto similar del expresidente estadounidense Donald Trump se volvieron virales. Estas imágenes se generaron a partir de afirmaciones hechas por Eliot Higgins, fundador de Bellingcat, un grupo de periodismo de investigación.
“Creo que este es un ejemplo de un problema más amplio con la tecnología que se introduce en nuestras sociedades sin supervisión, regulación o estándares”, dice Eleanor Carmi de la City University London.
Los temores de falsificar la inteligencia artificial no son nuevos. Durante varios años, nos hemos enfrentado a la amenaza de imágenes falsas de rostros de personas, que fueron producidas por generaciones anteriores de IA entrenadas en cantidades más pequeñas de información, pero que a menudo tenían signos reveladores de fraude, como ojos borrosos u oídos borrosos. Midjourney todavía tiene problemas con las manos, a menudo añadiendo dedos adicionales, pero cuando se enfrenta a una imagen en la que las manos no son el centro de atención, como un papá de IA, la gente puede dejarse engañar.
También está la cuestión de la escala, dice Agnes Venema de la Universidad de Malta. El subreddit r/midjourney donde se publicaron las imágenes del Papa contiene otros ejemplos igualmente convincentes de imágenes generadas por IA producidas por sus 143 000 miembros, que incluyen una serie de fotografías que documentan un terremoto ficticio que azotó a Estados Unidos y Canadá en 2001. que inspiró su propia tradición. El pie de foto más votado en la publicación dice: “La gente en 2025 tendrá dificultades con la desinformación. La gente en 2100 no sabrá qué partes de la historia eran reales…”.
“Creo que el hecho de que tantas personas ahora tengan acceso a él, en cierto modo, es más democrático, significa, en cierto modo, que se han abierto las compuertas”, dice Venema. “Cuanto más real se vuelva y más personas tengan acceso, más cuidadosos seremos y mayor será el riesgo de que alguien actúe en este tipo de engaño”.
En última instancia, el rápido aumento de la IA significa que algunas interrupciones son inevitables. Se espera que pasemos a la revolución de la IA sin comprender completamente su impacto, lo que significa que necesitamos un mejor conocimiento de los medios sobre lo fácil que es crear y difundir imágenes falsas, dice Carmi. “La mayor parte de nuestra sociedad se ha quedado atrás, sin comprender cómo funcionan estas tecnologías, con qué fines y cuáles son las consecuencias”, dice.
Hilos: