Nunca ha sido más fácil cRecrea imágenes que parecen sorprendentemente realistas pero que en realidad son falsas.
Cualquiera con conexión a internet y acceso a una herramienta que utiliza inteligencia artificial (IA) puede crear imágenes realistas en cuestión de segundosy luego pueden publicarlo en las redes sociales a una velocidad vertiginosa.
En los últimos días, han aparecido muchas fotos de este tipo. Se volvió viral: Vladimir Putin aparentemente fue atrapado o Elon Musk pegado a la directora ejecutiva de GM, Mary Barra, por nombrar algunos.
el problema es que bAmbas imágenes de IA muestran eventos que nunca sucedieron. hasta Paparazzi publicó selfies que resultaron ser imágenes generadas por IA.
Y si bien algunas de estas imágenes pueden resultar divertidas, también pueden presentar riesgos reales en términos de desinformación y propaganda, según los expertos consultados por DW.
Un terremoto nunca sucedió
Imágenes que muestran el arresto de políticos como el presidente ruso Vladimir Putin o El expresidente estadounidense Donald Trump Los usuarios pueden verificarlos con bastante rapidez si verifican fuentes de medios confiables.
Otras imágenes son más difíciles, como una en la que las personas de la imagen no son reconocibles, dijo a DW el experto en inteligencia artificial Henry Ader.
Un ejemplo: el miembro del Parlamento del Partido Alternativo alemán de extrema derecha a Imagen generada por IA de hombres gritando en su cuenta de Instagram para demostrar que está en contra de la llegada de refugiados.
Y según Ajder, no son solo las imágenes de personas generadas por IA las que pueden difundir información errónea.
Él dice que hay ejemplos de usuarios que crean eventos que nunca sucedieron.
Tal fue el caso del poderoso terremoto que supuestamente sacudió el noroeste del Pacífico de los Estados Unidos y Canadá en 2001.
Pero este terremoto nunca sucedió, y Imágenes compartidas en Reddit Creado por inteligencia artificial.
Y según Ader, esto puede ser un problema. «Si está creando un paisaje en lugar de un retrato de un ser humano, puede ser difícil de detectar», explica.
Sin embargo, las herramientas de IA cometen errores, incluso si evolucionan rápidamente. Actualmente, a partir de abril de 2023, programas como Midjourney, Dall-E y DeepAI sufren fallas, especialmente con imágenes que muestran personas.
El equipo de verificación de hechos de DW ha reunido algunas sugerencias que pueden ayudarlo a determinar si una foto es falsa. Pero una advertencia inicial: las herramientas de IA están evolucionando tan rápido que este consejo solo refleja el estado actual de las cosas.
1. Acércate y mira detenidamente
Muchas imágenes generadas por IA parecen reales a primera vista.
Es por eso que nuestra primera sugerencia es mirar de cerca la imagen. para hacer esto, Encuentre la imagen en la resolución más alta posible y luego amplíe los detalles.
Ampliar la imagen revelará inconsistencias y errores que pueden no haberse detectado a primera vista.
2. Encuentra la imagen fuente
Si no está seguro de si la imagen es real o generada por IA, intente encontrar su fuente.
Es posible que pueda ver información sobre dónde se publicó la foto por primera vez al leer los comentarios que otros usuarios publicaron debajo de la foto.
O puede hacer una búsqueda inversa de imágenes. Para ello, sube la imagen a herramientas como Google Image Reverse Search, TinEye o Yandex, y puede encontrar la fuente original de la imagen.
Los resultados de estas búsquedas también pueden mostrar enlaces a verificaciones de hechos realizadas por medios acreditados que brindan contexto adicional.
3. Presta atención a las proporciones del cuerpo
¿Las personas de la foto tienen las proporciones corporales correctas?
No es raro que las imágenes generadas por IA muestren inconsistencias cuando se trata de proporciones. Las manos pueden ser demasiado pequeñas o los dedos demasiado largos. O que la cabeza y los pies no coincidan con el resto del cuerpo.
Tal es el caso de la foto de arriba, que se supone que es de Putin. Se arrodilló frente a Xi Jinping. Los zapatos de la persona arrodillada son desproporcionadamente grandes y anchos. La pantorrilla parece alargada. La cabeza medio cubierta también es muy grande y desproporcionada con el resto del cuerpo.
Más información sobre esta falsificación en nuestra verificación de hechos dedicada.
4. Cuidado con los errores típicos de la IA
Las manos son actualmente la principal fuente de errores en el software de imágenes de IA, como Midjourney o DALL-E.
sLas personas a menudo tienen un sexto dedo, como el policía a la izquierda de Putin en nuestra foto de arriba.
o también en Estas son fotos del Papa Francisco, que quizás hayas visto.
¿Pero te diste cuenta de que el Papa Francisco solo parece tener cuatro dedos en la foto de la derecha? ¿Y notaste que sus dedos izquierdos son inusualmente largos? Estas fotos son falsas.
Otros errores comunes en las imágenes generadas por IA incluyen personas con muchos dienteso Los marcos de las gafas están extrañamente deformados.u orejas con formas poco realistas, como en la mencionada foto falsa de Xi y Putin.
Las superficies que reflejan, como las viseras de los cascos, también causan problemas a los programas de IA, y a veces parecen desintegrarse, como en el caso del presunto arresto de Putin.
Henry es un experto en inteligencia artificial. Sin embargo, Ajder advierte que las versiones más nuevas de programas como Midjourney están mejorando en la generación de manos, lo que significa que los usuarios no podrán confiar mucho más en detectar este tipo de errores.
5. ¿La imagen se ve artificial y suave?
solicitud Midjourney, en particular, crea muchas imágenes que parecen demasiado buenas para ser verdad.
Siga su instinto aquí: ¿Podría esta imagen perfecta con personas impecables realmente ser real?
«Los rostros son muy puros y los textiles expuestos son muy armoniosos», explica a DW Andreas Dingel, del Centro Alemán de Investigación de Inteligencia Artificial.
La piel de los sujetos en muchas imágenes de IA suele ser suave y sin irritación, e incluso su cabello y dientes están impecables. Este no suele ser el caso en la vida real.
Muchas imágenes también tienen un aspecto artístico, brillante y brillante que es difícil de lograr para los fotógrafos profesionales en la fotografía de estudio.
Las herramientas de IA a menudo parecen crear imágenes perfectas que se supone que son perfectas y satisfacen a la mayor cantidad de personas posible.
6. Verificación de antecedentes
El fondo de una foto a menudo revela si ha sido manipulada.
Aquí también, las cosas pueden aparecer distorsionadas; por ejemplo, Postes de alumbrado público.
En algunos casos, los programas de IA clonan personas y objetos y los usan dos veces. No es raro que el fondo de las imágenes de IA esté borroso.
Pero incluso esta ofuscación puede contener errores. Como el ejemplo anterior, que pretende mostrar a un Will Smith enojado en los Premios de la Academia. El fondo no solo está desenfocado, sino que se ve artificialmente borroso.
Conclusión
Muchas imágenes generadas por IA todavía existen hoy Exponer con un poco de investigación. Pero la tecnología está mejorando y es probable que los errores se vuelvan más raros en el futuro. Poder Detectores de IA como Hugging Face ¿Ayudarnos a detectar la manipulación?
Según nuestros hallazgos, los detectores brindan pistas, pero nada más que eso.
Los expertos que entrevistamos tienden a desaconsejar su uso, diciendo que las herramientas no están lo suficientemente desarrolladas. Incluso las fotos originales fueron declaradas falsas y viceversa.
Por lo tanto, en caso de duda, lo mejor que pueden hacer los usuarios para diferenciar entre eventos reales y falsos es usar el sentido común, confiar en medios de buena reputación y evitar compartir imágenes.
«Típico pionero de la cerveza. Aficionado a la web amigable con los hipsters. Fanático certificado del alcohol. Adicto a Internet. Exasperantemente humilde amante de los zombis».