BN
WorldAI Desk1 lượt xem

Videos falsos de IA sobre la guerra con Irán inundan las redes sociales

Durante el conflicto actual con Irán, las redes sociales se inundan de videos e imágenes falsas generadas por inteligencia artificial que simulan ataques ficticios a Tel Aviv y otras ubicaciones estratégicas. Expertos como Hany Farid y Shayan Sardarizadeh advierten que estas creaciones son cada vez más realistas y difíciles de detectar, acumulando millones de visitas en apenas dos semanas desde el inicio del conflicto. Aunque plataformas como X han anunciado nuevas políticas para sancionar la difusión de contenido generado por IA sin revelarlo, la moderación general sigue siendo insuficiente frente al volumen creciente de desinformación. La accesibilidad de las herramientas de IA ha permitido que estos engaños se propaguen más rápido que los esfuerzos de verificación de datos en un entorno polarizado. Los analistas recomiendan confiar en medios periodísticos confiables y verificar las fuentes antes de compartir información durante crisis globales para evitar ser engañados por la sofisticación tecnológica.

Ad slot

Durante el conflicto actual con Irán, las redes sociales se inundan de videos e imágenes falsas generadas por inteligencia artificial que simulan ataques ficticios a Tel Aviv y otras ubicaciones estratégicas.

El cambio en la desinformación digital

Tras la invasión rusa de Ucrania en 2022, las redes sociales se llenaron de falsificaciones burdas como imágenes retocadas con Photoshop o clips mal etiquetados. Sin embargo, este tipo de falsificaciones anticuadas se están extendiendo nuevamente durante el conflicto con Irán, pero ahora acompañadas de videos e imágenes fijas de alta calidad creados a medida con herramientas de IA accesibles.

Hace diez años, Hany Farid, profesor de la Universidad de California, Berkeley, señaló que había pocas falsificaciones que se desmentían rápidamente. Ahora advierte: "No solo es realista, sino que está dando sus frutos, y está dando sus frutos con fuerza. La gente lo cree y lo está amplificando".

Shayan Sardarizadeh, periodista senior de BBC Verify, declaró que la IA generativa se ha vuelto mucho más accesible en el último año. Esto permite crear videos e imágenes muy creíbles que parecen mostrar un incidente de guerra significativo difícil de detectar para el ojo inexperto.

Ejemplos de contenido falso viralizado

Los expertos han identificado múltiples casos de desinformación que han acumulado decenas de millones de visitas en las plataformas de redes sociales en casi dos semanas desde el inicio del conflicto. Algunos ejemplos incluyen:

  • Un video falso muestra una lluvia ficticia de misiles aterrizando en Tel Aviv, Israel.
  • Otro video falso muestra a personas en pánico huyendo de un supuesto ataque iraní a un aeropuerto de Tel Aviv.
  • Un tercer video falso supuestamente muestra a miembros de las fuerzas especiales estadounidenses capturados por tropas iraníes.
  • Imágenes falsas afirman mostrar una base militar estadounidense en Iraq y la embajada estadounidense en Arabia Saudita en llamas.
  • Una publicación vinculada al Gobierno iraní publicó una imagen satelital falsa que supuestamente muestra daños en una base militar estadounidense en Bahrein.
Ad slot

Moderación insuficiente y políticas de plataformas

A pesar de los esfuerzos diarios de desmitificación, aparecen nuevas falsificaciones más rápido de lo que se puede desmantelar. La plataforma de redes sociales X anunció la semana pasada medidas para combatir las falsificaciones de IA en tiempos de guerra. La directora de producto, Nikita Bier, anunció que si los usuarios creadores difunden videos de conflictos armados generados por IA sin revelar su origen, serán suspendidos del programa de pagos.

Sin embargo, Farid se muestra escéptico sobre la eficacia, ya que la gran mayoría de los usuarios no forman parte del programa de pago. Además, el chatbot Grok de X ha empeorado activamente el problema en algunos casos, diciendo erróneamente a los usuarios que buscan verificar los hechos que numerosas imágenes y videos creados por inteligencia artificial son reales.

Cómo evitar ser engañado

Farid afirmó que la rápida mejora en la calidad de las creaciones de IA significa que los consejos anteriores sobre cómo detectar falsificaciones ya no son útiles. Los humanos representados en el contenido actual de IA tienden a estar libres de errores cómicos como dedos de más.

Para mantenerse informado con precisión, se recomienda:

  • Optar por informarse a través de medios periodísticos confiables en lugar de consultar publicaciones de cuentas aleatorias.
  • Tomarse un momento para buscar en Internet antes de creer o compartir un video sensacionalista.
  • Observar si hay audio desincronizado con el video o características visuales que no corresponden al mundo real.
  • Verificar si algún desmentidor conocido o medio especializado ha abordado la veracidad del contenido.

Sardarizadeh afirmó que deberíamos entrenar nuestra vista para reconocer el material generado por IA lo mejor posible, aunque advirtió que detectar este contenido se está volviendo extremadamente difícil y pronto será aún más complicado.

Ad slot