El gigante estadounidense Meta, casa matriz de Facebook, Instagram y Threads, anunció este viernes que identificará cualquier contenido de imagen o audio generado por inteligencia artificial (IA) para reforzar la lucha contra la desinformación.
«Prevemos empezar a etiquetar en mayo de 2024 contenido generado por IA», indicó en su blog Monika Bickert, vicepresidenta de contenido de Meta, añadiendo que la mención «Made with AI» , que ya se usa en imágenes fotorrealistas, se aplicaría en adelante a «un mayor número de contenidos de video, audio y de imágenes».
Estos contenidos serán marcados por la plataforma si detecta «indicadores de imagen de IA conformes a las normas de la industria» o si «las personas indican que están subiendo contenidos generados por IA».
Además de las etiquetas visibles, estos contenidos serán marcados por la plataforma con una «marca de agua», una especie de «tatuaje» digital invisible.
«Un filtro es mejor que nada, aunque forzosamente habrá brechas», explicó a la AFP Nicolas Gaudemet, director de IA del gabinete de análisis francés Onepoint.
Google, Microsoft y OpenAI ya utilizan ese tipo de tecnología.
Después de consultar a su junta de supervisión, Meta modificará su forma de tratar los contenidos creados con la IA, ya que ahora considera que «la transparencia y un mayor contexto son la mejor manera de tratar los contenidos manipulados».
Con ello se evita «el riesgo de restringir innecesariamente la libertad de expresión».
En lugar de eliminarlos, como había estado haciendo hasta ahora, ahora agregará «etiquetas y contexto» a estos contenidos.
Sin embargo, advirtió Meta, cualquier contenido, ya sea creado por un humano o una IA, que viole sus reglas «contra la interferencia en procesos electorales, la intimidación, el acoso, la violencia (…) o cualquier otra política en nuestras normas comunitarias» será retirado.
– Una red de verificadores –
Meta reafirmó que confía en su red de «aproximadamente 100 verificadores de datos independientes» para detectar contenidos generados por IA «falsos o engañosos».
La empresa matriz de Facebook había anunciado en febrero su deseo de etiquetar todas las imágenes generadas por IA para luchar contra la desinformación.
«Dar un contexto» a las imágenes que se difunden en las rede sociales «es absolutamente necesario», explica Gaudemet, quien de todas formas se muestra cauto antes de saber cómo será la política de Meta al respecto.
Sus competidores Microsoft, Google u OpenAI habían asumido compromisos similares.
El temor es que las personas utilicen estas herramientas para sembrar el caos político, especialmente a través de la desinformación o la información errónea.
Hay varias elecciones importantes este año, especialmente en Estados Unidos, donde los falsos videos ya están circulando, tanto para atacar al presidente demócrata Joe Biden como al candidato republicano y ex presidente Donald Trump.
En Pakistán, el partido del ex primer ministro Imran Khan utilizó la IA para generar discursos de su líder, encarcelado.
Más allá de las citas electorales, el desarrollo de programas de IA generativa también ha conllevado la producción de un flujo de contenido degradante, según muchos expertos y reguladores, como las falsas imágenes («deepfakes») pornográficas de mujeres famosas, un fenómeno que también afecta a personas anónim
