Meta anunció un nuevo enfoque para identificar y etiquetar contenido generado por inteligencia artificial en sus redes sociales, como Facebook, Instagram y Threads.
Ahora, Meta etiquetará automáticamente las imágenes fotorrealistas creadas con su función «Meta AI», permitiendo a los usuarios saber a simple vista si una imagen ha sido creada por inteligencia artificial o por un humano.
Específicamente, cuando se creen imágenes fotorrealistas con esta función, Meta colocará marcadores visibles en las imágenes, así como marcas de agua invisibles y metadatos incrustados dentro de la imagen. Estas medidas ayudarán a identificar el contenido de inteligencia artificial, incluso si se ha compartido en diferentes plataformas o se ha modificado de alguna manera.
Meta también dijo que, en los próximos meses, comenzará a etiquetar las fotografías generadas por IA realizadas con herramientas de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
La compañía de Mark Zuckerberg agregó que comenzará a exigir que sus usuarios revelen cuándo realicen publicaciones de video o audio generados con inteligencia artificial. Quienes no lo hagan, serán sancionados e incluso podrían ser baneados de las plataformas de Meta.
La industria tecnológica colabora en conjunto para lidiar con el contenido creado mediante inteligencia artificial
Meta reconoce que la responsabilidad en el desarrollo de la IA es un esfuerzo colectivo. Por ello, está trabajando con otras empresas en el Partnership on AI (PAI) para desarrollar mejores prácticas para la IA generativa.
Adobe lanzó recientemente el sistema Content Credentials que coloca información de procedencia del contenido en los metadatos de las imágenes. Google también extendió su marca de agua SynthID a archivos de audio, después de lanzarla en versión beta para imágenes. A finales del año pasado, YouTube anunció que los creadores de contenido en deberán revelar cuando usen inteligencia artificial en sus videos.
Si bien se han logrado avances significativos en la detección de contenido generado por inteligencia artificial, no todo puede detectarse con la tecnología actual.
Para abordar este problema, Meta dice que está desarrollando clasificadores que detecten automáticamente contenido de inteligencia artificial sin marcadores. Además, la compañía también trabaja en tecnologías de marcas de agua invisibles más robustas para dificultar su eliminación o alteración.
