A principios de esta semana, Meta anunció dos nuevos productos de IA, a saber, Muse Picture y Muse Video. Como sugiere el nombre, se trata de herramientas de inteligencia synthetic generativa para crear fotografías y videoclips utilizando indicaciones de texto en lenguaje pure. Poco después de que comenzara su lanzamiento, estas herramientas generaron controversia porque Meta había optado automáticamente por los usuarios de Instagram, permitiendo a otros usar sus medios publicados públicamente y convertirlos en contenido de IA remezclado. Pero parece que Meta sufrió otra pérdida en su lado de la cancha.
¿Cuál es el problema?
Además de sus nuevas herramientas de inteligencia synthetic, Meta introdujo algo llamado Content material Seal, que sirve como un sistema de marca de agua invisible. Técnicamente, todas las imágenes creadas por Muse Picture AI llevan una señal oculta que puede usarse para identificar si fueron creadas con AI o no. Además, la compañía también lanzó su propia herramienta de identificación de IA que puede leer esta marca de agua invisible del Sello de Contenido. Pero parece que la herramienta de detección de IA de Meta no es tan precisa como afirma la empresa.
Según un análisis de Reuterslas imágenes creadas con Muse Picture AI de la compañía no se pueden detectar de manera confiable como generadas por IA mediante el software program de identificación de IA de Meta. El medio analizó 40 imágenes creadas por Muse Picture, pero solo en el 45% de los casos pudo identificar que fueron creadas utilizando IA. En el 55% restante de los casos, cuando las imágenes se recortaban a un tercio o un cuarto de su tamaño unique, la herramienta de detección de IA desarrollada por Meta simplemente fallaba.
Oh, vaya. ¡Eso es vergonzoso!
Esa es una pifia notable. En su sitio net, Meta reclamos que el sistema Content material Seal lleva una «señal de procedencia oculta que permanece intacta, incluso cuando se recorta, se comprime, se cambia el tamaño o se hace una captura de pantalla». Tras el análisis de Reuters, Meta le dijo al medio que su herramienta de detección de IA todavía está en vista previa y que no puede funcionar de manera confiable cuando una foto está «muy recortada». En una página de preguntas frecuentes disponible sobre su detector de IA sitioMeta también deja en claro que si una imagen se generó utilizando un producto de inteligencia synthetic de terceros en lugar de Muse Picture, la herramienta de detección no funcionará.
Meta no será el único gigante de la IA que ha creado un sistema como Content material Seal. Google ya cuenta con un sistema de detección de imágenes y marcas de agua con IA llamado SynthID. También ha sido adoptado por empresas como OpenAI. Eso significa que si una imagen se genera usando ChatGPT o Gemini, lleva la marca de agua invisible SynthID y puede detectarse usando la propia herramienta de identificación de inteligencia synthetic de Google, que ahora también está disponible en la Búsqueda de Google. Sin embargo, Google también deja claro que SynthID no es 100% infalible.
