La nueva herramienta de detección de IA de Meta no funciona del todo como se anuncia, según un nuevo informe.
Meta presentó su primer modelo de generación de imágenes, Muse Picture, a principios de esta semana. Como parte del debutel gigante tecnológico también anunció que todas las imágenes generadas por el modelo incluirían un sistema de marca de agua invisible llamado Content material Seal. Esta señal permanecería intacta incluso cuando los usuarios “recortan, comprimen, cambian de tamaño o capturan una captura de pantalla” de la imagen generada por IA, afirmó la compañía. Para ayudar a captar la señal de Content material Seal, Meta también anunció que estaba obteniendo una vista previa de una herramienta de detección de IA para verificar si Muse Picture generó una imagen.
Pero, en un informe publicado el viernes, Reuters Los periodistas descubrieron que la herramienta de detección de IA no logró identificar más de la mitad de las imágenes que generó una vez recortadas. En la primera prueba, Reuters descubrió que la herramienta identificó correctamente las 40 imágenes generadas por Muse Picture como generadas por IA, pero una vez que esas imágenes se recortaron a la mitad o un tercio de su tamaño unique, la herramienta solo pudo identificar el 55% como generada por IA.
A medida que las herramientas de IA generativa mejoran en la producción de deepfakes asombrosos, la detección se convierte en un problema más complicado de resolver. Según la firma de ciberseguridad DeepStrike, el volumen de deepfakes en línea generados por IA ha experimentado un crecimiento anual de aproximadamente el 900 % entre 2023 y 2025. Pero las capacidades de detección no han avanzado completamente en paralelo a este auge de popularidad. Las herramientas comerciales de detección de IA, impulsadas por ella, todavía están plagadas de errores, mientras que la capacidad de una persona promedio para identificar contenido generado por IA no es mejor que lanzar una moneda al aire, según estudios anteriores.
Aunque no es un verdadero éxito inmediato, esa es la brecha que Meta pretende abordar con el nuevo Content material Seal y su herramienta de detección.
Muse Picture y los productos que lo acompañan estaban destinados a ser un gran paso adelante para Meta, que posiblemente ha estado detrás de sus competidores en el espacio de la IA. El año pasado, el director ejecutivo de Meta, Mark Zuckerberg, decidió que no había mejor momento que el presente para intentar ponerse al día y anunció un importante esfuerzo de recuperación de la IA. El plan de recuperación incluía comprometer inversiones multimillonarias en investigación y desarrollo y cazar furtivamente a los mejores talentos de rivales en toda la industria, todo con el objetivo de construir mejores productos de IA y el noble objetivo de crear superinteligencia synthetic.
Con un par de miles de millones adicionales dedicados a la IA y algunas reestructuraciones más después, Meta dio a conocer el primer fruto importante de ese trabajo en abril con Muse Spark, un modelo propietario que dijo que planea abrir en el futuro y que tuvo una recepción mixta. Otro importante fue el debut de Muse Picture de esta semana.
Pero el debut del generador de imágenes y las herramientas que lo acompañan ha estado envuelto en controversia, y no sólo por el informe de Reuters. Los usuarios de Instagram se alarmaron al descubrir que el modelo de IA podía utilizar fotos de cualquier perfil público sin pedir explícitamente su consentimiento al propietario de dicho perfil. Esa característica ya se ha eliminado.
La compañía ahora está considerando su próximo gran debut en IA generativa: un generador de video llamado Muse Video. Esperamos que la compañía pueda cerrar cualquier brecha en las herramientas de detección y abordar adecuadamente las preocupaciones de privacidad de los usuarios antes de que ese modelo desaparezca.
