Meta tiene un nuevo modelo de IA, esta vez dedicado a generar y editar imágenes de IA. Y sí, puedes usarlo en Instagram. Pero si tiene una cuenta pública, debe cambiar su configuración ahora para evitar terminar siendo sujeto involuntario de las creaciones de IA de alguien.
El modelo, llamado Muse Picture, es el primer modelo creativo de la nueva familia de Modelos Muse Spark realizado por los laboratorios de superinteligencia de Meta. La empresa dijo en una publicación de blog que está diseñado para manejar solicitudes más complejas, crear fotografías compuestas y editar imágenes existentes. Está disponible ahora en la aplicación Meta AI, Instagram y WhatsApp, con planes de llevarlo eventualmente a Fb, Messenger y a los anunciantes.
El director ejecutivo Mark Zuckerberg mostró el nuevo modelo en su Instagram el martes. Mostró algunos de los 30 nuevos efectos de edición de IA que el modelo está impulsando para las Historias de Instagram, incluidas imágenes de numerosos clones de Zuckerberg, una vista de cámara de 360 con el líder de IA Alexandr Wang y un modo de retrato de exposición con Andrew Bosworth, director de tecnología de Meta.
El director ejecutivo Mark Zuckerberg demuestra las capacidades de edición del nuevo modelo de IA en historias de Instagram con Alexandr Wang (centro), Andrew Bosworth (derecha) y muchos clones de IA de él mismo (izquierda).
Esta no es la primera vez que una empresa de IA intenta atraer a las personas para que utilicen su IA creativa ofreciéndose a usted y a sus amigos a entrar en el escenario de la IA. Ese fue el discurso de OpenAI cuando se lanzó su desafortunada aplicación de vídeo Sora en 2024. Pero OpenAI todavía provocó ira de gente común y celebridades por su papel en la creación sencilla de deepfakes. El nuevo modelo de IA de Meta plantea el mismo riesgo.
Dejemos de lado momentáneamente el hecho de que este nuevo modelo probablemente conducirá a aún más pendiente de IA en Instagram. Y que las imágenes que subes a la aplicación Meta AI se utilizan para mejorar los servicios de Meta. Hay un detalle importante en la configuración que todo aquel que tenga una cuenta pública de Instagram debería conocer. Si tienes más de 18 años y tienes una cuenta pública, cualquier persona con una cuenta Meta AI puede «etiquetarte» en sus mensajes de imágenes AI y crear imágenes AI hiperrealistas que incluyan tu imagen, también conocidas como deepfakes.
Cómo evitar que te hagan un deepfake
Le di una vuelta al nuevo modelo para ver lo fácil que podría ser crear deepfakes. Mi colega de CNET, Abrar Al-Heeti, tiene una cuenta pública de Instagram y pude crear una imagen synthetic de ella como pirata en menos de un minuto al incluir su nombre de usuario de Instagram en mi mensaje. Cuando intenté lo mismo conmigo mismo, etiquetando mi cuenta privada de Instagram, Meta AI no pudo completar la solicitud.
Si bien Meta AI y yo no necesitábamos el permiso de mi colega Abrar Al-Heeti para crear esta imagen de ella como pirata generada por IA, sí obtuve su consentimiento antes de incluirla en esta historia.
Meta confirmó a CNET que los creadores con una cuenta pública de Instagram pueden impedir que las personas creen contenido de IA a su imagen con un interruptor de configuración. Ir a Instagram Configuración > Compartir y reutilizar > Desactiva «Permitir que las personas reutilicen tu contenido en Instagram y con funciones de IA en Meta.» Puede ajustar este management para publicaciones y carretes. Las cuentas privadas automáticamente no tienen su contenido accesible para que nadie pueda remezclarlo o crearlo. (Después de nuestras pruebas, Al-Heeti desactivó este permiso).
También puedes limitar el riesgo de ser falsificado al etiquetarte en una solicitud de imagen por primera vez en la aplicación Meta AI. Le guiará a través de algunos pasos para ayudar a que la aplicación lo reconozca. Eso incluye tomar una foto de tu cara y, opcionalmente, subir tres fotos tuyas. En este proceso, puedes elegir quién puede usar tu imagen, incluyéndote solo a ti mismo, a los seguidores que apruebas, a tus mutuos o a todos. Puedes ajustar esto en la aplicación yendo a Configuración > Tu imagen.
Estos controles serán esenciales para los creadores e influencers profesionales, cuyos nombres y semejanzas son su marca y, por tanto, su medio de vida. Meta cube que sus modelos tienen protecciones incorporadas para evitar que el modelo cree contenido ilegal, abusivo o difamatorio. Pero como vimos con SoraLos malos actores motivados pueden eludir las salvaguardas de un modelo. Tendremos que esperar y ver si los Meta están a la altura del desafío.
