Una nueva herramienta que permite a las personas tomar fotos publicadas públicamente en Instagram y usar inteligencia synthetic para generar nuevas imágenes a partir de ellas está generando una reacción violenta en Hollywood.
La empresa matriz de Instagram, Meta, lanzó el martes la nueva función de inteligencia synthetic, llamada Muse Picture, que facilita «convertir tus concepts en imágenes de alta calidad que puedes descargar y compartir en cualquier lugar».
En un vídeo promocional, Meta mostró ejemplos como agregar un amigo a una foto de una banda.
Pero la herramienta está siendo criticada por agencias de talentos, gerentes y dirigentes sindicales. Señalaron que muchas cuentas de Instagram estaban habilitadas de forma predeterminada, lo que permitía a los usuarios manipular la imagen y la semejanza de celebridades sin su consentimiento.
«Simplemente creo que es un error nuevamente esperar que la gente opte por no participar en algo que literalmente se ha demostrado que puede crear daño», dijo Kyle Hjelmeseth, director ejecutivo de la firma de gestión de talentos de influencers G&B, con sede en Los Ángeles.
Artistic Artists Company, con sede en Century Metropolis, dijo que planteó sus preocupaciones a Meta en nombre de sus clientes.
«Hacemos un llamado a Meta para que haga de la protección la protección predeterminada en Muse Picture AI, no la excepción, y permita a las personas optar por permitir el uso de su imagen o semejanza para la creación de contenido de IA», dijo CAA en un comunicado. «Los artistas merecen decidir si se utiliza su imagen y su trabajo y cómo, con el consentimiento y la capacidad de establecer sus propios términos. Esto significa permitir que los creadores impongan restricciones, supervisen el uso y eviten patrocinios o explotación no autorizados».
El sindicato de artistas intérpretes o ejecutantes SAG-AFTRA también criticó el lanzamiento.
«Cualquier cosa que no sea una OPT-IN clara y seen para este tipo de usos de las imágenes de los usuarios de Instagram es inaceptable y un error de cálculo whole del sentimiento público con respecto a los peligros y daños obvios inherentes a dicho uso», dijo el sindicato en un comunicado.
Hollywood ha desconfiado durante mucho tiempo de la IA, después de una serie de deepfakes: movies o imágenes que muestran a celebridades haciendo o diciendo cosas que nunca autorizaron. Jamie Lee Curtis y otros han aparecido en anuncios de productos que nunca promocionaron. El año pasado, la herramienta de vídeo Sora 2 de OpenAI provocó indignación en Hollywood después de que los usuarios evocaran a celebridades muertas sin el consentimiento de sus herederos. OpenAI dijo más tarde que daría a los titulares de derechos controles más granulares.
Meta dijo que los usuarios pueden optar por que Muse Picture no utilice sus fotos cambiando su configuración.
«Construimos Muse Picture con controles sólidos y barandillas de seguridad desde el primer día», dijo Meta en un comunicado. «Las cuentas privadas y las que pertenecen a usuarios menores de 18 años se excluyen automáticamente y los usuarios adultos con cuentas públicas pueden optar por no participar con sólo un par de clics. Tomaremos medidas contra cualquier contenido que viole nuestras Normas comunitarias».
El lanzamiento se ajusta a un patrón acquainted de Silicon Valley: enviar productos primero, pedir perdón después.
«Aprovechan su escala para facilitar el uso de las herramientas, así como para ampliar el contenido disponible», dijo Mickey Maher, director comercial de Vermillio, que rastrea las imágenes digitales y la propiedad intelectual de las personas. «No es exclusivo de este producto Meta».
Otros dijeron que la exclusión voluntaria debería ser la opción predeterminada.
«Este patrón oscuro de extralimitación de la IA, donde esencialmente es una batalla campal cuando se trata de contenido e información, es algo que en realidad nadie quiere», dijo Lori Fena, ex presidenta y directora ejecutiva de Digital Frontier Basis y cofundadora de Private Digital Areas, con sede en Nueva York. «Lo que necesitamos en este nuevo ecosistema de IA es la capacidad de generar confianza y tener algún tipo de comprensión y autenticidad, y esto hace exactamente lo contrario».
