Dois prompts que foram usados para gerar materials no Grok foram rejeitados pelo ChatGPT da OpenAI, Meta AI e Claude da Anthropic como inadequados quando testados pela WIRED. A Gemini, do Google, criou a imagem de uma celebridade nas mãos de um gigante, embora tenha rejeitado outra sugestão. O Google se recusou a comentar.
Um vídeo do Grok Think about, que também foi postado no X, parecia retratar Ashley St. Clair alterada para dançar de biquíni. St. Clair já teve um relacionamento com Musk e é mãe de um de seus filhos. Em janeiro, ela começou ação legal contra xAI depois que deepfakes sexualizados dela supostamente apareceram no X. Depois que a WIRED contatou X, a postagem foi removida da plataforma de mídia social por violar suas regras.
Os representantes legais de St. Clair no caso X não responderam imediatamente ao pedido de comentários.
“Elon Musk adicionou conscientemente um recurso perverso à sua plataforma que ajuda os usuários a despir mulheres e crianças com o clique de um botão, sem se importar com os danos previsíveis que isso causaria”, afirma Imran Ahmed, CEO e fundador do Middle for Countering Digital Hate, que em janeiro estimou com um alto grau de confiança que Grok criou 3 milhões de imagens sexualizadas, supostamente incluindo mais de 20.000 crianças. “Agora parece que o conteúdo explícito ainda está sendo hospedado no Grok e compartilhado no X, incluindo imagens ridicularizando a mãe do filho de Musk.”
Ao contrário de outros sistemas generativos de IA da OpenAI e do Google, Grok e xAI de Musk não desistiram de permitir conteúdo sexual em geral, tendo introduzido anteriormente os modos “Spicy” e “Unhinged” e inicialmente incluído menos grades de segurança. Almíscar tem afirmou Grok é “suposto [to] permitir a nudez da parte superior do corpo de humanos adultos imaginários” e ser consistente com o que os espectadores podem ver em filmes censurados. termos de serviço do xAI dizem que o sistema pode responder com “situações sexuais”. No entanto, a documentação da empresa diz que ela não permite que pessoas usem seus sistemas para “causar danos ou se envolver em atividades abusivas”.
Outros vídeos do Grok Think about vistos pela WIRED mostram mulheres, que provavelmente são inteiramente geradas por IA, se despindo ou envolvidas em atos sexuais – algumas sendo totalmente explícitas. As solicitações dos usuários para muitos dos vídeos não descrevem necessariamente atos sexuais diretamente, mas os descrevem de maneira indireta – uma provável tentativa de contornar as salvaguardas implementadas na plataforma Grok.
Vários pesquisadores disseram à WIRED que desde janeiro parece que as mudanças introduzidas por X e Grok tornaram mais difícil a criação de imagens de “nudificação” ou “despir” de pessoas reais. O número dessas imagens postadas no X parece ter diminuído nos últimos meses. No Reddit e em um fórum dedicado de deepfake de IA, os usuários reclamaram do aumento da moderação por parte das empresas de propriedade da SpaceX.
No entanto, em maio, a SpaceX alertou potenciais investidores que reservou US$ 530 milhões para lidar com reclamações legais em andamento, incluindo aquelas ligadas a Grok. “Como esses modos podem ser mais irreverentes e severos do que nossas ofertas padrão, eles apresentam riscos elevados, incluindo danos à reputação, a geração de conteúdo potencialmente explícito e desinformação ou resultados enganosos, possíveis imagens não consensuais ou exploratórias, violação de propriedade intelectual ou conteúdo que pode ser visto como explorador, prejudicial, assediante, abusivo ou discriminatório”, afirmou seu documento em maio.
