Funcionários da administração Trump concluiu as negociações com a Anthropic na segunda-feira sem suspender os controles de exportação que foram impostos na semana passada aos modelos de IA mais avançados da empresa em resposta a preocupações de jailbreak, de acordo com três pessoas informadas sobre o assunto.
A administração continua a acreditar que existem maneiras de desativar algumas das proteções do Claude Fable 5 da Anthropic, permitindo efetivamente que os usuários acessem os recursos de segurança cibernética mais poderosos do modelo Mythos da empresa, disseram as pessoas.
A Anthropic disse há dias que as preocupações do governo são exageradas, posição que reiterou em reuniões de grupos de trabalho realizadas no Departamento de Comércio com pesquisadores do governo do Centro de Padrões e Inovação de IA e do Escritório do Diretor Nacional Cibernético, Sean Cairncross, disse uma das pessoas.
As reuniões também contaram com a presença do secretário de Comércio, Howard Lutnick, que telefonou por teleconferência da cúpula do G7 em Evian, França. O próprio Cairncross não participou, disse a pessoa.
Do lado da Anthropic, o cofundador e diretor de computação Tom Brown e a chefe de relações externas Sarah Heck têm liderado as discussões. O chefe da equipe vermelha de fronteira da Anthropic, Logan Graham, e o pesquisador sênior de segurança Nicholas Carlini voaram para Washington, DC, para as negociações.
“Ambas as partes estão trabalhando rapidamente para resolver isso”, disse um porta-voz da Antrópico em comunicado à WIRED. Um porta-voz da Casa Branca não quis comentar.
Não ficou imediatamente claro como os próximos passos poderiam acontecer. O Departamento de Comércio expressou a vontade de encontrar uma maneira de trazer o Fable 5 de volta on-line para uso do consumidor, mas isso provavelmente dependeria da solução whole da Anthropic para as preocupações com o jailbreak, disse a pessoa.
Tocando o alarme
As negociações de emergência ocorreram num momento político tenso para a Antrópico, que já estava numa luta prolongada com o Pentágono sobre se os seus modelos de IA poderiam ser usados para certas aplicações militares.
A administração Trump foi alertada pela primeira vez sobre as preocupações com o jailbreak na semana passada. O CEO da Amazon, Andy Jassy, ligou diretamente para o secretário do Tesouro, Scott Bessent, sobre as supostas vulnerabilidades, que desempenharam um papel em assustar o governo, disseram as pessoas. A conversa de Jassy com a administração Trump foi a primeira relatado pela Informação.
Funcionários alarmados da Casa Branca incumbiram a NSA de ajudar a revisar as vulnerabilidades. A NSA respondeu que acreditava que period realmente possível remover as barreiras de proteção do Fable 5, o que levou a administração a impor restrições ao modelo.
Lutnick então conversou com o presidente-executivo da Anthropic, Dario Amodei, na sexta-feira, enquanto o Departamento de Comércio redigia sua carta impondo controles de exportação ao Fable 5. No fim de semana, depois que a Anthropic cortou o acesso ao modelo para todos os usuários, Lutnick esteve em várias ligações com Brown e Heck, de acordo com uma pessoa com conhecimento dos eventos.
Não está claro por que a Amazon, um dos maiores investidores na Anthropic, tocou o alarme sobre Fable 5. “Como fornecedor líder de nuvem que atende um grande número de clientes dos setores público e privado, não é incomum que os governos busquem nosso conselho sobre potenciais riscos de segurança”, disse um porta-voz da Amazon à WIRED. “Quando elas ocorrem, não compartilhamos os detalhes dessas discussões.”
Desconexão de segurança
No centro das conversas entre a Anthropic e a administração está um desacordo sobre a gravidade das preocupações de Claude Fable 5 com o jailbreak.
Em um postagem no blog na sexta-feira, a Anthropic deu a entender que as caracterizações do governo sobre os riscos potenciais são exageradas. Alguns pesquisadores de segurança cibernética reiteraram esta posição às autoridades na segunda-feira, enviando um carta aberta argumentando que a ação de controle de exportação tomada contra a Antrópica period injustificada.
“Os modelos da classe Mythos da Antrópico são muito bons em encontrar falhas e explorar explorações como armas. No entanto, eles não são exclusivamente bons nessas tarefas, e muitos dos indivíduos abaixo assinados usam regularmente outros modelos básicos e de código aberto para auditorias de segurança e equipes vermelhas todos os dias”, diz a carta aberta. “Como resultado, esta ação tirou os melhores modelos dos defensores, criou incerteza no mercado e colocou em risco a liderança da IA dos EUA sem qualquer risco actual que o justificasse.”
