Como os medos sobre As capacidades de hacking de IA crescem, a OpenAI na segunda-feira fez uma série de ações focadas na segurança cibernética anúnciosincluindo uma versão melhorada do seu modelo especializado em segurança de acesso limitado GPT-5.5-Cyber, expandiu o trabalho internacional com governos e outras instituições para lhes dar “acesso confiável” aos mais recentes modelos focados em segurança cibernética da empresa e lançou o seu scanner Codex Safety como um plug-in de aplicativo.
À medida que os avanços na indústria de IA deixam projetos críticos de código aberto com risco crescente de ficar para trás, a empresa também disse na segunda-feira que está lançando um esforço conhecido como Patch the Planet, fundado com a proeminente empresa de segurança focada em pesquisa Path of Bits e em colaboração com as empresas de gerenciamento de vulnerabilidades HackerOne e Calif.
O projeto já começou seu trabalho oferecendo serviços gratuitos de consultoria de segurança para mantenedores de código aberto, não apenas para ajudá-los a encontrar e corrigir vulnerabilidades, mas também para apoiá-los no fortalecimento de suas bases de código e na incorporação de ferramentas de segurança de IA em seu processo de desenvolvimento. A ideia é dar apoio individualizado ao maior número possível de projetos de código aberto para melhorar a sua segurança atual e a resiliência a longo prazo de uma forma que seja realmente sustentável.
“Patch the Planet é um esforço em escala da Web para ajudar o software program de código aberto a ficar à frente das ferramentas de caça a bugs de IA”, disse o CEO e cofundador da Path of Bits, Dan Guido. “Mas também é um esforço para ajudar a comunidade de código aberto a ver os benefícios e não apenas as desvantagens das ferramentas de codificação de IA.”
Os desenvolvedores de código aberto – normalmente voluntários que mantêm software program crítico e amplamente utilizado funcionando com poucos recursos – muitas vezes já estão lutando para acompanhar os relatórios de bugs. O aumento da busca por vulnerabilidades de IA nos últimos meses, para muitos mantenedores, fez com que esse acúmulo parecesse intransponível à medida que os relatórios de resíduos gerados por IA se acumulavam, dificultando a priorização e desviando o já limitado tempo e atenção de falhas críticas.
Os mantenedores “fazem seu trabalho por amor ao código aberto e agora estão presos na revisão de CVEs inúteis”, diz o líder de tecnologia cibernética da OpenAI, Fouad Matin. Com Patch the Planet, diz ele, “o que efetivamente fizemos foi torná-lo o mais eficiente possível do ponto de vista do token para reduzir a carga dos mantenedores – avaliações da base de código, validação de relatórios potenciais, criação de patches e seu lançamento. Queremos compensar os custos, sejam tokens ou poder das pessoas, para realmente corrigir o máximo possível do mundo do software program”.
Matin acrescenta que, para seu scanner Codex Safety, que está em fase de pré-estudo desde o início deste ano, a OpenAI tem subsidiado o uso de código aberto e privado “no valor de 20 trilhões de tokens”.
Mais de 30 projetos de código aberto já estão participando do Patch the Planet, com mais em preparação para começar. Para lançar o projeto, a Path of Bits conduziu recentemente um dash de abertura de cinco dias no qual contou com 25 engenheiros, ou cerca de um quinto de sua força de trabalho, trabalhando simultaneamente em colaborações com uma série de mantenedores. OpenAI e Path of Bits dizem que o projeto já descobriu centenas de bugs e produziu dezenas de patches apenas na primeira semana. E Guido diz que com financiamento da OpenAI, bem como acesso ilimitado ao modelo, a Path of Bits planeja continuar seu intenso compromisso com o trabalho de Patch the Planet a longo prazo.
“É tão raro termos a oportunidade de trabalhar em questões de segurança de código aberto em larga escala”, diz Guido. “E Patch the Planet não é um modelo único. Conversamos com todos os mantenedores de cada projeto e descobrimos quais são suas maiores prioridades, seja construir uma infraestrutura de testes melhor ou fuzzers personalizados ou apenas limpar dados técnicos em todo o projeto, porque é isso que os fará trabalhar mais rápido, operar mais rápido e corrigir mais rapidamente.”
