Pouco mais de um Há uma semana, participei de uma importante conferência sobre inteligência synthetic em Zhongguancun, o movimentado distrito de alta tecnologia de Pequim.
Foi repleto de sessões fascinantes abordando tudo, desde autoaperfeiçoamento recursivo – a ideia de que os modelos podem ajustar seu próprio código e avançar indefinidamente – até robôs humanóides. E apresentava algumas lendas da computação, incluindo Whitfield Diffie, co-inventor da criptografia de chave pública, e Andrew Barto, que ganhou o Prêmio Turing com Wealthy Sutton por seu trabalho pioneiro em aprendizagem por reforço.
Mas saí com uma conclusão acima de tudo: os EUA e a China deveriam deixar de lado a sua feroz rivalidade em matéria de IA.
Os riscos sistémicos e de cibersegurança da Frontier AI são demasiado graves para serem ignorados, e modelos de agentes cada vez mais capazes poderão em breve causar o caos, a menos que as superpotências mundiais da IA possam trabalhar em conjunto. “A IA é uma tecnologia international com benefícios globais, danos globais e uma tendência consistente para a proliferação de novas capacidades”, Stephen Casperum cientista da computação do MIT que falou na conferência por vídeo me contou depois.
Até agora, os EUA têm visto em grande parte os avanços da IA da China como uma ameaça económica e à segurança nacional. Washington impôs restrições rígidas aos chips e equipamentos de fabricação de chips para impedir o desenvolvimento de uma IA poderosa no país. Mais recentemente, o governo dos EUA ordenou à Anthropic que impedisse o acesso de cidadãos estrangeiros aos seus modelos mais poderosos, Mythos e Fable 5, por questões de segurança nacional. Em resposta, a Anthropic revogou o acesso para todos. Uma empresa que suscitou explicit preocupação, revelou anteriormente a WIRED, period uma gigante sul-coreana das telecomunicações com alegadas ligações com a China.
Mas a conferência, organizada pela Academia de Inteligência Synthetic de Pequim, reforçou a ideia de que tanto os EUA como a China têm a perder se a IA for desenvolvida demasiado rápida e imprudentemente. À medida que a IA se torna mais poderosa, mais agente e mais interligada com a vida quotidiana, os riscos de que possa ser utilizada para conduzir ataques cibernéticos ou falhar de forma catastrófica só aumentarão. Como as duas potências dominantes da IA no mundo são responsáveis pelos modelos mais avançados, a cooperação entre elas parece ser essential.
Casper apontou para pesquisar mostrando que os benefícios da colaboração internacional sobre os perigos da IA superam quaisquer riscos à segurança nacional decorrentes do trabalho conjunto. Ele comparou a situação precise à forma como os EUA e a União Soviética foram forçados a trabalhar juntos em relação aos perigos nucleares, mesmo quando procuravam acumular-se mutuamente.
“Uma coisa com a qual quase todos na IA podem concordar agora é que a IA não precisa de um momento Chernobyl”, disse Casper.
Uma sessão de um dia destacou a universalidade dos desafios cibernéticos levantados pela IA mais avançada. Isto inclui novos tipos de vulnerabilidades em códigos gerados por IA, novas formas de atacar sistemas possibilitadas pelo uso de ferramentas de agentes e métodos automatizados para realizar ataques de engenharia social.
Após outra sessão, conversei com Lin Yun, professor da Universidade Jia Tong de Xangai que faz um excelente trabalho sobre IA e segurança de computadores. Yun me disse que espera que os hackers obtenham uma vantagem no curto prazo, mas que novas contramedidas, incluindo novos usos de IA, devem inclinar a balança de volta para a defesa ao longo do tempo.
Yun disse que mesmo que a cooperação internacional seja complicada pela concorrência, deve continuar a ser uma prioridade. “Se diferentes países compreenderem os riscos de forma semelhante, será mais fácil desenvolver princípios de segurança e normas técnicas partilhados”, disse-me ele. “A chave é encontrar áreas onde a partilha possa reduzir o risco sistémico sem expor detalhes operacionais sensíveis.”
Talvez a questão mais premente para ambas as nações seja como equilibrar a abertura com o risco. Os modelos de peso aberto tornaram-se cruciais para a investigação e inovação, com os modelos chineses a revelarem-se populares nos EUA. Mas à medida que estes modelos avançam, será mais difícil garantir que não ajudem os hackers a identificar vulnerabilidades de segurança e que não possam ser utilizados como armas cibernéticas.
