Os CEOs de várias grandes empresas de inteligência synthetic estão a instar os membros do Congresso a adoptar novas leis que tornariam mais difícil para os malfeitores desenvolverem armas biológicas utilizando a sua tecnologia.
Demis Hassabis do Google DeepMind, Sam Altman da OpenAI, Dario Amodei da Anthropic e Mustafa Suleyman da Microsoft AI estão entre os signatários de um carta pública pedindo leis que exijam que as empresas que vendem DNA e RNA sintéticos examinem os clientes e ordens para evitar o uso indevido de materials genético.
Organizada pelo apartidário Institute for Progress e pela direitista Basis for American Innovation, a carta reconhece que, dado o ritmo de desenvolvimento da IA, “existe uma possibilidade actual de que as barreiras de conhecimento que historicamente impediram os maus actores de obter armas biológicas se erodam significativamente”.
O cientista Arthur Kornberg foi o primeiro a sintetizar DNA com sucesso na década de 1950. Agora, o processo é automatizado, com dezenas de empresas em todo o mundo a utilizar sintetizadores comerciais para “imprimir” e vender sequências genéticas personalizadas que são utilizadas para investigação científica, desenvolvimento de medicamentos e diagnóstico. Muitos fornecedores vendem apenas para pesquisadores qualificados, empresas de biotecnologia e instituições educacionais, mas nem todos examinam os clientes ou as sequências genéticas que eles encomendam.
Em 2017, pesquisadores canadenses deram o alarme quando usaram US$ 100 mil em DNA vendido por correspondência para reconstituir o extinto vírus da varíola equina. Os críticos disseram que a mesma metodologia poderia ser usada para construir a varíola, um vírus mortal e intimamente relacionado. A síntese genética só ficou mais barata desde então.
Combinado com os avanços na IA, agora é viável projetar novas toxinas e patógenos perigosos usando grandes modelos de linguagem, embora provavelmente ainda seja necessário algum treinamento em biologia para criar um vírus funcional a partir do zero. Embora os ataques bioterroristas tenham sido raros, têm o potencial de causar vítimas em massa, pânico público e perdas económicas. Uma grande preocupação é que um agente patogénico concebido pela IA possa, intencionalmente ou não, desencadear uma pandemia world.
“As ferramentas de IA permitem que um usuário identifique muito rapidamente onde recorrer para solicitar sequências que não serão sujeitas a triagem”, diz David Relman, microbiologista e especialista em biossegurança da Universidade de Stanford, que assinou a carta. “Se solicitados de forma adequada, eles também podem lhe dizer como alterar a natureza do seu pedido, de modo que mesmo aqueles que estão fazendo a triagem possam ser muito menos capazes de detectar o que você está tentando fazer.”
Os signatários incluem outros cientistas, especialistas em segurança nacional e executivos das empresas de síntese genética Twist Bioscience e Ansa Biotechnologies. Essas empresas são membros do Consórcio Internacional de Síntese Genética, formado em 2009 para implementar práticas de triagem voluntária. Muitas empresas já utilizam software program para rastrear pedidos em busca de “sequências preocupantes” que possam contribuir para a toxicidade de um organismo ou para a capacidade de causar doenças.
“Se você tem tecnologia capaz de sintetizar DNA, então você deve garantir que ela seja usada de forma responsável, e parte disso é ter certeza de que você entende o que está fazendo e para quem está fazendo”, diz James Diggans, vice-presidente de políticas e biossegurança da Twist Bioscience. A empresa apoia a implementação de regras formais há anos.
Federal diretrizes introduzido durante a administração Biden exigia que cientistas e empresas que recebessem financiamento federal encomendassem sequências genéticas sintéticas de fornecedores que examinam as compras. UM projeto de lei bipartidário introduzida no início deste ano no Senado exigiria que todos os fornecedores de síntese genética que operam nos EUA examinassem pedidos e clientes em busca de maus atores ou patógenos perigosos.
Mas as ferramentas de triagem não são perfeitas. No ano passado, pesquisadores da Microsoft publicaram um estudar mostrando que as ferramentas de design de proteínas de IA foram capazes de gerar sequências genéticas potencialmente perigosas que escaparam do software program de triagem das empresas. Os modelos sugeriram novas sequências de proteínas com estruturas semelhantes àquelas que são conhecidas por serem perigosas.
Geoff Ralston, ex-presidente da Y Combinator e sócio do Protected AI Fund, acredita que os laboratórios de IA com modelos de biologia deveriam fazer sua própria triagem dos usuários.
“Seria muito difícil, senão impossível, pedir ajuda a um modelo para fazer algo iminentemente perigoso”, diz Ralston, que também assinou a carta.
Relman concorda que as regulamentações relativas aos procedimentos de triagem são apenas parte da solução. “Dado que o rastreio pode falhar em alguns casos, temos então de ter outros pontos de controlo”, afirma. “É aí que as empresas de IA terão que avançar.”
