Os democratas no Congresso estão pressionando para aprovar projetos de lei que limitariam o uso de inteligência synthetic pelo Departamento de Defesa.
Esta semana, o senador democrata Adam Schiff, da Califórnia, revelou a Autoridade Humana em Operações Letais (HALO) Act, um projeto de lei que exigiria que um comandante humano tivesse a palavra ultimate sobre qualquer curso de ação adotado por sistemas de armas autônomos. O projeto de lei também exigiria a tomada de registos detalhados de como as decisões militares foram tomadas e os alvos foram selecionados para revisão posterior, estabeleceria proteções para denunciantes e proibiria o uso de IA em alguns casos envolvendo armas nucleares e vigilância em massa.
“Os últimos meses nos mostraram que há uma necessidade urgente de barreiras de bom senso para garantir que o uso da IA pelo Departamento de Defesa esteja alinhado com as prioridades de segurança e privacidade nacional dos americanos”, disse o senador Schiff à imprensa. liberar. “A minha legislação protegeria os americanos da vigilância doméstica ilegal, garantiria que os humanos na cadeia de comando exercessem a responsabilidade pela utilização de qualquer tecnologia letal e manteriam fortes proteções éticas na utilização de armas autónomas e semiautônomas.”
A inteligência synthetic já faz parte da guerra há algum tempo. Os militares de todo o mundo recorrem à ajuda de sistemas de IA para a selecção de alvos em ataques e vigilância em massa, sendo um exemplo proeminente a utilização de IA pelo exército israelita contra os palestinianos. Os Estados Unidos também há muito que implantam inteligência synthetic em operações militares, incluindo nas suas últimas guerra contra o Irão.
Mas no início deste ano, a utilização da IA nas forças armadas foi catapultada para o topo do discurso público quando um acordo existente entre o Pentágono e a Anthropic fracassou e, num movimento sem precedentes, o gigante da IA foi designado como um risco na cadeia de abastecimento. A Anthropic teria alegadamente recusado livrar-se das barreiras de proteção nos seus sistemas de IA que se destinavam a impedir o DoD de utilizar os seus modelos para vigilância doméstica em massa e armas completamente autónomas, o que significa pouco ou nenhum envolvimento humano.
Após as consequências do acordo, o Pentágono assinou contratos com praticamente todas as outras grandes empresas de IA, incluindo OpenAI, Google, Nvidia, SpaceX, Microsoft e Amazon Internet Companies. Enquanto isso, a Anthropic contestou a designação em tribunal, embora relatórios digam que a administração Trump está a gostar da empresa após o lançamento do Mythos, o seu mais recente modelo anunciado como um pesadelo para a indústria de segurança cibernética.
Após o rompimento público da administração Trump com a Antrópico, uma série de democratas manifestaram-se em apoio à empresa de IA e à sua posição. Essa lista incluía o senador Schiff, autor da Lei HALO.
“Eu gostaria que tivéssemos mais vozes como a Anthropic por aí”, senador Schiff disse na Punchbowl Information Convention em março.
Schiff apresentou uma série de projetos de lei relacionados à IA nos últimos meses, incluindo propostas para exigir que grandes centros de dados paguem por sua própria energia, obrigar as empresas de IA a divulgar protegido por direitos autorais trabalho usado para treinar modelos e trazer Alfabetização em IA aulas para escolas. Agora, ele está supostamente com o objetivo de incluir este projeto de lei no pacote anual de gastos militares, também conhecido como NDAA, que deve ser aprovado até o ultimate do ano, o mais tardar.
Ele não é o único democrata com um plano como este. A senadora Kirsten Gillibrand, de Nova York, apresentou um projeto de lei muito semelhante no início deste mês, trazendo restrições ao uso de IA na implantação de armas nucleares, vigilância doméstica e armas totalmente autônomas. Tudo isso e muito mais “ações de alta consequência“, como o projeto de lei os outline, precisariam da aprovação de um alto funcionário do DoD para seguir em frente. O senador Gillibrand também está planejando apresentar a proposta como um alteração ao NDAA.
Depois, há o AI Guardrails Act apresentado pela senadora Elissa Slotkin, de Michigan, em março. Também visando proteções muito semelhantes aos projetos de lei do senador Schiff e Gillibrand, o senador Slotkin é supostamente preparando-se para apresentá-lo também como uma alteração ao NDAA.
Embora todos estes três projetos de lei visem garantir a segurança, trazendo a supervisão humana para qualquer decisão tomada por sistemas de IA em ambientes militares, não é aí que os perigos terminam.
Muitos usuários de IA tendem a sofrer com o que os especialistas chamam viés de automaçãotambém conhecido como acreditar que um sistema de IA pode fazer julgamentos mais precisos do que você porque tem acesso a mais informações ou talvez raciocinar de maneira mais eficiente. Isso, obviamente, não é verdade: a tecnologia está longe de ser perfeita e os LLMs são propensos a alucinações ou pensamentos tendenciosos. Mix isso com a natureza de “caixa preta” da IA, onde os usuários não têm uma visão completa de como ou por que o sistema raciocina dessa maneira, e você tem um plano militar de IA que ainda pode levar a erros potencialmente fatais, mesmo com supervisão humana.
