A Anthropic apela a uma desaceleração unilateral no desenvolvimento de novos modelos de IA até que salvaguardas rigorosas possam ser implementadas – com algumas ressalvas.
Em um postagem no blog publicado na quinta-feira, a empresa citou seus próprios dados internos como evidência de que os sistemas modernos de IA estão se aproximando do ponto de “autoaperfeiçoamento recursivo” – ou seja, sendo capazes de refinar suas capacidades sem um humano no circuito. “A IA capaz de se construir sozinha seria um grande desenvolvimento na história da tecnologia – um desenvolvimento que poderia trazer um enorme bem para o mundo na ciência, na saúde e muito mais”, dizia o put up, escrito pelo cofundador da empresa Jack Clark e Instituto Antrópico lidera Marina Favaro, lê. “Mas o autoaperfeiçoamento recursivo completo também pode aumentar os riscos de humanos perdendo o controle sobre sistemas de IA.”
A postagem prossegue sugerindo que a melhor maneira de evitar tais riscos poderia ser uma pausa mundial semelhante aos pactos de desarmamento e não-proliferação da period da Guerra Fria, nos quais países como os EUA e a Rússia concordaram em limitar os seus programas de armas nucleares para evitar o que veio a ser conhecido como Destruição Mútua Assegurada (MAD). “Se fosse possível retardar efetivamente o desenvolvimento desta tecnologia para nos dar mais tempo para lidar com as suas imensas implicações, pensamos que isso provavelmente seria uma coisa boa”, escreveram os autores.
Se tudo isso lhe parece acquainted, você não está tendo alucinações. No início de 2023, a organização sem fins lucrativos Way forward for Life Institute publicou um carta aberta apelando a todos os laboratórios de IA de ponta para que decretem uma pausa de seis meses no desenvolvimento de novos modelos poderosos. Foi assinado por Elon Musk, o pesquisador pioneiro de IA Yoshua Bengio, o cofundador da Apple Steve Wozniak e dezenas de milhares de outros. Embora essa carta e a sua lista luminosa de signatários tenham contribuído muito para iniciar o debate público em torno dos riscos de uma indústria de IA impulsionada pela lógica capitalista cega, nunca foram promulgadas políticas firmes para tornar realmente realidade essa pausa de seis meses. Poucos meses depois de publicado, Musk lançou publicamente sua própria startup de IA para competir com OpenAI, Anthropic, Google e outros grandes laboratórios.
Uma encruzilhada
É importante notar a linguagem extremamente restrita que a Anthropic usa em sua postagem no weblog: Se fosse possível…pensamos…provável…. Parece mais uma sugestão do que um apelo à ação totalmente comprometido. Isso pode ter algo a ver com a encruzilhada em que a empresa se encontra agora.
Desde a sua criação, a Anthropic conquistou uma posição para si mesma como uma espécie de consciência ethical para a indústria, o único grande participant que se dedica a construir IA com cautela e, se necessário, lentamente, para evitar o tipo de cenário desonesto de IA que autores de ficção científica, filósofos e muitos líderes dentro dos próprios grandes laboratórios de IA há muito temiam. Essa abordagem orientada para a segurança claramente valeu a pena. Embora seus chatbots Claude ainda estejam atrás do ChatGPT da OpenAI em downloads de aplicativos, suas ferramentas se tornaram extremamente populares entre desenvolvedores internet e clientes corporativos, sendo que ambos são dados demográficos importantes para a indústria. Esse é um dos grandes fatores por trás do recente eclipsamento da OpenAI como a startup mais valiosa do mundo.
Mas também tem um IPO altamente antecipado, após o qual será legalmente obrigado – como todas as empresas de capital aberto – a fazer o que é melhor para os seus acionistas. E, pelo menos nesta altura do increase da IA, pisar no travão não é amplamente visto como uma estratégia financeira vencedora a longo prazo.
Os críticos do argumento do abrandamento dizem normalmente que, dados os enormes riscos financeiros e geopolíticos da corrida à IA, é altamente improvável que os EUA, a China e outros países concordem em interromper o desenvolvimento e, mesmo que o fizessem, seria impossível impor tal pausa. Pior ainda, se todos os promotores norte-americanos concordassem em fazer uma pausa, isso poderia deixar a porta aberta para que os promotores menos éticos de outros países assumissem a liderança, em detrimento de todos. Como Clark e Favaro afirmaram no seu put up, “se uma desaceleração simplesmente permitir que os intervenientes menos cautelosos se recuperem tecnologicamente, poderá deixar todos menos seguros”.
Para ser eficaz, argumentam Clark e Favaro, um abrandamento exigiria não apenas um acordo unilateral entre os criadores de IA em todo o mundo, mas também algum tipo de mecanismo world que pudesse verificar se cada laboratório interrompeu de facto o desenvolvimento, e que dispararia um alarme se e quando a pausa fosse violada.
Isto levanta mais questões do que respostas, uma vez que não está claro como seria na prática um tal sistema de supervisão. Mais uma vez, os acordos nucleares da period da Guerra Fria podem fornecer um modelo aproximado, mas não são de forma alguma uma correspondência particular person. “As corridas de treinamento são muito mais fáceis de esconder do que os silos de mísseis”, reconhece o put up. (Também não se deve esquecer que, apesar dos acordos internacionais do pós-guerra contra a proliferação de armas nucleares, potências nucleares como os EUA, a China e a Rússia têm estado mais uma vez a construir os seus arsenais nucleares.)
A nova publicação do weblog observou que, nos próximos meses, a Anthropic planeia reunir-se com os decisores políticos, os seus concorrentes na indústria e outras partes interessadas para discutir estes desafios e, esperançosamente, trabalhar no sentido de construir sistemas de supervisão que tornem uma pausa world realmente implementável. Mais uma vez, possivelmente de olho nos seus futuros acionistas, a empresa assumiu o que parece ser um compromisso tímido: “Se tais sistemas existissem, esperamos que iríamos abrandar ou fazer uma pausa temporária, se outros promotores na fronteira ou perto dela também o fizessem de uma forma verificável”.
