Dario Amodei, CEO e fundador da Anthropic, acaba de publicar um ensaio on-line que começa comparando a IA com os Hobbits no Senhor dos Anéis. E essa pode não ser a única peça de ficção nele, se quisermos acreditar na carta do sistema do modelo Claude Mythos da própria Anthropic.
“A interseção da IA e de nossas instituições políticas parece um pouco com os Hobbits e Barbárvore”, escreve Amodei – isto é, Barbárvore, o Ent, se transfer tão devagar que nem consegue entender os velozes Hobbits. Mas então Amodei se volta para uma afirmação controversa – que, para continuar o Senhor dos Anéis analogia, significaria que os Hobbits estão se movendo exponencialmente mais rápido o tempo todo.
“As leis de escala da IA, que prevêem um aumento exponencial nas capacidades cognitivas gerais com o aumento do poder computacional, têm agora mais de uma década de evidências empíricas por trás delas”, afirma Amodei. “Se essas leis de escalonamento continuarem por apenas mais um ou dois anos, é provável que consigamos o que chamei de IA poderosa.”
Não é uma referência única; Amodei, que está prestes a lucrar com um IPO lucrativo da Antrópico, usa a palavra “exponencial” seis vezes no ensaio. Isso inclui o título “Política sobre a IA exponencial”. Mas é verdade?
Vamos deixar por um momento o duvidoso artigo da OpenAI de 2020 que Amodei vincula para provar sua afirmação, ou a evidência abundante de outros especialistas em IA de que as “capacidades cognitivas” da maioria dos grandes modelos de linguagem são não crescendo tão rápidose for o caso. O ensaio de Amodei parece contradizer a palavra de… bem, antrópico em si.
A mudança na vibração da IA é actual: por que a reação está crescendo
No cartão de sistema para a prévia de Claude Mythos [PDF]o modelo que Amodei exalta no ensaio pelas preocupações de segurança cibernética que causou, você encontrará a seguinte afirmação: “O [intelligence] ganhos que podemos identificar são confiantemente atribuível à pesquisa humana, não à assistência de IA … as primeiras reivindicações de grandes vitórias atribuíveis à IA não se sustentaram.” [Emphasis ours.]
Velocidade da luz mashável
Você pode pensar que não pode ser mais definitivo do que isso – a menos que você leia o cartão do sistema para outro novo modelo de fronteira da Anthropic, Fable 5. Usando um teste chamado Epoch Capabilities Index, os pesquisadores da Anthropic se propuseram especificamente a ver se havia evidências de um ciclo de suggestions que levaria ao que os especialistas em IA têm chamado de AGI ou Superinteligência Digital. E o resultado não poderia ser mais claro.
“Não observamos uma aceleração sustentada de 2× atribuível à IA no ritmo de nosso progresso em IA”, disse o Cartão do sistema Fable [PDF] diz.
Então, de onde Amodei está obtendo suas informações exponenciais? Entramos em contato com a Anthropic para esclarecimentos, mas a citação que o CEO usa é para um artigo de 2020 chamado Dimensionando leis para modelos de linguagem neuralde coautoria de Jared Kaplan (então com OpenAI, agora cofundador da Anthropic). A conclusão desse artigo foi questionada por outro importante pesquisador de IA, Gary Marcus, nos últimos quatro anos.
“Existem lacunas sérias no argumento do dimensionamento”, Marcus escreveu em 2022. “Na verdade, podemos já estar atingindo limites de escala na aprendizagem profunda, talvez já se aproximando de um ponto de retornos decrescentes.” Ele citou pesquisas sobre o modelo GPT-3 da OpenAI, que “mostraram que a escala começa a vacilar em algumas medidas, como toxicidade, veracidade, raciocínio e bom senso.”
Marcus foi ridicularizado pelos verdadeiros crentes da IA na época, mas desde então foi justificado – especialmente desde o lançamento do GPT-5, que não period a Superinteligência que alguns de seus usuários esperavam.
Encontrar evidências do crescimento exponencial da IA desde então pode ser mais difícil do que simplesmente entrar em Mordor.
Relatórios adicionais fornecidos por Timothy Werth
Tópicos
Inteligência Synthetic Antrópica
