No mês passado, a métrica mais importante no Vale do Silício foram os tokens queimados – as unidades de medida do poder de computação usadas pelos modelos de IA. Os CEOs estavam dando aos funcionários o Matthew McConaughey “esses são números de novato, você precisa aumentar esses números”discurso de O Lobo de Wall Road. Agora, eles estão pedindo a sua equipe para pisar no freio.
De acordo com um relatório do Wall Street Journalos líderes corporativos perceberam que na verdade custa dinheiro queimar tokens de IA, e fazer isso quase exclusivamente com nenhum outro objetivo em mente não é, na verdade, uma boa estratégia de negócios. Ainda bem que esses caras recebem dezenas de milhões de dólares por ano para descobrir essas coisas.
No início desta semana, o CEO do Uber, Dara Khosrowshahi, disse que period “ficando mais difícil de justificar”O custo das iniciativas de IA dentro da empresa porque o resultado não estava acompanhando a taxa de queima de tokens, embora reconhecesse que parte do motivo pelo qual eles foram tão descuidados na queima de tokens em primeiro lugar é que “pode parecer” que a IA é gratuita.
Não é, ao que parece.
Um consultor anônimo de IA disse à Axios que um de seus clientes gastou acidentalmente meio bilhão de dólares em um único mês porque nunca se preocupou em colocar um limite de uso no acesso dos funcionários ao Claude da Anthropic. Isso é… muito. Ao ponto de forçar a credulidade. O Journal não encontrou nada tão flagrante, mas ouviu falar de uma instituição financeira que viu seus funcionários gastarem centenas de milhares de dólares em tokens por mês, com funcionários usando modelos de nível premium para fazer perguntas básicas e ter conversas fúteis.
Praticamente sempre seria assim que seria essa period muito idiota de justificar gastos com IA. As empresas já gastaram muito dinheiro para adotar estes sistemas e precisam de justificar o gasto. Para isso, eles incentivam seus funcionários a utilizá-lo tanto quanto possível. Por sua vez, os funcionários o fazem, mesmo quando não faz sentido usar IA para uma tarefa.
A Meta eliminou sua tabela de classificação de queima de tokens no mês passado após seu vazamento, revelando que o principal “Token Legend” conseguiu queimar 281 bilhões de tokens em um mês – mais do que a quantidade de computação necessária para reproduzir toda a Wikipedia 33 vezes. A Amazon juntou-se a essa reversão esta semana, de acordo com o Financial Timeseliminando seu placar de funcionários que mais usavam as ferramentas internas de IA da empresa – uma decisão que supostamente foi tomada depois que se tornou óbvio que os funcionários estavam dando aos agentes de IA tarefas inúteis apenas para manter sua posição na tabela de classificação.
Está claro que o mundo corporativo está disposto a incendiar levianamente o dinheiro, em um esforço para justificar seus atuais poços de queima de caixa. Acontece que eles têm limites, no entanto. Você só pode usar “tokens queimados” como métrica em tantas chamadas de lucros trimestrais antes que os acionistas comecem a se perguntar qual será o preço de todos esses tokens.
