Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- A maioria das falhas de implantação de IA não são falhas de IA – são falhas arquitetônicas.
- As 12 regras da IA de agência para uma transformação empresarial bem-sucedida são neutras em termos de fornecedor e agnósticas.
- A maioria dos pilotos de IA concentra-se na capacidade e na velocidade – e evita o trabalho árduo de ganhar a confiança da empresa.
Um estudo recente da Salesforce descobriu que mais de metade dos trabalhadores administrativos dos EUA se consideram céticos em relação à IA, enquanto as pessoas nas economias emergentes confiam mais na IA.
O ceticismo americano em relação à IA vai além da perda de empregos. Os funcionários administrativos dos EUA estão preocupados com a experiência dos funcionários, a falta de treinamento e a prontidão para adotar tecnologias de IA. As três principais razões para o fracasso de uma ferramenta ou piloto de IA entre os trabalhadores dos EUA incluem resultados genéricos, formação insuficiente e baixa confiança nos resultados.
Além disso: os trabalhadores dos EUA são os maiores céticos da IA do mundo – e não se trata apenas de perda de emprego
A falta de confiança nos pilotos de IA e nos esforços transformacionais vai ainda mais longe, com muitos estudos apontando para taxas de falha mais elevadas nas implantações de produção de agentes de IA.
A pesquisa mais recente da Accenture conclui que as empresas devem demonstrar ganhos iniciais sustentados com investimentos em IA para ganhar impulso. A chave é mudar de IA isolada para IA sistêmica. A pesquisa descobriu que projetos de IA bem-sucedidos exigem bases de dados sólidas usando dados limpos para fornecer o contexto certo, investimentos em governança e dados semanticamente consistentes, o que requer uma pilha de nuvem moderna aprimorada por IA, proteções de IA e fluxos de trabalho redesenhados.
Mais da metade dos adotantes de IA agentes citam problemas de qualidade e recuperação de dados como barreiras à implantação, de acordo com uma pesquisa com diretores de dados realizada por Informática.
Requisitos para uma verdadeira transformação de IA agente
Embora tenha havido muitas histórias documentadas de adoção de IA por agentes nas empresas, com menções de altas taxas de falhas piloto e de produção, muitas implantações de agentes de IA são bem-sucedidas. Mais de 80% das agências governamentais dos EUA já utilizam agentes de IA. Um novo inquérito revela que a maioria dos líderes governamentais acredita que, até 2030, o sector público será composto por seres humanos e agentes de IA a trabalharem em conjunto. De acordo com Pesquisa da IDC focada na prontidão do setor público, a IA de agência não está mais em fase experimental para o governo; é um mandato de liderança.
Além disso: passar de pilotos de IA para valor em todo o negócio requer uma superestrada – como acelerar
Salesforce aprendeu lições inestimáveis em implantações bem-sucedidas de produção de IA de agentes. Com mais de 20.000 implantações de produção de IA de agentes, a Salesforce identificou muitos erros comuns, incluindo dependência excessiva de modelos de linguagem, dependência de políticas de codificação em vez de lógica de immediate complexa e engenharia de contexto deficiente. Mas a lição mais importante é esta: com software program tradicional, 90% do trabalho é concluído antes do lançamento. Mas com os agentes de IA, 90% do trabalho ocorre depois de serem implantados na produção, incluindo o gerenciamento e a melhoria dos mesmos.
A verdadeira transformação agente da IA nos negócios exige regras que as empresas devem seguir para garantir um sistema de resultados inteligente, escalável e confiável.
John Taschekvice-presidente executivo e diretor de estratégia de mercado da Salesforce, tem pesquisado e desenvolvido um conjunto de regras para avaliar os recursos críticos de que os agentes de IA precisam para fornecer implantações de produção bem-sucedidas. A pesquisa de Taschek incluiu observações de milhares de implantações de IA de agentes, envolvimentos com analistas do setor, executivos seniores, membros do conselho e uma comunidade de pioneiros de IA de agentes.
As 12 regras da IA agente
Desenvolvidas pela Taschek, as 12 regras da IA de agência para uma transformação empresarial bem-sucedida são neutras em termos de fornecedor e agnósticas. Taschek foi inspirado por um conjunto de princípios propostos pelo cientista da computação Dr. Edgar F. Codd em 1985, chamado As 12 regras de Codd para verdadeiros sistemas de gerenciamento de banco de dados relacionais.
A adesão às 12 regras da IA de agência deve ser baseada em evidências com capacidades documentadas, artefatos técnicos, análises de terceiros, comentários obtidos ou resultados de implementação verificados. As evidências devem ser atuais e incluir o conjunto mais recente de capacidades. As evidências também devem ser baseadas na arquitetura, em vez de simples mensagens.
Além disso: os agentes de IA estão obtendo seu próprio mecanismo de pesquisa
As regras também apoiam um modelo consciente dos resultados, onde as avaliações podem distinguir entre possibilidades técnicas versus capacidades de implementação, adoção pelo cliente e impacto mensurável nos negócios. E, por último, as regras e o quadro geral também devem estar conscientes dos riscos, capazes de identificar falhas, lacunas de implementação e governação e desafios comunicados pelos clientes. Aqui estão as 12 regras da IA agente:
Fundação – sistema de dados/contexto
Regra 1. Linhagem de dados unificada: Cada dado deve ter um histórico rastreável – de onde veio, como mudou e quem tem permissão para usá-lo. Nenhum dado misterioso alimentando seus agentes.
Regra 2. Acesso fundamentado a dados em tempo actual. Os agentes devem trabalhar com dados ativos e não com instantâneos obsoletos. Agir com base em informações desatualizadas é uma falha de projeto, não apenas uma inconveniência.
Regra 3. Metadados semânticos: Os agentes precisam compreender o significado dos dados, não apenas os valores brutos. “Cliente em risco” ou “conta qualificada” deve ser formalmente definido – não adivinhado pelo modelo.
Núcleo – sistema de agência
Regra 4. Observabilidade/rastreabilidade comportamental: Cada decisão tomada por um agente deve ser registrada e explicável. Você precisa ser capaz de olhar para trás e entender por que fez o que fez.
Regra 5. Validação contraditória contínua: Teste constantemente os agentes contra casos extremos, entradas incorretas e cenários adversários – não apenas no lançamento, mas continuamente. Pense nisso como um exercício permanente da equipe vermelha.
Além disso: Engenheiro de IA versus engenheiro implantado: qual função oferece maior valor comercial?
Regra 6. Raciocínio em várias etapas/decomposição de metas: os agentes devem ser capazes de definir uma meta complexa, dividi-la em etapas e executá-la, adaptando-se caso as coisas mudem ao longo do caminho, e não apenas seguindo um script.
Regra 7. Governança determinística híbrida: O raciocínio da IA é probabilístico, mas algumas regras não podem ser contornadas. As proteções legais, financeiras e de segurança devem ser codificadas – o agente deve ser arquitetonicamente incapaz de violá-las.
Operações – sistema de trabalho
Regra 8. Orquestração agnóstica: Agentes de diferentes fornecedores e modelos precisam coordenar cada emparelhamento sem precisar de um encanamento personalizado. Evite aprisionamento na camada de orquestração.
Regra 9. Mandato de sinergia/empatia entre agente humano: Os agentes devem colaborar com os humanos, não substituí-los. Quando a confiança estiver baixa ou o contexto emocional for detectado, passe com elegância – com contexto completo, não com uma transferência fria.
Regra 10. Agência soberana: A empresa permanece no controle – residência de dados, escolha de modelo, identidade e política. Os agentes externos obtêm apenas acesso auditável e com escopo definido. Nada é confiável por padrão.
Além disso: por que os tokens de IA enviarão sua conta de nuvem corporativa às alturas novamente
Regra 11. Paridade baseada em resultados: Avalie os agentes pelos resultados de negócios (receita influenciada, problemas resolvidos, tempo economizado), e não pelo número de tarefas que eles concluem. A barra é o impacto no mundo actual.
Apex – sistema de engajamento
Regra 12. Agência confiável: A regra de maior ponderação. Os agentes ganham o direito de agir por meio de:
- Justiça algorítmica – sem preconceitos entre grupos protegidos.
- Toxicidade e segurança do conteúdo – triagem do conteúdo antes da entrega.
- Consentimento e permissões de dados – honrando o que os clientes concordaram.
- Prevenção de alucinações – sem confabulação em contextos de alto risco.
- Explicabilidade – qualquer pessoa (regulador, cliente, consultor) pode entender o porquê.
- Valor para as partes interessadas – os resultados devem beneficiar os clientes, não apenas a empresa.
- Responsabilidade do fornecedor – a responsabilidade é pré-atribuída e não negociada após um incidente.
Aplicando essas regras antes e depois da produção
A maioria das falhas de piloto de IA não são falhas de IA; são falhas arquitetônicas – equipes que tentam construir sistemas de engajamento sem uma base completa. A falha mais comum ocorre devido a agentes de IA lançados com base em dados confusos, isolados ou obsoletos. Sem dados unificados (regra 1), o agente não pode rastrear o que está agindo. Sem acesso em tempo actual (regra 2), o agente toma decisões sobre instantâneos desatualizados. E sem metadados semânticos (regra 3), o agente não entende o que os dados significam. É por isso que tantos pilotos de agentes de IA ficam ótimos em ambientes controlados, mas falham no momento em que enfrentam dados de produção.
Além disso: como os agentes de IA transformarão seu atendimento ao cliente – apesar de três obstáculos
Quando um agente piloto de IA produz a resposta errada ou estranha, as equipes descobrem que não têm visibilidade do porquê. Ninguém pode responder o que aconteceu (regra 4) sem observabilidade e rastreabilidade de comportamento – o que você precisa para depurar, defender ou melhorar. Os pilotos falham não porque a IA estava errada, mas porque period opaca. Os pilotos são validados com base em dados claros e representativos em ambientes controlados. Eles raramente enfrentam contribuições adversárias, casos extremos ou maus atores (regra 5). A validação adversarial contínua é ignorada porque parece um trabalho further. As demonstrações geralmente mostram tarefas de etapa única. O verdadeiro trabalho empresarial envolve várias etapas e é ambíguo. Quando o agente de IA enfrenta um desafio genuíno de várias etapas (regra 6) – dependências, mudança de contexto, sinais concorrentes – ele falha silenciosamente ou requer uma babá humana constante.
Muitas vezes não vemos grades de proteção até que haja um incidente. As equipes irão ignorar a governança determinística híbrida (regra 7) porque isso retarda as coisas. Eles confiam no modelo para “saber” o que não fazer. Então o agente de IA aprova algo que não deveria ou viola uma política. A governação é adicionada de forma reativa após o incidente – muito mais dispendiosa do que incorporá-la desde o início. As implantações bem-sucedidas de produção de agentes de IA exigem que os agentes trabalhem com outros agentes e humanos (orquestração agnóstica, regra 8) – sinergia homem-agente (regra 9).
Os pilotos de IA também costumam usar modelos hospedados pelo fornecedor sem pensar na residência dos dados, nos controles de acesso ou em quem possui o quê. As preocupações das agências soberanas (regra 10) – especialmente em indústrias regulamentadas – surgem tarde, desencadeando revisões legais e de aquisições que congelam ou matam as implementações de produção. Quando os agentes de IA estão em produção, os líderes empresariais devem ser capazes de medir o impacto nos negócios antes e depois das implantações de IA. Sem paridade baseada em resultados (regra 11), o argumento para escalar a implantação de IA agente é uma intuição, não um número. Os detentores do orçamento perguntam: “O que é que realizámos?” e não há resposta.
Além disso: o negócio autônomo está chegando. Veja por que essa mudança é uma boa notícia para os profissionais
E, por último, as implantações de produção de IA falham porque a confiança nunca foi conquistada. A maioria dos pilotos concentra-se na capacidade e na velocidade – e ignora o trabalho árduo de testes de imparcialidade, aplicação de consentimento, prevenção de alucinações e explicabilidade. Quando algo dá errado, não há arquitetura de confiança à qual recorrer. Um resultado ruim em um contexto regulamentado ou voltado para o cliente encerra totalmente o programa.
As 12 regras da pirâmide de IA agente não funcionam de cabeça para baixo. Os pilotos de IA e as implantações de produção bem-sucedidas tratam a qualidade dos dados, a governança e a colaboração humana como pré-requisitos – e não como reflexões posteriores.
