Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- Mover agentes de IA para a produção pode ser uma tarefa difícil.
- Profissionais inteligentes concentram-se em governança e estruturas.
- Eles trabalham com especialistas e garantem que resultados claros sejam definidos.
Há muito entusiasmo sobre o potencial dos agentes de IA, mas há menos evidências de que as ferramentas estejam produzindo retorno sobre o investimento.
O analista de tecnologia Gartner previu recentemente que 40% das empresas irão rebaixar ou desativar agentes autônomos de IA até 2027 devido a lacunas de governança que só são identificadas após a ocorrência de incidentes quando esses agentes estão em produção.
Além disso: a IA está causando fadiga cognitiva. Veja como trabalhar com mais pressa e menos velocidade
No recente Snowflake Summit, em São Francisco, três líderes digitais explicaram como suas organizações colocam agentes em produção. Eles compartilharam três lições para outros profissionais que buscam explorar a IA: usar estruturas, explorar especialistas e monetizar dados.
1. Concentre-se em estruturas
Matt Luizzi, vice-presidente de análise da Whoop, especialista em tecnologia vestível, disse que sua organização coleta dados biométricos 24 horas por dia, 7 dias por semana, para potencializar seus insights de saúde e bem-estar, com Snowflake apoiando os serviços analíticos internos da empresa.
Luizzi disse que os agentes desempenham um papel cada vez mais importante neste processo, especialmente o Snowflake CoCo, o agente de codificação do especialista em tecnologia para desenvolvedores e engenheiros de dados.
“Estamos usando o CoCo há vários meses e começamos apenas com a equipe de análise, que é formada por pessoas que poderiam rapidamente analisar uma resposta de consulta e dizer se isso está correto ou não, e tentando descobrir como dimensionar esse processo”, disse ele.
“Agora estamos no ponto em que criamos estruturas de avaliação mais formalizadas e começamos a distribuir agentes em grande escala.”
Além disso: Esqueça a produtividade: aqui estão cinco mudanças estratégicas que geram valor actual da IA
Luizzi disse que a empresa possui engenheiros de software program que implantam testes A/B e usam CoCo para analisar os resultados, propor o próximo recurso, testá-lo e iterá-lo.
“Essa abordagem está acelerando rapidamente a maneira como entregamos não apenas valor comercial, ao automatizar a estrutura de experimentação, mas também valor para o cliente”, disse ele.
Luizzi disse que sua organização teve sorte porque o encanamento subjacente já estava instalado para suas explorações de agentes, devido aos dados da empresa estarem centralizados na plataforma Snowflake. Eles usaram o serviço Cortex AI da empresa para começar a testar agentes e aprender lições.
“Aprendemos rapidamente que o contexto period tudo”, disse ele. “Isso significou realmente se apoiar na camada semântica e garantir que o contexto esteja estruturado.”
Além disso: Por que troquei o Copilot por Claude no Phrase, Excel e PowerPoint – e como você também pode fazer isso
Luizzi disse que uma lição importante é que as estruturas são cruciais para explorações bem-sucedidas de IA de agentes.
“Estamos tentando fazer tudo de uma maneira mais repetível, da mesma forma que fizemos com nossa arquitetura de dados nos últimos 10 anos”, disse ele. “Construir estruturas repetíveis que nos permitam dimensionar essas cargas de trabalho de IA é algo que estamos levando adiante conosco”.
2. Use analistas especializados
Madeleine Need, vice-presidente de dados da Fanatics, especialista em esportes, gerencia engenharia de dados, ciência de dados e aprendizado de máquina em toda a divisão de apostas e jogos da organização, com esta atividade apoiada pela plataforma Snowflake.
“Quando começamos a experimentar, não tínhamos certeza do que iria funcionar e do que iria escorregar, mas descobrimos que o que funcionou foi que quanto melhor a condição dos dados subjacentes e melhor a governança deles, mais facilmente o LLM foi capaz de derivar significado e responder perguntas de forma eficaz”, disse ela.
Além disso: como a implementação de IA desta empresa de viagens gerou um aumento de 73% na satisfação: um handbook de 5 etapas para sua empresa
Embora esse foco nos dados e na governança possa parecer algo óbvio de se dizer, disse Need, certamente não period o caso há 18 meses.
“Tínhamos muita experiência como organização na construção de modelos de aprendizagem automática personalizados, por isso period difícil acreditar que a ideia de importar um modelo de terceiros e simplesmente colocá-lo em cima dos dados pudesse funcionar para análise. Mas agora essa abordagem está muito incorporada na forma como fazemos tudo”, disse ela, antes de descrever como a sua organização passou da exploração para a exploração.
“Tivemos sucesso desde o início em domínios que eram bem delimitados em contexto e onde tínhamos analistas especializados que entendiam o domínio do negócio de cima a baixo e eram capazes de treinar o agente.”
Need disse que sua organização obteve mais sucesso ao longo do tempo. O investimento que precisam de fazer na camada de contexto está a diminuir, assim como o grau de supervisão que um agente necessita antes de poder começar a responder a perguntas de forma autónoma.
“A nossa capacidade de medir a precisão das respostas está a aumentar, porque estamos agora a introduzir estruturas de avaliação escalonadas, que nos ajudam a ter confiança na forma como os agentes respondem quando não estamos a olhar, o que é o ponto principal.”
Além disso: agentes de IA preocupados irão substituí-lo? 5 maneiras de transformar a ansiedade em ação no trabalho
Need disse que esses sucessos significam que o escopo dos agentes está aumentando. Em vez de se limitarem apenas à análise, outros profissionais veem os aspectos positivos e querem explorar os agentes.
Embora a Fanatics ainda use as interfaces e agentes do Snowflake, a empresa está incorporando APIs e respostas em outras ferramentas de terceiros para que as pessoas possam fazer mais com insights baseados em dados.
“Os usuários querem ir mais longe e fazer mais com casos de uso operacionais”, disse ela. “As pessoas exigem poder acessar esses insights por meio de uma variedade de canais e meios de consumo diferentes, porque precisam poder usar os dados onde estão trabalhando”.
3. Monetize seus dados
Sriram Sitaraman, CIO da Synopsys, especialista em software program, disse que sua organização é cliente de longa knowledge da Snowflake e usa a plataforma de dados e seus serviços de agência, como CoCo, para potencializar seus processos de tomada de decisão.
Há cerca de 18 meses, Sitaraman disse que a empresa reconheceu o potencial dos agentes de IA para cumprir as tarefas dos funcionários juniores, como executar consultas rápidas, criar gráficos e obter insights.
“Aproveitamos essa capacidade e dissemos: ‘OK, veja, se criarmos um agente de conhecimento, poderemos começar a implantá-lo em múltiplas dimensões'”.
Além disso: 90% dos projetos de IA falham – aqui estão três maneiras de garantir que o seu não falhe
Os exemplos incluem um agente de receitas para o departamento financeiro que executa relatórios e um agente de depuração para o sistema de tickets associado aos knowledge facilities da empresa.
Sitaraman disse que a equipe avaliou o potencial da IA em três dimensões: a qualidade dos resultados, o tempo de obtenção dos resultados e o custo dos resultados.
Eles descobriram que a IA tem um impacto positivo em todas as três áreas, o que ele disse ser um avanço significativo: “No passado, period preciso sacrificar uma ou outra”.
Agora, em vez de ter que reprogramar os sistemas cada vez que o modelo de IA é ajustado de acordo com o contexto, é possível concentrar-se nos insights em vez de se preocupar com as preocupações subjacentes.
“Comece com dados – monetize seus dados usando IA”, disse Sitaraman, refletindo sobre a jornada de atuação de sua empresa. “Não importa quanto quantity você investe na iniciativa, porque a IA é realmente uma escala linear. Quanto mais dados a IA tiver, melhores decisões ela tomará.”
Além disso: 5 maneiras de usar IA quando seu orçamento está apertado
No entanto, Sitaraman também emitiu um alerta. “Uma coisa que percebemos é que hoje não há muita diferença entre automação e autonomia, por isso é preciso ter cuidado”, disse ele.
“Você deseja automatizar um processo ou realmente criar um agente, que envolve uma estrutura de custos, padrão de uso e governança diferentes?”
Sitaraman incentivou os profissionais a identificar os casos de uso corretos, construir as estruturas certas e nunca subestimar o que um agente pode fazer.
“Você pode contratar um agente e dizer: ‘Este é um agente de operações de vendas’. Muitas vezes, não há nada que o impeça de se tornar também um agente analista de vendas ou outro tipo de agente”, disse ele.
“Portanto, é importante perguntar: ‘É isso que queremos que faça?’ As estruturas são muito importantes, assim como as habilidades. Você precisa pensar cuidadosamente no processo.”
