Presentado por Splunk
Agentic AI está haciendo que los equipos de seguridad y TI sean dramáticamente más eficientes. Pero también está eliminando el aprendizaje que durante mucho tiempo ha producido operadores experimentados.
A medida que las organizaciones automatizan una mayor parte del trabajo que antes realizaban analistas e ingenieros junior, se enfrentan a un desafío que tiene que ver tanto con el diseño de la fuerza laboral como con el diseño de la arquitectura: cómo construir la próxima generación de expertos cuando la IA se encargue del trabajo que alguna vez los capacitó.
Lo que ha estado haciendo la fuerza laboral junior
Durante dos décadas, el camino para convertirse en un analista SecOps, SRE o ingeniero NetOps de clase mundial discurrió por la repetición.
Triaje de falsos positivos. Buscando contexto en los paneles. Lectura de registros a las 2 am que resultó ser benigna. La industria trataba este trabajo como una tarea monótona, y en muchos sentidos lo period.
Pero también sirvió como aprendizaje.
Las miles de horas que un analista pasó observando los patrones de tráfico construyeron la intuición que los hizo invaluables cuando llegaba un ataque actual. Esa intuición no se enseñó en un solo curso ni se plasmó en un runbook. Se acumuló a través de la exposición, el reconocimiento de patrones, el fracaso y la escalada. Con el tiempo, así es como las personas adquieren una profunda experiencia analítica.
Sin embargo, la IA agente ahora está comenzando a automatizar las mismas tareas que alguna vez sirvieron como campo de entrenamiento para esa experiencia. Ésa no es razón para reducir el ritmo. El trabajo pesado fue costoso. El agotamiento fue actual. Las organizaciones deberían utilizar agentes para reducir el trabajo duro siempre que puedan.
Al mismo tiempo, a medida que eliminamos ese ciclo de aprendizaje, debemos ofrecer a los operadores algo mejor en su lugar. La forma en que las organizaciones aborden este tema hoy determinará los ganadores en el futuro.
Las organizaciones que aborden esto deliberadamente producirán operadores capacitados para tener éxito en la próxima década. Las organizaciones que apuestan por esto pueden encontrarse con sistemas más rápidos hoy, pero con menos personas que los entiendan lo suficientemente profundamente como para gobernarlos mañana.
Cuando la automatización socava la responsabilidad
También hay una segunda dimensión en esta conversación que recibe menos atención de la que debería.
En entornos regulados, la monotonía del aprendizaje es parte del nivel de responsabilidad. Los marcos desde SOX hasta PCI DSS, HIPAA y NIS2 suponen que hay una cadena de juicios humanos detrás de una decisión de management.
Los auditores no entrevistan a los modelos. Entrevistan a personas que pueden explicar por qué un sistema hizo lo que hizo, por qué la decisión fue acertada y si se implementaron los controles adecuados.
Cuando la población de profesionales que pueden explicar esa cadena comienza a disminuir, es posible que el riesgo no aparezca de inmediato. El management aún puede pasar. Es posible que el flujo de trabajo aún se ejecute. Es posible que el tablero todavía se vea verde.
Pero la memoria organizacional subyacente comienza a vaciarse.
Esto no es simplemente un problema de herramientas. También es un problema de diseño y habilidades de la fuerza laboral. Y para las organizaciones que avanzan rápidamente hacia la adopción de agentes, el riesgo está más cerca de lo que muchos piensan.
Desarrollar experiencia humana para gobernar la IA
Cuando perdamos parte de la capa de responsabilidad ante los agentes, los humanos asumirán un tipo diferente de rol de gobernanza. Gobernar un sistema agente significa implementar barreras de seguridad automatizadas que se adapten al comportamiento no determinista de los agentes y garanticens Los agentes se comportan apropiadamente en condiciones que nadie anticipó por completo. Significa diseñar criterios de escalada que detecten las anomalías correctas sin abrumar a los humanos con las incorrectas. Significa implementar herramientas, alertas y procesos dinámicos para revisar las decisiones de las máquinas y detectar desvíos, sesgos y fallas de razonamiento que ningún caso particular person revelaría.
La capacidad de evaluar y responder a estas excepciones requiere un juicio construido a lo largo de años de experiencia, un reconocimiento de patrones de aprendizaje que el antiguo modelo de aprendizaje solía producir.
Por eso la cuestión de la mano de obra y la cuestión de la arquitectura son ahora la misma cuestión. Si esperamos que los humanos gobiernen sistemas cada vez más autónomos, necesitamos vías intencionales que ayuden a las personas a gestionar la escala y la velocidad de los sistemas de IA y, al mismo tiempo, desarrollar la intuición y el juicio en los operadores humanos necesarios para realizar ese trabajo.
En la period de la IA, las plataformas más valiosas no se limitarán a automatizar la mayoría de las tareas. Ayudarán a las personas a ser más capaces, más creíbles y más esenciales a medida que los sistemas que las rodean se vuelvan más rápidos e inteligentes.
Eso significa que las organizaciones deben invertir en el ecosistema completo de experiencia para los operadores: comunidades que difundan prácticas compartidas, certificaciones u otras pruebas que hagan seen la experiencia, y explicaciones y verificaciones orientadas a los humanos en la IA junto con rutas de aprendizaje que desarrollen capacidades. El empoderamiento es una elección de diseño arquitectónico.
El empoderamiento humano es una parte elementary de la conversación sobre el uso práctico de la IA. Sin embargo, sin una estrategia intencional que respalde esto, corre el riesgo de convertirse en el tipo de frase que no significa nada porque puede significar cualquier cosa.
El empoderamiento de los sistemas agentes no puede ser sólo un requisito conceptual. Tiene que ser un conjunto de opciones de diseño integradas en el comportamiento de los sistemas. Un sistema agente que empodera a sus operadores humanos y aumenta sus habilidades profesionales hace cuatro cosas:
1. Expone el razonamiento, con el linaje de datos detrás de él.
Cada recomendación que hace un agente debe ser rastreable hasta los datos que consideró, la lógica que aplicó y la procedencia de los insumos que utilizó. Los operadores que pueden ver el razonamiento desarrollan un juicio sobre cuándo confiar en él. Los operadores sólo entregan conclusiones y no lo hacen.
2. Niveles de autoridad según la confianza y el impacto
Los patrones familiares y de bajo riesgo se pueden manejar de forma autónoma. Las situaciones o acciones novedosas con un radio de explosión significativo deberían intensificarse de forma predeterminada. El límite debe ser explícito y configurable por los equipos dueños de las consecuencias.
3. Trata los desacuerdos como una señal de corrección.
Cuando un ingeniero experimentado anula a un agente, está haciendo más que estar en desacuerdo. Están corrigiendo el sistema con un juicio que el modelo no tenía: una dependencia frágil, una peculiaridad del entorno, una restricción que los datos nunca vieron. Un sistema que registra la anulación pero ignora el razonamiento detrás de ella no aprende nada del momento en que un humano supo que no period así.
4. Capta resoluciones como conocimiento entre dominios.
La forma en que se resuelve un incidente es una lección que rara vez se queda en un solo carril. Un incidente de SecOps puede exponer una debilidad de ITOps. Un problema de crimson puede tener su origen en un impacto empresarial. Cuando esa conexión se encuentra sólo dentro de un ticket cerrado, el siguiente equipo en alcanzarla comienza desde cero. Las resoluciones deben viajar a través de dominios, no morir donde fueron presentadas.
Éstas no son cualidades a las que se aspira. Son capacidades de producto comprobables. Los líderes que evalúan sistemas de agentes deberían poder identificar dónde residen estas capacidades, qué sucede cuando fallan y si la habilidad del operador mejora después de la implementación.
La siguiente ventaja es cuando los humanos y la IA escalan juntos
Para que los sistemas de IA sean prácticos, confiables y funcionen a escala, el punto crítico de diseño es que la IA trabaje profundamente junto con los operadores humanos y los empodere.
Como tal, la period agencial no es una historia sobre la sustitución de humanos. Se trata de rediseñar los sistemas que operan los humanos para que estas operaciones puedan realizarse a la velocidad y escala de las máquinas, mientras la experiencia humana crece al mismo tiempo. Juntos, en lugar de hacerlo a costa de los demás.
Ese resultado no es un hecho. Sucederá sólo cuando los líderes traten el desarrollo de los operadores como una prioridad, no como una ocurrencia tardía. Para lograr esto, los sistemas agentes deben diseñarse intencionalmente para exponer el razonamiento, capturar el aprendizaje y enviar el trabajo a los humanos de manera que desarrollen habilidades y carreras en lugar de erosionar ambas.
Los agentes seguirán volviéndose más inteligentes y más rápidos. La capacidad de los operadores que trabajan junto a ellos para aprender y crecer al mismo tiempo determinará si la próxima década de resiliencia digital es algo que las organizaciones realmente poseen o algo que alquilan de un conjunto cada vez menor de experiencia.
Obtenga más información sobre cómo Cisco Data Fabric impulsado por la plataforma Splunk está ayudando a los equipos a acelerar las operaciones de agencia.
Kamal Hathi es vicepresidente senior y director basic de Splunk, una empresa de Cisco.
Los artículos patrocinados son contenido producido por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat, y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
