Inicio Tecnología El director basic de Vercel, Guillermo Rauch, sobre la lucha para separar...

El director basic de Vercel, Guillermo Rauch, sobre la lucha para separar modelos de agentes

12
0

Conocido por su infraestructura en la nube que permite a los desarrolladores implementar agentes sin administrar servidores, Vercel se ha convertido silenciosamente en una de las empresas más importantes en software program de inteligencia synthetic. Actualmente, la compañía realiza 6 millones de implementaciones por día, la mitad de ellas activadas por agentes de codificación, y más de 1 billón de tokens fluyen a través de ellas. la puerta de enlace de IA de la empresa a diario.

Después de la conferencia ShipNYC de la compañía la semana pasada, nos sentamos con el director ejecutivo de Vercel, Guillermo Rauch, para conocer su visión de este momento en IA y cómo las empresas de plataformas como Vercel terminan compitiendo con los principales laboratorios. Aquí hay una transcripción ligeramente editada.

Se siente como si hubiera una energía diferente en la comunidad este año, menos programas piloto y más enfoque en cómo hacer que las cosas funcionen bien en la práctica. Estoy seguro de que lo ha visto muchas veces con los clientes, pero tengo curiosidad por saber cómo ha sido ese viaje dentro de Vercel.

El año pasado se trató de creación de prototipos. El cielo es el límite, libera a los agentes, todos pueden construir, and so forth. Lo hicimos y aprendimos mucho porque teníamos cientos de agentes desarrollados e implementados orgánicamente dentro de la empresa, y luego comenzamos a profundizar en las realidades de los agentes en producción y algunos de los desafíos.

La lección más importante para mí fueron los casos de uso exitosos, las dos aplicaciones asesinas de agentes. Uno es, por supuesto, el agente codificador. Eso está impulsando gran parte de la utilización de tokens en el mundo, pero cuando se produce tanto software program, se necesita un lugar donde colocarlo. La segunda aplicación principal de los agentes es el agente interno que le ayuda a gestionar la empresa. El desafío es: ¿cómo se accede de forma segura a los datos? ¿Cómo se audita lo que está haciendo el agente? ¿Cómo se puede obtener un seguimiento de todas las llamadas a herramientas y controles de acceso en los que tuvo que incurrir el agente para realizar un trabajo?

Para resolver eso, se nos ocurrió este marco llamado Eve, donde puedes exponer las instrucciones y habilidades de los agentes en lenguaje pure. Y otra herramienta es Vercel Sandbox, donde pones al agente en una pequeña jaula. Todavía puede tener la libertad de expresar su inteligencia, pero luego puede aplicar políticas sobre a qué datos puede acceder y qué datos pueden salir del entorno de pruebas.

¿Qué tipo de problemas te ayuda eso a evitar?

Para [the] Sandbox, la mayor ventaja es el management de datos. Un riesgo actual de la IA en el que siempre pienso es que, cuando obtienes un IDE de codificación como Devin o Cursor, si estás en la configuración incorrecta, es posible que se entrenen en todo tu código base. Recuerdo haber hablado con el presidente de Airbus sobre esto. Tiene décadas de riqueza en código C++ muy específico para ingeniería aeroespacial. Alguien entra e instala la herramienta de desarrollo equivocada y growth, todo el código se envía a la nube para recibir capacitación.

Tengo curiosidad por saber más sobre ese segundo caso de uso asesino. Todos sabemos acerca de los agentes de codificación, pero ¿cómo es en la práctica un agente corporativo interno?

Entonces, hay un representante de ventas ahí afuera. [in Vercel’s office]. Trabaja en base de instalación. Su trabajo es hacer crecer las cuentas existentes. El cuello de botella para personas como ella no ha sido su creatividad, inteligencia o capacidad para construir relaciones, sino los datos. «No entiendo qué cuentas están creciendo más rápido. Dame las cinco cuentas que han agregado más puestos en las últimas dos semanas, para que pueda priorizar mi trabajo». Ella no podía hacer esa pregunta en el pasado. Tenía que esperar hasta que se completara un proyecto del primer trimestre para un nuevo panel de ventas.

Estuvimos en ese cuello de botella durante años en Vercel y fue realmente frustrante porque, en lo que respecta a I+D, somos la empresa que avanza más rápido del mundo. Pero en el motor de ventas, la ingeniería de Salesforce [side]Yo period tan incompetente. Nunca había abierto Salesforce en mi vida cuando comencé.

Ahora siento que puedo tener un impacto en toda la empresa, porque Eve puede usarse para nuestros agentes de atención al cliente y puede usarse para mejorar la productividad. La misma tecnología, son solo API. Los agentes están obligando a las empresas a abrirse, y eso tendrá implicaciones dramáticas a largo plazo. Muchos de estos gigantes de SaaS construyen sus reinos enteros atrapando sus datos, y eso es incompatible con los agentes.

¿Cómo cree que cambiarán las relaciones de los clientes con los grandes laboratorios de IA?

El año pasado, hubo muchas personas que eligieron un socio de laboratorio y dijeron que construirían todo en OpenAI o Anthropic. Ahora dicen: entiendo cómo funciona todo esto (modelo, arnés, plataforma de datos, entorno de pruebas, puerta de enlace), cada pieza es plug and play. Puedes usar OpenAI, puedes usar Anthropic o puedes usar Gemini. Estamos viendo un gran crecimiento de Gemini, aunque no aparece tanto en las noticias, porque la gente está optimizando la producción ahora. La realidad es que, cuando se optimiza la producción, se empieza a observar la relación precio/rendimiento, y los modelos Gemini tienen características de precio/rendimiento impresionantes. También trae modelos abiertos, por lo que DeepSeek y GLM-5.2 están despegando. Los datos no mienten.

Hay lugares donde también compites directamente con los laboratorios, ¿verdad? La otra semana, OpenAI lanzó un nuevo conjunto de herramientas que publican directamente en la internet sin tener que abandonar el enclave de OpenAI.

El siguiente paso pure para ellos es alojar pequeños sitios internet. Y es una gran apertura para nosotros, porque ahora la gente considerará ChatGPT como una herramienta para crear sitios internet. Y luego, si siguen haciendo preguntas al modelo sobre alojamiento internet, el modelo nos recomienda. Pero tiene razón, a medida que los modelos o plataformas agregan más capacidades, entran en competencia directa con las plataformas de infraestructura que ya existen.

Realmente creo que en este punto estamos decidiendo si el modelo y el agente se van a acoplar.

¿Obtienes toda tu inteligencia de un solo lugar? ¿O obtienes un módulo, una biblioteca o un bloque de construcción de un proveedor y luego construyes sobre él? Eso es más bien lo que siempre ha sido la ingeniería de software program, y eso es realmente lo que estamos llevando al mercado. Seremos el AWS de esta generación, por lo que obviamente estamos luchando por un mundo de protocolos abiertos.

Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.

fonte

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí