La slopsquatting representa una amenaza emergente en la cadena de suministro posible gracias a las alucinaciones de la IA. A medida que los desarrolladores dependen cada vez más de los asistentes de codificación de IA, sin saberlo, otorgan a los ciberdelincuentes acceso a su software program desde el primer día.
Entendiendo qué es slopsquatting
Slopsquatting es un nuevo tipo de ataque a la cadena de suministro que utiliza un modelo de lenguaje grande (LLM) alucinaciones para inyectar código malicioso en los flujos de trabajo de desarrollo. El término combina «IA slop» y «typosquatting», una práctica engañosa en la que los atacantes registran versiones mal escritas o parecidas de dominios populares para aprovecharse de los usuarios que ingresan URL incorrectamente.
Este novedoso vector de ataque explota la tendencia de los LLM a generar nombres de paquetes de software program ficticios, que luego los actores de amenazas pueden registrar y completar con código malicioso.
Durante la codificación asistida por IA, el modelo puede generar paquetes falsos de código abierto: colecciones empaquetadas de archivos, programas y herramientas de instalación. Esto por sí solo no es necesariamente perjudicial. Sin embargo, si un atacante registra ese nombre de paquete falso, puede inyectar malware que se incorpora directamente al código base del desarrollador.
Cómo la IA crea un riesgo en la cadena de suministro
Tradicionalmente, la IA Los riesgos de seguridad provienen de alucinaciones.lo que puede afectar negativamente a los usuarios que consideran válida la información errónea. Sin embargo, esas mismas alucinaciones se han convertido en vulnerabilidades de seguridad explotables.
Typosquatting es una práctica engañosa en la que un ciberdelincuente registra una versión mal escrita de un paquete widespread para engañar a los desarrolladores. Ha existido durante décadas, por lo que los registros han creado protecciones contra él.
Sin embargo, la IA ha cambiado el modelo de amenaza. Recomienda paquetes ficticios que parezcan plausibles en lugar de simples errores ortográficos. Una vez que los atacantes aprenden qué modelos de paquetes alucinados tienden a inventar, pueden registrar paquetes llenos de malware con esos nombres.
Dado que los paquetes alucinados no son simplemente versiones mecanografiadas de bibliotecas populares, no existen protecciones contra esta práctica a gran escala. Por ejemplo, el registro protege contra un atacante que publica «crossenv», una versión del widespread paquete «cross-env». Sin embargo, no identificaría «mpn set up cross-env file» o «cross-env-extended» como amenazas.
Las alucinaciones son persistentes y graves.
Incluso si muchos LLM recomiendan el mismo paquete alucinado, todavía es posible un compromiso generalizado. Los paquetes maliciosos podrían pasar desapercibidos en producción durante meses o incluso años, lo que permitiría a los actores de amenazas inyectar malware pasivamente en innumerables entornos.
una investigacion El equipo analizó 31.267 vulnerabilidades. perteneciente a 14.675 paquetes en 10 lenguajes de programación. Descubrieron que las vulnerabilidades reportadas están aumentando a una tasa anual del 98%, un crecimiento más rápido que el aumento anual del 25% en la cantidad de paquetes de software program de código abierto. El equipo también observó un aumento del 85 % en la vida útil promedio de las vulnerabilidades, lo que indica una disminución de la seguridad.
Peligros del mundo actual de las alucinaciones de la IA
Los actores maliciosos pueden crear paquetes de acceso abierto con el mismo nombre que las bibliotecas comúnmente alucinadas. En lugar de código estándar, están llenos de malware. Las modelos creen que se refieren a paquetes existentes, por lo que suelen repetir los mismos nombres alucinados. Dado que las alucinaciones no son aleatorias, en teoría los atacantes podrían registrar paquetes que engañan a decenas de miles de desarrolladores.
Estos paquetes parecen legítimos. La similitud de cadenas con bibliotecas reales las hace reconocibles. Los errores tipográficos de un carácter sugieren errores simples en lugar de intenciones maliciosas. Incluso los nombres totalmente inventados siguen siendo creíbles cuando la IA los presenta en el contexto adecuado. La detección es un desafío, ya que los desarrolladores confían en sus asistentes de codificación para recomendar dependencias válidas.
¿Por qué los LLM tienen paquetes de alucinaciones?
Los LLM generan la respuesta estadísticamente más possible en lugar de priorizar la precisión. Como resultado, las alucinaciones son relativamente comunes. Un estudio encontró tasas de alucinaciones oscilan entre el 50% y el 82%según el modelo y el método de solicitud. Incluso GPT-4o, el modelo de mejor rendimiento, no baja del 23%, incluso con una mitigación rápida.
Los ataques de alucinaciones adversas podrían empeorar este problema. Los actores de amenazas pueden aprovechar la manipulación a nivel de token o el envenenamiento de la recuperación para obligar a los modelos a alucinar de la manera que quieran, aumentando la probabilidad de que los modelos recomienden sus paquetes maliciosos.
¿Qué LLM son propensos a hacer slopsquatting?
Si bien todos los LLM son propensos a hacer slopsquatting, algunos son más vulnerables que otros. La probabilidad de producir paquetes alucinados durante la generación del código depende del modelo. Los modelos propietarios tienen cuatro veces menos probabilidades de generar paquetes alucinantes que los modelos de código abierto.
Un grupo de investigación lo demostró realizando 30 pruebas en 30 sistemas diferentes. Fuera de los 576.000 ejemplos de código y de los 2,23 millones de paquetes que produjo, el 19,7% eran alucinaciones. GPT-4.0 Turbo tuvo una tasa de alucinaciones del 3,59%, mientras que DeepSeek 1B, el modelo de código abierto con mejor rendimiento, alcanzó el 13,63%.
Esta investigación sugiere que las organizaciones que dependen de herramientas de inteligencia synthetic de código abierto para la generación de código están aproximadamente cuatro veces más expuestas a ataques de slopsquatting. Sin embargo, eso no significa necesariamente que las herramientas patentadas siempre sean más seguras. Una vez que los atacantes se dan cuenta de esta disparidad, pueden manipular los LLM propietarios para aprovechar la seguridad percibida.
La codificación Vibe contribuye al problema
Los desarrolladores de software program que utilizan herramientas de inteligencia synthetic estiman que más del 40 por ciento del código que se comprometen incluye asistencia de IA. Esperan que ese porcentaje aumente considerablemente en los próximos años. El 72% de quienes han probado la IA ya la utilizan a diario.
El aumento en la codificación de vibraciones y la codificación asistida por IA amplifica la superficie de amenaza. A medida que más desarrolladores integran herramientas de inteligencia synthetic en sus flujos de trabajo sin implementar procesos de verificación adecuados, la superficie de ataque para el slopsquatting continúa expandiéndose.
Para quienes utilizan la IA para ayudar con la codificación, es esencial verificar dos veces los resultados. Verificar que los paquetes recomendados realmente existan en los repositorios oficiales antes de incorporarlos a los proyectos cut back el riesgo.
Navegando por el desarrollo asistido por IA
La implementación de verificaciones automatizadas que validen los nombres de los paquetes con registros conocidos puede ayudar a detectar paquetes alucinados antes de que ingresen al código de producción. Los equipos de seguridad también deben monitorear instalaciones de paquetes inusuales y mantener inteligencia de amenazas actualizada sobre campañas de slopsquatting conocidas.
Zac Amos es el editor de funciones en Rehackear.
¡Bienvenido a la comunidad VentureBeat!
Nuestro programa de publicaciones invitadas es donde los expertos técnicos comparten conocimientos y brindan análisis profundos neutrales y no adquiridos sobre inteligencia synthetic, infraestructura de datos, ciberseguridad y otras tecnologías de vanguardia que dan forma al futuro de las empresas.
Leer más de nuestro programa de publicaciones de invitados y consulte nuestro pautas ¡Si estás interesado en contribuir con un artículo propio!
