Los asistentes de codificación de IA como Claude se están convirtiendo en los compañeros de trabajo favoritos de todos los desarrolladores. Pueden revisar el código, explicar funciones confusas e incluso escribir funciones completas con un solo mensaje. Pero una nueva investigación sugiere que esta creciente confianza también podría convertirse en su mayor debilidad.
Un equipo de investigadores de seguridad (profesor Sudipta Chattopadhyay e investigador Murali Ediga) ha demostrado una ataque inusual que no apunta directamente al modelo de IA. En cambio, se centra en aquello a lo que la IA no presta suficiente atención durante las revisiones del código. En lugar de ocultar instrucciones maliciosas en líneas de código, los investigadores las guardaron dentro de un archivo de imagen. Dado que muchas herramientas de revisión de IA tratan las imágenes como activos decorativos en lugar de algo que vale la pena inspeccionar, la solicitud de extracción puede parecer perfectamente inofensiva y navegar a través de la revisión.
El archivo más peligroso podría ser el que nunca abrirías
Imagínese recibir un documento con el logotipo de una empresa en la esquina. Probablemente le echarías un vistazo y seguirías adelante. Ahora think about que ese logotipo contenía en secreto instrucciones que le decían a su asistente de inteligencia synthetic que abriera su bóveda de contraseñas la próxima vez que la usara. Esa es esencialmente la thought detrás de esta prueba de concepto. El truco tampoco se ejecuta inmediatamente después de fusionar el código. Espera hasta que un desarrollador le pide más tarde a un asistente de codificación de IA que realice una tarea completamente ajena, como crear una función auxiliar o agregar un nuevo módulo. Para entonces, la IA ya ha absorbido las instrucciones ocultas y, sin saberlo, puede acceder a archivos confidenciales del proyecto antes de introducir información confidencial en el código que genera.
Lo que es especialmente preocupante es que los datos robados no se vierten en el código fuente de forma obvia. En cambio, están disfrazados de valores de apariencia común que se combinan con código legítimo, lo que hace que sea mucho menos possible que activen herramientas de seguridad existentes o llamen la atención de un desarrollador durante una revisión rápida.
No se trata solo de qué IA makes use of
Los investigadores también encontraron que el resultado no estaba determinado por el modelo de lenguaje grande que se utilizaba. En muchos casos, el mismo modelo de IA se comportaba de manera muy diferente dependiendo del asistente de codificación que lo rodeaba. Algunas herramientas siguieron ciegamente las instrucciones ocultas, mientras que otras reconocieron algo sospechoso y se negaron a continuar. Esa es una distinción importante porque sugiere que el problema no se limita a un chatbot en specific. El verdadero desafío radica en cómo las plataformas de codificación impulsadas por IA deciden en qué información confiar y a qué archivos de proyecto pueden acceder.
La buena noticia es que los investigadores no creen que éste sea un problema imposible de resolver. Argumentan que las herramientas de revisión de IA deben volverse “multimodales” en el sentido más estricto: tratar imágenes, documentación, archivos de configuración y otros activos que no sean código con el mismo nivel de escrutinio que el código fuente. Si una IA puede leer una imagen, también necesita comprender que la imagen podría estar intentando manipularla. Para los desarrolladores, este es otro recordatorio de que las herramientas de codificación de IA aún necesitan supervisión. Pueden acelerar drásticamente el desarrollo de software program, pero también abren superficies de ataque completamente nuevas que antes no existían. Es posible que el próximo riesgo de seguridad no esté oculto en miles de líneas de código, sino que podría estar dentro de una imagen que nadie pensó que valiera la pena abrir.
