La inteligencia synthetic se ha convertido rápidamente en la herramienta de referencia para todo, desde escribir correos electrónicos y resumir reuniones hasta ayudar a los estudiantes a estudiar o a los desarrolladores a depurar código. Pero la misma tecnología que ahorra tiempo a las personas también puede usarse indebidamente, y un nuevo informe sugiere que las organizaciones terroristas están encontrando formas de hacer exactamente eso.
Según un trabajo de investigación compartido con Los New York Times Antes de su publicación, los investigadores encontraron evidencia de que miembros de Boko Haram han estado utilizando populares chatbots de IA para apoyar tanto las actividades diarias como las tareas relacionadas con el combate. Las entrevistas con 27 ex miembros realizadas en Nigeria durante los últimos dos años sugieren que se utilizaron herramientas como ChatGPT, Gemini, Claude, Grok, Meta AI y DeepSeek para recopilar información técnica, solucionar problemas de armas e incluso ayudar en la planificación de ataques.
No fueron solo unos pocos malos actores jugando
Lo que hace que los hallazgos sean especialmente preocupantes es que esto no se describió como el trabajo de unas pocas personas que experimentaban con IA. El informe afirma que el uso de la IA por parte del grupo se había organizado, con equipos dedicados, capacitación interna y conocimiento compartido entre los miembros. Los investigadores también dicen que algunos usuarios lograron eludir las protecciones de seguridad integradas diseñadas para evitar que la IA responda a solicitudes relacionadas con la violencia.
Eso no significa necesariamente que los chatbots de IA actuales estén dando instrucciones peligrosas a pedido. Gran parte de la investigación se centra en la actividad hasta finales de 2024, y las empresas de inteligencia synthetic dicen que las versiones más nuevas de sus modelos incluyen salvaguardias más sólidas. También señalan que muchas indicaciones caen en un área gris. Por ejemplo, preguntarle a una IA cómo reparar una motocicleta o entender la química básica no es perjudicial en sí mismo, aunque información comparable podría usarse indebidamente.
El desafío ahora es ir un paso por delante
OpenAI dijo al New York Occasions que usar ChatGPT para apoyar el terrorismo o la violencia viola sus políticas y dijo que continúa mejorando sus defensas contra el abuso. Meta también señaló que la investigación involucró principalmente versiones anteriores de sus modelos de IA y dijo que ha fortalecido las medidas de seguridad desde entonces. Mientras tanto, xAI y DeepSeek no respondieron a las solicitudes de comentarios, según el informe.
Los expertos en seguridad también advierten contra asumir que la IA de repente otorga a los grupos terroristas capacidades sobrehumanas. La planificación y ejecución de ataques todavía depende de la logística, la financiación, la comunicación y la coordinación humana del mundo actual, cosas que un chatbot no puede reemplazar. En cambio, los investigadores creen que es más possible que la IA haga que los miembros menos experimentados sean algo más capaces que cambiar drásticamente el panorama de amenazas. Aun así, el informe es otro recordatorio de que la conversación sobre la seguridad de la IA no se trata solo de estudiantes que hacen trampa en sus tareas o personas que generan imágenes falsas. A medida que los modelos de IA se vuelvan más capaces y accesibles, las empresas seguirán enfrentando presión para garantizar que las herramientas poderosas sigan siendo útiles para los usuarios legítimos, mientras que será cada vez más difícil de explotar para los malos actores.
