La inteligencia synthetic se ha vuelto notablemente buena a la hora de crear rostros humanos falsos. De hecho, son tan buenos que los viejos trucos en los que confiaba la gente (contar los dedos, detectar aretes deformados o buscar fondos distorsionados) se están volviendo obsoletos rápidamente. Según un nuevo estudio destacado por la BBCes posible que la siguiente línea de defensa no sea un mejor detector de IA. Podría ser simplemente un ser humano mejor entrenado.
Investigadores de la Universidad de Aberdeen, en colaboración con la Universidad Nacional de Australia, descubrieron que las personas pueden mejorar drásticamente su capacidad para distinguir rostros generados por IA de los reales después de un período relativamente corto de entrenamiento estructurado. En lugar de buscar fallos visuales obvios, a los participantes se les enseñó a reconocer patrones sutiles que los generadores de imágenes modernos todavía luchan por replicar de manera consistente.
La carrera de la IA está obligando a los humanos a evolucionar también
Durante años, identificar imágenes generadas por IA parecía casi trivial. Los primeros modelos solían producir seis dedos, pendientes que no combinaban o sombras imposibles. Pero los generadores actuales, impulsados por sistemas como StyleGAN3 y modelos de difusión más nuevos, han superado en gran medida esos errores reveladores. Como resultado, los investigadores sostienen que confiar en los defectos visuales ya no es una estrategia eficaz.
En cambio, los participantes fueron entrenados para juzgar seis cualidades perceptivas que los rostros de la IA suelen compartir. Estos incluyen una simetría facial inusualmente perfecta, rasgos altamente proporcionales, un atractivo superior al promedio, estructuras faciales de apariencia genérica, expresión emocional limitada y rostros que son sorprendentemente difíciles de recordar después de haber apartado la mirada.
Los resultados fueron sorprendentes. Antes del entrenamiento, los participantes identificaban correctamente los rostros generados por IA sólo alrededor del 40 por ciento de las veces. Después de aproximadamente una hora de aprendizaje guiado y exposición repetida a rostros reales y sintéticos, la precisión aumentó a casi el 80 por ciento. Un puñado de participantes incluso se acercaron a puntuaciones de detección perfectas. Más importante aún, su confianza se alineó mejor con su desempeño actual, algo que investigaciones anteriores sugirieron que a menudo faltaba.
Por qué detectar caras de IA es más importante que nunca
Esto ya no es simplemente un ejercicio académico. La tecnología deepfake ya se utiliza en fraudes financieros, campañas de influencia política y estafas de identidad en línea. La BBC señala Estimaciones de Deloitte lo que sugiere que las pérdidas por fraude deepfake basado en IA en los Estados Unidos podrían aumentar a £40 mil millones el próximo año, frente a alrededor de £12 mil millones en 2023. También hace referencia a un caso de Hong Kong ampliamente reportado en el que los estafadores supuestamente utilizaron una videollamada deepfake para convencer a un empleado de transferir £25 millones. Mientras tanto, una investigación anterior de Related Press descubrió un perfil de LinkedIn generado por IA que se infiltró con éxito en los círculos políticos estadounidenses.
El estudio también destaca otra cuestión importante: los sistemas de IA siguen siendo menos fiables a la hora de generar rostros mayores, rostros más jóvenes y personas de grupos étnicos subrepresentados debido a sesgos en sus datos de entrenamiento. Esas imperfecciones aún pueden proporcionar pistas útiles para los observadores humanos.
Quizás la conclusión más interesante es que el cerebro humano parece aprender de forma muy parecida a la propia IA. Al ver repetidamente ejemplos de rostros reales y falsos, las personas desarrollan gradualmente un sentido intuitivo de autenticidad en lugar de depender de un solo indicio. Los investigadores creen que el instinto puede convertirse en una de nuestras herramientas más poderosas a medida que la IA generativa continúa mejorando.
La ironía es difícil de ignorar. A medida que la inteligencia synthetic mejora su capacidad de pretender ser humana, es posible que los humanos tengan que empezar a entrenarse como lo hacen las máquinas: a través de datos, repetición y reconocimiento de patrones. Los detectores de IA pueden seguir mejorando, pero la investigación sugiere que no deberían ser la única defensa. El juicio humano todavía tiene un papel que desempeñar; solo necesita una actualización.
