Discord ha reconocido que un error en su sistema de moderación de IA prohibió por error a más de 8.000 usuarios en los últimos dos meses, después de que imágenes inofensivas (incluidas hojas de cálculo, tableros de ajedrez, texturas de juegos, así como fondos transparentes blancos y grises) fueran marcadas incorrectamente como contenido dañino.
La compañía confirmó que el problema había estado afectando a las cuentas desde mayo, con 200 usuarios adicionales prohibidos durante el fin de semana antes de que su equipo identificara y solucionara el problema. Todas las cuentas afectadas se encuentran actualmente en proceso de restauración.
El incidente pone de relieve uno de los crecientes desafíos que rodean la moderación asistida por IA, ya que muchas plataformas dependen cada vez más de sistemas automatizados para identificar materials ilegal o abusivo a escala.
en un hilo detallado en XDiscord explicó que su sistema de seguridad automatizado funciona comparando el contenido subido con bases de datos de materials dañino conocido. Si bien la tecnología está diseñada para detectar contenido ilegal, la empresa reconoció que a veces puede generar falsos positivos. Un moderador humano revisa el contenido, pero un error provocó que el sistema prohibiera inmediatamente las cuentas afectadas.
«Estamos trabajando para mejorar las salvaguardias para que esto no vuelva a suceder», escribió la empresa.
Nuestros sistemas marcan el contenido comparándolo con materials dañino conocido. Este tipo de coincidencia de similitudes puede producir falsos positivos, por lo que un miembro de nuestro equipo de Confianza y Seguridad siempre revisa el contenido marcado antes de tomar cualquier medida.
El comportamiento previsto es…
– Soporte de discordia (@discord_support) 7 de julio de 2026
A través de X y Redditlos usuarios afirmaron que habían sido suspendidos permanentemente simplemente por cargar imágenes que contenían patrones de cuadrículas cuadradas. Varios usuarios especularon que las herramientas de moderación de IA de Discord se han vuelto cada vez más sensibles a patrones similares a cuadrículas porque anteriormente se habían utilizado en intentos de ocultar o disfrazar contenido NSFW y de explotación infantil de los sistemas de detección automatizados.
Los usuarios afectados han expresado su frustración en las redes sociales, y algunos argumentan que las prohibiciones permanentes de cuentas basadas únicamente en la detección automática pueden tener consecuencias graves, particularmente para los usuarios que dependen de Discord para trabajar, comunidades de juegos o conexiones sociales de larga distancia.
«Perder una cuenta de Discord por algo tan injusto como esto puede ser extremadamente devastador y afectar gravemente a los usuarios, y cada día millones de usuarios se ven afectados por falsas prohibiciones de IA. Esto debe detenerse», dijo un usuario de X. escribió.
Mi cuenta fue prohibida injustamente en su plataforma debido a un error en su automod de IA que detectó mis TEXTURAS DE JUEGO como CSAM. Necesito recuperar mi cuenta porque soy director de juegos y uso Discord para todas mis comunicaciones. He solicitado una revisión de mi suspensión.@discordia @discord_support pic.twitter.com/QfAkCIJo6S
— JDBRYANT 🎂 HOY (@jdbryantdev) 4 de julio de 2026
Discord no es el único que enfrenta problemas de moderación debido a los sistemas automatizados. El año pasado, los usuarios de Grupos de Instagram y Fb informaron suspensiones de cuentas generalizadas e inexplicables que muchos creían que fueron causadas por sistemas de moderación de IA. Aunque los usuarios señalaron a la automatización como el possible culpable, Meta nunca confirmó públicamente si los errores de IA fueron los responsables. Ahora la Junta de Supervisión de Meta está presionando para lograr una mayor transparencia.
El año pasado, Tumblr también enfrentó quejas de usuarios que dijeron que sus cuentas habían sido suspendidas masivamente sin explicaciones claras.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
