¡Hey, Geekzillo! Discord confirmó un error en su sistema de moderación automatizada que resultó en el bloqueo injusto de más de 8,000 cuentas desde mayo. El fallo identificó erróneamente imágenes inofensivas, como hojas de cálculo y texturas de juegos, como contenido dañino.
(Imagen: Discord)
¿Qué causó el error de moderación en Discord?
El sistema de seguridad de Discord, diseñado para comparar archivos subidos con bases de datos de material ilícito, sufrió un error crítico. Normalmente, una revisión humana actúa como filtro, pero esta falla permitió que el sistema bloqueara cuentas de forma automática e inmediata.
Los objetos “prohibidos” por accidente:
Según reportes de usuarios en X (Twitter) y Reddit, el sistema se volvió demasiado sensible a patrones geométricos. Los objetos que activaron falsos positivos incluyen:
- Hojas de cálculo (Excel/Google Sheets).
- Tableros de ajedrez y patrones de cuadrícula.
- Texturas de videojuegos.
- Fondos transparentes (estilo tablero de ajedrez gris y blanco).
Se especula que la IA aumentó su sensibilidad a estos patrones porque, anteriormente, fueron usados para ocultar contenido NSFW o material de explotación infantil, provocando que el algoritmo “sobre-reaccionara” ante imágenes inofensivas.
Te recomendamos leer: Muse Image: La IA definitiva de Meta para transformar tus fotos
El desafío de la IA en la moderación de contenido
Este incidente reabre el debate sobre la dependencia de la Inteligencia Artificial para la moderación a gran escala. Mientras plataformas como Instagram y Facebook (propiedad de Meta) han enfrentado críticas similares por suspensiones inexplicables, Discord se ha comprometido a implementar mejores medidas de seguridad.
Para los usuarios, perder el acceso a su cuenta —que a menudo es su centro de trabajo o comunidad social— representa un problema grave. La Junta de Supervisión de Meta ya presiona por mayor transparencia en estos sistemas, un estándar que la comunidad de Discord ahora exige a la plataforma.
Discord: ¿Fuiste afectado?
Si tu cuenta fue suspendida erróneamente, Discord ha iniciado el proceso de restauración automática. Mantente atento a tu correo electrónico asociado a la plataforma para cualquier notificación oficial.
Este incidente es un recordatorio contundente de que, aunque la Inteligencia Artificial es una herramienta poderosa, no es infalible. La tecnología de Discord debe encontrar el equilibrio perfecto entre proteger a su enorme comunidad y evitar el castigo injusto a usuarios que solo comparten archivos de trabajo o texturas creativas.
Para más contenidos como este no olvides seguirnos en nuestras redes sociales: Tiktok, Instagram y Facebook.
