La Oficina del Fiscal de la Ciudad de San Francisco envió cartas de cese y desistimiento a Apple y Google, ordenándoles retirar de sus tiendas digitales 13 aplicaciones de “face-swap” conocidas como Nudify apps, utilizadas principalmente para crear imágenes sexualizadas de mujeres y niñas sin su consentimiento.
Contexto del caso
- Estas apps permiten manipular fotos para generar desnudos falsos mediante IA.
- El objetivo de la acción legal es frenar la explotación digital y proteger a las víctimas de violencia de género en línea.
- San Francisco acusa a las compañías de lucrar con contenido dañino y exige que dejen de distribuirlo, porque seamos sinceros todo nace desde ahí, ya que en primera no deberían existir esas aplicaciones que incitan al morbo pues el resultado da a la violación de los derechos de las personas, pues estás aplicaciones proyectan una imagen distorsionada de ellas, provocando inseguridades y una falta de confianza.
Empresas involucradas
- Apple App Store y Google Play recibieron las notificaciones oficiales.
- Se les ordena eliminar las aplicaciones y detener cualquier beneficio económico derivado de ellas.
Te recomendamos: El primer tráiler de ‘Avengers: Doomsday’ reúne a todo el universo Marvel y X-Men
Implicaciones más amplias
- El caso refleja la creciente preocupación por el uso de IA generativa en contenidos abusivos.
- Refuerza el debate sobre la responsabilidad de las plataformas tecnológicas en la moderación de apps dañinas.
- Podría sentar un precedente legal para otras ciudades y países que buscan regular este tipo de software.
El ultimátum de San Francisco
San Francisco marca un punto de inflexión en la lucha contra el abuso digital, presionando a las grandes tecnológicas para que asuman responsabilidad sobre las aplicaciones que permiten la creación de imágenes falsas y sexualizadas pues en medio de este contexto la población se ve afectada más que nada pensando en los niños que cualquiera tiene al alcance ese tipo de aplicaciones y no tendrían por qué tener una distorsión en sus pensamientos, ya que provoca un daño el hecho de sexualizar a los niños, por ello es importante que tomen represalias y se hagan cargo los grandes tecnológicos, mínimo en no consentir el uso de estas imágenes dentro de sus plataformas.
Para más contenidos como este no olvides seguirnos en nuestras redes sociales: Tiktok, Instagram y Facebook.
