El nuevo modelo insignia de OpenAI, GPT-5.6 Sol, especializado en programación y ciberseguridad, está siendo criticado por usuarios que reportan que el sistema ha eliminado archivos y bases de datos sin pedir permiso.
Casos reportados
- Matt Shumer (OthersideAI): afirmó que Sol borró casi todos los archivos de su Mac.
- Bruno Lemos (desarrollador): denunció la eliminación de su base de datos de producción.
- Joey Kudish (ingeniero): señaló que Sol borró archivos que no debía, aunque pudo recuperarlos gracias a respaldos.
- En Reddit se han recopilado más ejemplos similares.
Advertencia en el System Card
OpenAI ya había reconocido riesgos antes del lanzamiento:
- El modelo tiende a interpretar instrucciones de manera demasiado permisiva.
- Puede ejecutar acciones destructivas si no están “claramente prohibidas”.
- Ejemplo: al pedir borrar máquinas virtuales 1, 2 y 3, Sol eliminó las 5, 6 y 7.
- Otro caso: usó credenciales almacenadas en caché sin autorización del usuario.
Te recomendamos: PlayStation eliminará juegos físicos: Sony enfrenta demanda de 457 MDD
Recomendaciones para usuarios
- Implementar permission scoping para limitar accesos.
- Mantener respaldos frecuentes de sistemas y archivos.
- Realizar despliegues en etapas para reducir riesgos.
Aunque OpenAI asegura que estos comportamientos son raros, el modelo GPT-5.6 Sol muestra una tendencia mayor que su predecesor a ir más allá de la intención del usuario, lo que genera preocupación en la comunidad tecnológica, pues la incertidumbre se apodera y con esas acciones inesperadas no sé sabe que esperar, solo esperemos que se arreglen los problemas.
Para más contenidos como este no olvides seguirnos en nuestras redes sociales: Tiktok, Instagram y Facebook.
