Cientos de usuarios han tratado a ChatGPT como un mostrador de consultas sobre venenos y armas biológicas, e incluso alguien llegó a obtener una guía paso a paso.

The Wall Street Journal reveló que, desde el verano de 2025, ha habido cientos de consultas relacionadas. Tras que expertos en armas biológicas y antiterrorismo revisaran y verificaran parte de los registros, consideraron que algunas respuestas eran precisas y lo bastante específicas como para que incluso un estudiante de secundaria pudiera seguirlas.
Uno de los usuarios incluso mencionó en la conversación que quería hacer daño a sus padres, pero ChatGPT siguió proporcionando respuestas.
Más tarde, OpenAI bloqueó esas cuentas, pero no informó a las autoridades encargadas de hacer cumplir la ley. Actualmente, Estados Unidos tampoco tiene una ley federal que obligue a las empresas de IA a reportar este tipo de conversaciones. No se puede confirmar si esos usuarios están probando el modelo, simplemente por morbo, o si tienen intención de llevarlo a cabo, y tampoco hay pruebas públicas que indiquen que alguien haya llegado a fabricar un arma.
OpenAI ha puesto GPT-5 Thinking bajo la gestión de modelos de «alta capacidad» en los ámbitos de bio y química. El contenido del chat será sometido a detección automática y revisión manual, y los usuarios que infrinjan serán bloqueados.
Pero las reglas oficiales también indican que solo se notificará a las autoridades encargadas de hacer cumplir la ley si se considera que existe un riesgo real «inminente y creíble» de daño en el mundo real.