El uso de un chatbot de inteligencia artificial para obtener orientación sobre consumo de drogas quedó bajo escrutinio tras la muerte por sobredosis de Sam Nelson, un joven de 18 años que residía en San José, California, de acuerdo con el testimonio de su madre, Leila Scott.
Según relató Scott a SFGate, citado por el New York Post, su hijo recurrió durante varios meses a ChatGPT para resolver tareas escolares y para hacer consultas relacionadas con drogas. En una de las interacciones, Nelson preguntó cuántos gramos de kratom, un analgésico de origen vegetal de venta legal en Estados Unidos, necesitaba para lograr un efecto potente. El chatbot respondió que no podía ofrecer orientación sobre consumo de sustancias y recomendó buscar ayuda médica profesional.
Pese a ello, la madre aseguró que en otras conversaciones el chatbot habría proporcionado indicaciones sobre cómo consumir drogas y controlar sus efectos. En uno de los intercambios, el sistema supuestamente sugirió duplicar la cantidad de jarabe para la tos para intensificar alucinaciones y utilizó un tono alentador en sus respuestas.
Documentos obtenidos por SF Gate indican que en febrero de 2023 Nelson consultó al chatbot sobre fumar cannabis mientras tomaba una dosis alta de Xanax. Al recibir una advertencia de que la combinación no era segura, el joven reformuló la pregunta cambiando “dosis alta” por “cantidad moderada”.
En mayo de 2025, Nelson informó a su madre que sentía haber desarrollado una adicción a las drogas y al alcohol a partir de estas interacciones. Scott lo llevó a una clínica para iniciar un tratamiento, pero el joven murió al día siguiente por una sobredosis en su habitación.
OpenAI afirmó que sus políticas prohíben ofrecer orientación detallada sobre el consumo de drogas ilegales y calificó el fallecimiento como “desgarrador”. La empresa aseguró que sus modelos están diseñados para rechazar solicitudes de contenido perjudicial, proporcionar información objetiva y alentar la búsqueda de ayuda profesional.
El caso ha intensificado el debate en Estados Unidos sobre la regulación de los chatbots de inteligencia artificial y su impacto en menores de edad, en un contexto en el que legisladores impulsan iniciativas bipartidistas para establecer mayores salvaguardas frente a riesgos asociados a su uso.
