Un agricultor brasileño de 36 años fue detenido después de que OpenAI, empresa creadora de ChatGPT, notificara al FBI sobre conversaciones en las que presuntamente describía planes para matar a su hijo de ocho años, atacar a otras personas y posteriormente quitarse la vida.
El caso ocurrió en el estado brasileño de Espírito Santo y abrió un debate sobre el papel de las empresas de inteligencia artificial cuando sus sistemas detectan posibles amenazas antes de que se cometa un delito.
De acuerdo con la policía, el hombre mantuvo conversaciones con ChatGPT durante casi dos meses. En ellas habría hablado sobre ataques contra escuelas, iglesias y agentes de policía, además de investigar sustancias tóxicas y formas de conseguir un arma.
La unidad de delitos cibernéticos del Ministerio de Justicia brasileño remitió el caso a la policía estatal el 16 de junio. Tres días después, el hombre fue detenido en la zona rural de São Gabriel da Palha.
Brenno Andrade, jefe de la división de delitos cibernéticos de Espírito Santo, señaló que la investigación fue considerada prioritaria debido a que, presuntamente, el hombre planeaba atacar a su hijo antes del 20 de junio.
Investigación encontró objetos sospechosos
Durante un registro de la propiedad, los agentes localizaron cuatro botellas con sustancias que todavía deben ser identificadas y una cuerda preparada con un nudo. La policía considera que estos elementos podrían estar relacionados con los planes descritos en las conversaciones.
Los investigadores también analizan si el sospechoso realizó acciones concretas para llevar a cabo alguno de los supuestos planes, incluida la posibilidad de que hubiera intentado contratar a un sicario.
El hombre niega haber tenido intención de hacer daño a su hijo. Su abogado, Pedro Paulo Pessi, sostiene que las conversaciones con ChatGPT fueron únicamente declaraciones sin consecuencias prácticas.
Tras permanecer 54 días bajo custodia, el sospechoso fue liberado el 13 de agosto debido a retrasos en la investigación. Hasta ahora no se han presentado cargos en su contra.
Como parte de las medidas cautelares, permanece bajo vigilancia electrónica y tiene prohibido contactar con su hijo y con la madre del menor.
Debate sobre el uso de las conversaciones como prueba
Uno de los principales problemas para la investigación es determinar qué valor probatorio tienen las conversaciones con un chatbot.
Según la policía, OpenAI proporcionó información sobre el usuario y los mensajes que había enviado, pero no las respuestas generadas por ChatGPT.
La penalista Maíra Fernandes señaló que conocer únicamente los mensajes enviados por el usuario puede resultar insuficiente para establecer el contexto completo de la conversación.
La especialista también planteó la necesidad de determinar si el sistema simplemente respondió a las afirmaciones del usuario o si intervino de alguna manera en el desarrollo de la conversación.
OpenAI informó a BBC News Brasil que puede notificar a las autoridades cuando detecta un “riesgo creíble e inminente de daño a terceros”, aunque no explicó por qué en este caso no fueron entregadas las respuestas del chatbot.
¿Cuándo debe intervenir una empresa de IA?
El caso plantea una cuestión todavía abierta para empresas tecnológicas, investigadores y autoridades: cómo distinguir entre una amenaza concreta y expresiones de enojo, fantasía o provocación realizadas frente a un sistema de inteligencia artificial.
La especialista en derecho digital Patricia Peck considera que, cuando una conversación incluye una víctima identificable, medios para cometer el acto y un riesgo considerado inminente, puede existir un deber ético y, en determinadas circunstancias, legal de informar a las autoridades.
Al mismo tiempo, especialistas citados por la BBC advierten que las alertas automatizadas no deberían convertirse por sí solas en la base de investigaciones, debido al riesgo de interpretar de manera incorrecta conversaciones cuyo contexto completo se desconoce.
El caso de Espírito Santo se suma a otros episodios en Estados Unidos en los que empresas de IA han informado a las autoridades sobre conversaciones consideradas potencialmente peligrosas, aumentando el debate sobre privacidad, seguridad y los límites de la vigilancia mediante sistemas de inteligencia artificial.
