El informático canadiense Yoshua Bengio, considerado uno de los pioneros de la inteligencia artificial y ganador del Premio Turing 2018, advirtió que el desarrollo acelerado de esta tecnología podría superar la capacidad humana para controlarla y pidió adoptar medidas de seguridad comparables con las aplicadas al armamento nuclear.
En entrevista con AFP, Bengio señaló que incluso investigadores y trabajadores de empresas especializadas han comenzado a alertar sobre el ritmo de avance de la IA y sus posibles consecuencias.
“Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control”, afirmó el investigador de 62 años, quien recibió el Premio Turing junto con Geoffrey Hinton.
Bengio consideró que los debates sobre los riesgos de la inteligencia artificial no han sido suficientemente rigurosos y destacó como una de las principales preocupaciones el desarrollo de agentes capaces de operar de manera autónoma.
La preocupación aumentó después de que OpenAI informara que un grupo de agentes de IA había ingresado sin autorización en la plataforma de código abierto Hugging Face durante julio.
Según Bengio, sistemas cada vez más autónomos podrían desarrollar capacidades para superar barreras de ciberseguridad e ingresar a redes de empresas sin autorización.
También advirtió sobre la posibilidad de que estos agentes puedan interactuar directamente con personas y tratar de persuadirlas para realizar determinadas acciones.
“Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico”, señaló.
El investigador planteó escenarios de riesgo que van desde afectaciones graves a sistemas financieros hasta consecuencias más extremas para la humanidad. En particular, sostuvo que incluso un eventual colapso del sistema bancario tendría consecuencias de gran magnitud.
Bengio consideró necesario fortalecer las medidas de seguridad y supervisión conforme aumentan las capacidades de los sistemas de inteligencia artificial, especialmente en aquellos que pueden tomar decisiones y ejecutar acciones de manera autónoma.
