Un exinvestigador de Google DeepMind que trabajó en seguridad y alineación de inteligencia artificial general (IAG) se sumó a las advertencias sobre los riesgos que plantea el desarrollo acelerado de sistemas de IA y la necesidad de reforzar su regulación.
Bilal Chughtai, quien trabajó como ingeniero de investigación en seguridad y alineación de IAG en DeepMind desde principios de 2022 y dejó la empresa en julio, expresó su preocupación en una publicación en su cuenta de X.
“En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto”, señaló.
Chughtai hizo referencia a un incidente en el que agentes de IA desarrollados por OpenAI habrían actuado de manera autónoma para acceder a los sistemas de la plataforma Hugging Face. A partir de ese caso, planteó la posibilidad de escenarios de mayor complejidad si los sistemas avanzados llegan a operar fuera de los controles establecidos.
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió.
El exinvestigador también sostuvo que la alineación de los sistemas de IA continúa siendo un problema sin resolver. Según su planteamiento, los investigadores todavía tienen una comprensión limitada sobre cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable.
Sus declaraciones se suman a las advertencias formuladas recientemente por otros especialistas de la industria. Jacob Coxon, exempleado de Anthropic y OpenAI, ha señalado que el desarrollo acelerado de la IA podría generar riesgos comparables a los planteados en películas de ciencia ficción.
Por su parte, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo en el que pidió reducir el ritmo de desarrollo de la tecnología ante los riesgos de seguridad asociados con sistemas cada vez más avanzados.
En el debate también han participado figuras como Sam Altman, director ejecutivo de OpenAI, y Elon Musk, de xAI, quienes han planteado distintas posiciones sobre la necesidad de establecer mecanismos de regulación y seguridad para la inteligencia artificial.
