El director ejecutivo de Meta, Mark Zuckerberg, sostuvo que cada empresa dedicada al desarrollo de inteligencia artificial debe asumir la responsabilidad de garantizar la seguridad de sus propios modelos, en medio del debate sobre la conveniencia de reducir el ritmo de avance de esta tecnología.
A través de sus redes sociales, Zuckerberg señaló que cada laboratorio cuenta con los incentivos y capacidades necesarias para determinar el ritmo al que debe desarrollar sus sistemas y aplicar las medidas de seguridad correspondientes.
“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda”, escribió.
Sus declaraciones se produjeron después de que distintos líderes de la industria plantearan la posibilidad de desacelerar el desarrollo de sistemas de IA hasta contar con mayores garantías de seguridad y alineación con objetivos humanos.
Zuckerberg se refirió al debate sobre las propuestas de Dario Amodei, director ejecutivo de Anthropic, y de otros líderes tecnológicos, entre ellos Sam Altman, de OpenAI, y Elon Musk, de xAI, quienes han planteado distintas medidas para fortalecer la seguridad de los modelos.
El director de Meta destacó que su compañía retrasó durante varios meses el lanzamiento de su agente de inteligencia artificial Muse para concentrarse en aspectos relacionados con seguridad y protección.
“No exigimos que los demás hicieran lo mismo antes que nosotros”, afirmó.
Zuckerberg planteó además que una forma de reducir los riesgos consiste en destinar la mayor parte de la capacidad de cómputo de los sistemas de IA a tareas destinadas a servir a las personas, en lugar de enfocarla en procesos de automejora.
Sus comentarios también respondieron a una propuesta de Musk para que los principales desarrolladores de inteligencia artificial sometan sus modelos a revisiones de seguridad y colaboren en pruebas independientes.
Zuckerberg indicó que su laboratorio de IA ya cuenta con evaluadores y asesores independientes, aunque consideró que sería conveniente ampliar y diversificar el ecosistema de evaluadores.
El debate sobre el ritmo de desarrollo de la inteligencia artificial se intensificó después de las advertencias de Jacob Coxon, exempleado de Anthropic y OpenAI, quien ha señalado que los sistemas avanzados podrían generar riesgos graves si su desarrollo supera la capacidad para establecer mecanismos adecuados de seguridad y control.
