La empresa de inteligencia artificial Anthropic planteó la necesidad de considerar una desaceleración o pausa temporal coordinada a nivel mundial en el desarrollo de sistemas de inteligencia artificial cada vez más potentes, ante señales de que los modelos más avanzados podrían acercarse a comportamientos difíciles de supervisar y controlar.
La compañía, desarrolladora de la familia de modelos Claude, señaló en un informe que una pausa global permitiría que la investigación en seguridad, alineación y gobernanza tecnológica avance al mismo ritmo que las capacidades de los sistemas de IA.
Sin embargo, la empresa advirtió que una suspensión unilateral del desarrollo por parte de una sola organización resultaría poco efectiva, ya que otras compañías o países podrían continuar avanzando y obtener ventajas competitivas.
De acuerdo con Anthropic, una pausa efectiva requeriría un acuerdo simultáneo entre los principales actores internacionales del sector, especialmente entre Estados Unidos y China, acompañado de mecanismos verificables que garanticen el cumplimiento de los compromisos adquiridos.
La firma sostuvo que la ausencia de una coordinación internacional obliga a gobiernos y empresas a tomar decisiones complejas relacionadas con la seguridad tecnológica en un contexto marcado por la competencia económica y las tensiones geopolíticas.
La propuesta enfrenta resistencia en diversos sectores políticos y tecnológicos de Estados Unidos. Funcionarios y directivos de empresas del sector han argumentado que limitar el desarrollo de la inteligencia artificial podría favorecer el avance de competidores extranjeros, particularmente China.
No obstante, el presidente estadounidense Donald Trump señaló recientemente que durante conversaciones con autoridades chinas se abordó la posibilidad de establecer mecanismos de cooperación en materia de seguridad relacionada con la inteligencia artificial.
Además, esta semana firmó una orden ejecutiva que permitirá al gobierno estadounidense realizar evaluaciones preliminares de los modelos de inteligencia artificial más avanzados desarrollados por empresas nacionales antes de su lanzamiento.
Anthropic anunció que buscará reunir en los próximos meses a representantes gubernamentales, investigadores, organizaciones civiles y empresas tecnológicas para analizar posibles esquemas de supervisión y coordinación internacional.
La compañía también alertó sobre una tendencia observada en el desarrollo reciente de la inteligencia artificial: la creciente capacidad de los sistemas para acelerar procesos de investigación y mejora tecnológica que anteriormente dependían exclusivamente de la intervención humana.
Según la empresa, este fenómeno podría derivar en lo que los especialistas denominan “mejora recursiva”, un escenario en el que los sistemas de inteligencia artificial contribuyen de manera creciente a su propio perfeccionamiento.
Aunque Anthropic aclaró que actualmente no existe evidencia de que se haya alcanzado ese punto ni considera inevitable su aparición, sostuvo que los datos muestran una reducción progresiva de la participación humana en distintas etapas del desarrollo de modelos avanzados de inteligencia artificial.
La empresa considera que este escenario refuerza la necesidad de establecer mecanismos de supervisión, regulación y cooperación internacional antes de que las capacidades de la tecnología continúen expandiéndose.
