El CEO de Anthropic, Dario Amodei, pidió una desaceleración deliberada en el desarrollo de sistemas de inteligencia artificial, al advertir que el ritmo de avance podría superar la capacidad de los seres humanos para comprenderlos y controlarlos.
En un ensayo publicado el sábado, Amodei señaló que, si la IA continúa desarrollándose sin controles suficientes, podría alcanzar capacidades que dificulten su supervisión. Su postura resulta relevante porque Anthropic es una de las principales empresas involucradas en la carrera por desarrollar modelos avanzados de IA.
Las advertencias se producen pocos días después de que Jacob Coxon, exempleado de OpenAI y Anthropic, afirmara que algunos desarrolladores consideran posible que la IA represente una amenaza extrema para la humanidad antes de que termine la década.
Los escenarios planteados por quienes sostienen esta preocupación incluyen desde el uso de sistemas avanzados para realizar ataques cibernéticos o facilitar la creación de agentes biológicos hasta la pérdida de control sobre sistemas capaces de operar con un alto grado de autonomía. Sin embargo, no existe consenso científico sobre que alguno de estos escenarios vaya a ocurrir.
Debate sobre regulación
Las advertencias de Amodei y Coxon se producen en medio de un debate sobre hasta dónde debe llegar la regulación de la inteligencia artificial en Estados Unidos.
Empresas como Anthropic y OpenAI han respaldado la creación de reglas gubernamentales para establecer límites y estándares de seguridad, mientras continúan compitiendo por desarrollar sistemas cada vez más avanzados y ampliar su presencia en el mercado.
El senador Bernie Sanders también ha planteado restricciones más severas. Al presentar una iniciativa para prohibir la superinteligencia artificial y establecer una pausa temporal en el desarrollo de sistemas avanzados, sostuvo que los riesgos potenciales justifican una intervención gubernamental.
La posición enfrenta resistencia dentro del gobierno de Donald Trump. David Sacks, asesor presidencial en inteligencia artificial y criptomonedas, ha defendido un enfoque basado en la innovación y el mercado.
Sacks cuestionó las advertencias sobre una posible catástrofe provocada por la IA y sostuvo que algunas empresas podrían tener incentivos para promover regulaciones que terminen favoreciendo a los grandes laboratorios y dificultando la entrada de nuevos competidores.
El presidente Donald Trump también se ha pronunciado a favor de mantener la ventaja tecnológica de Estados Unidos frente a China. Aunque ha señalado que pueden establecerse salvaguardas, su enfoque prioriza la competencia tecnológica entre ambos países.
El otro frente: los centros de datos
El debate sobre los riesgos de la IA no se limita a escenarios de largo plazo. En Estados Unidos también ha aumentado la oposición a la construcción de grandes centros de datos necesarios para operar los sistemas de inteligencia artificial.
Los proyectos han generado cuestionamientos por su consumo de electricidad y agua, sus posibles efectos sobre las tarifas energéticas y el uso de grandes extensiones de terreno.
Esta resistencia ha adquirido una dimensión política que trasciende las divisiones tradicionales entre partidos. Para muchos ciudadanos, los centros de datos representan la manifestación física más visible de una tecnología que avanza rápidamente y que, al mismo tiempo, genera dudas sobre sus efectos económicos y sociales.
El debate enfrenta así dos preocupaciones distintas: quienes advierten sobre riesgos potencialmente existenciales derivados de una IA cada vez más autónoma y quienes cuestionan sus efectos inmediatos sobre empleos, infraestructura, recursos naturales y comunidades.
Mientras las empresas tecnológicas continúan acelerando el desarrollo de sistemas más capaces, Estados Unidos aún no cuenta con un marco federal integral que establezca límites uniformes para su desarrollo y utilización.
