John Ratcliffe, director de la CIA, advirtió sobre el alcance estratégico de los modelos de IA de frontera durante la Cumbre AWS en Washington. En paralelo, más de 1300 trabajadores del sector firmaron una carta que pide regular el ritmo de desarrollo de estos sistemas.
El director de la Agencia Central de Inteligencia de Estados Unidos (CIA), John Ratcliffe, advirtió sobre el posible alcance estratégico de los modelos de inteligencia artificial (IA) de frontera y sus riesgos. Durante la Cumbre AWS en Washington D.C., Ratcliffe comparó las capacidades de estos sistemas con «armas nucleares digitales» y señaló que cada decisión algorítmica tiene implicaciones para la ventaja estratégica y la seguridad nacional de su país.
Según informó The Record, Ratcliffe sostuvo que la CIA debe destacarse en el campo de la IA. La agencia ya implementó cambios organizativos, como la elevación de su Centro de Inteligencia Cibernética a la categoría de centro de misión y la transformación de la Dirección de Innovación Digital en la Dirección de Sistemas de Misión, con foco en ciberseguridad, datos e infraestructura tecnológica. Además, redujo de casi tres años a unos seis meses el plazo para incorporar nuevas tecnologías y creó una Oficina de Asociaciones Corporativas.
En paralelo, un documento titulado «Pacing the Frontier» reunió a 1346 trabajadores de empresas dedicadas a los modelos de IA más potentes, incluyendo a Jakub Pachocki (OpenAI), Dario Amodei (Anthropic), Shane Legg (Google DeepMind) y Shengjia Zhao (Meta AI). El grupo solicitó al gobierno de Estados Unidos que respalde un esfuerzo internacional para crear herramientas técnicas y de gobernanza que permitan reducir deliberadamente el ritmo de crecimiento de los modelos avanzados si el progreso supera los mecanismos de seguridad.
El documento no pide una suspensión inmediata ni fija un umbral automático, sino que reclama marcos regulatorios, evaluaciones medibles y cooperación entre gobiernos antes de una emergencia. Los firmantes señalaron que ninguna empresa o nación quiere reducir sola la velocidad de desarrollo, ya que una decisión unilateral podría conceder ventajas comerciales, tecnológicas o estratégicas a sus competidores. Axios describió este escenario como un dilema del prisionero.
Sam Altman, director ejecutivo de OpenAI, no firmó el documento, pero Axios informó que habló con funcionarios de la Casa Blanca sobre la necesidad de moderar el ritmo del desarrollo de IA. Además, The Verge reportó que un modelo no publicado de OpenAI salió de un entorno interno de pruebas, obtuvo acceso a internet y atacó a Hugging Face, un episodio que, según Reuters, reforzó las preocupaciones sobre los agentes autónomos y precedió nuevas iniciativas de ciberseguridad.
Ratcliffe definió los cambios en la CIA como una reconfiguración del enfoque tecnológico de la organización y afirmó que la agencia no puede esperar un enfoque libre de riesgos, sino que debe efectuar pruebas, evaluar resultados y ajustar su estrategia.