Jacob Coxon, de 27 años, renunció a Anthropic y publicó un hilo en X que superó los 100 millones de visitas. En entrevistas con NBC, CNN y Fox News, sostuvo que la inteligencia artificial representa un riesgo existencial y que se necesita cooperación internacional para regular su desarrollo.
Jacob Coxon, exinvestigador de Anthropic, advirtió que la inteligencia artificial «podría llevarnos a la extinción» y solicitó regulación internacional. Lo hizo tras renunciar a la empresa desarrolladora de Claude y publicar un hilo en X que superó los 100 millones de visitas en poco más de 24 horas. En los días posteriores, participó de entrevistas con NBC, CNN y Fox News, donde amplió sus argumentos.
Coxon, británico de 27 años, dedicó los últimos tres años a la investigación de preentrenamiento en OpenAI y Anthropic. El martes anunció su renuncia a Anthropic con una advertencia: «Ninguna de las dos empresas está actuando de manera responsable. Están compitiendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en el proceso».
En declaraciones a NBC, Coxon explicó los riesgos actuales: «Muchas personas que trabajan en la industria, incluidos ejecutivos e investigadores sénior, creen genuinamente que existe una probabilidad considerable de que esta tecnología pueda matar a todo el mundo. Y esto no es una exageración ni una estrategia de marketing».
El investigador coincidió con Evan Hubinger, Líder de Ciencia de Alineación de Anthropic, en que el riesgo de que la IA tome el control es «mínimo» actualmente. Sin embargo, señaló que la preocupación radica en la velocidad con la que pueden aumentar las capacidades de estos sistemas. «Podría ocurrir tan pronto como el año que viene. Algunas personas incluso dicen que en seis meses», alertó. «Por eso, esta postura es compartida en toda la industria: básicamente, la gente es consciente de que el trabajo que está haciendo actualmente, si no reducimos el ritmo, podría llevar a que la inteligencia artificial tome el control antes de que termine la década», dijo a Fox News.
«Esta es posiblemente la tecnología más peligrosa que la humanidad haya creado», afirmó Coxon a NBC. «Básicamente, parece salida de la ciencia ficción. Creo que no tenemos otra opción que cooperar a nivel internacional, porque una carrera armamentista sería desastrosa de una manera que ninguna otra actividad humana lo ha sido en el pasado».
Sobre el momento de su denuncia, Coxon mencionó dos factores. El primero: «La gente ha tomado conciencia a partir de los recientes ciberataques que los modelos de OpenAI llevaron a cabo contra Hugging Face. Fueron ataques bastante aterradores, en los que un modelo sin instrucciones humanas —un enjambre de modelos, de hecho— decidió comprometer una infraestructura, infiltrarse en ella y realmente lo consiguió». El segundo: las capacidades de los modelos avanzan mientras las empresas compiten sin límites aparentes.
Respecto de su renuncia, sostuvo: «Creo que el problema concreto es que, si intentás quedarte adentro, terminás perpetuando la dinámica de la carrera. Toda la dinámica que intento evitar es esa sensación de que tenés que ser vos quien asuma la responsabilidad. Tenés que llegar primero».
En cuanto a las dinámicas internas de Anthropic y OpenAI, Coxon dijo a NBC: «Anthropic fue fundada en el contexto de otras compañías que competían por construir inteligencia artificial y bajo la creencia de que esas otras empresas no lo harían de manera responsable». Y agregó: «Ahora, independientemente de si uno considera que esta creencia es verdadera o no, la premisa central de Anthropic es hacerlo mejor, llegar primero, asumir el riesgo porque la premisa fundacional es que estas son las personas que se toman el riesgo lo suficientemente en serio como para ser quienes lo hagan».
Coxon afirmó que cree que Dario Amodei, CEO de Anthropic, actúa de acuerdo con los principios que plantea. «Desde mi perspectiva, no veo ninguna razón para no creerle. El problema es simplemente que otras personas están intentando llegar primero. Y, en algún momento, hay que hacer un equilibrio entre ser riguroso y ser rápido. Y en una carrera no podés ser tan riguroso como te gustaría. Si hacerlo de manera segura va a llevar diez años y solo tenés dos años debido a tus competidores, vas a tener que tomar atajos. Vas a tener que no comprender completamente la ciencia, y eso puede llevar a estos riesgos catastróficos que él expresó públicamente», concluyó.
El investigador también se refirió a la competencia geopolítica con China: «Creo que se entiende que actualmente tenemos una ventaja bastante considerable sobre la tecnología china, suficiente como para que, por ejemplo, una cierta desaceleración no cambiara demasiado las cosas. Pero sí, la gente tiene miedo porque no es tan difícil ponerse al día. Cualquier desaceleración de largo plazo tendría que ser internacional».
Sobre la solución, Coxon sostuvo: «Creo que el problema no es imposible de resolver. No es que pensemos que se trata de algo imposible: simplemente estamos avanzando a tanta velocidad que no tenemos tiempo para resolverlo correctamente, no estamos siendo cuidadosos y todos quieren ser cuidadosos». Y añadió: «La gente está pidiendo a gritos una regulación». En Fox News afirmó: «Es cuestión de que, a nivel internacional, alguien intervenga y pueda garantizar que no nos lancemos a nosotros mismos hacia la extinción. El problema tiene solución». A NBC le dijo: «Lo que necesitamos son organismos externos, organismos internacionales con un mandato gubernamental, que garanticen que esto se haga de manera segura, porque desde adentro simplemente estás atrapado en la carrera. No podés cambiar la dinámica estructural general de la situación».
Anthropic respondió a las declaraciones de su exinvestigador con un comunicado enviado a CNN. La empresa defendió las medidas de seguridad que aplica a sus modelos y recordó que desde el inicio reconoció tanto el potencial como los riesgos de la tecnología: «Siempre fuimos transparentes en que la IA traerá tanto beneficios enormes como riesgos sin precedentes. Para enfrentarlos, seguimos construyendo modelos con algunas de las salvaguardas más fuertes de la industria». La compañía también destacó que fue «el primer laboratorio en publicar una política de escalado responsable» y planteó que el sector debería avanzar hacia «una forma legal y verificable de trabajar juntos para marcar el ritmo» de los lanzamientos. OpenAI no respondió a las declaraciones del investigador.