Explosiva renuncia de investigador de Anthropic y OpenAI: acusa a las empresas de saber que la IA “podría matarnos a todos para finales de la década”
Un investigador que trabajó en dos de los laboratorios de inteligencia artificial más poderosos del mundo decidió abandonar la industria con una advertencia extraordinaria: las empresas que lideran la carrera tecnológica estarían avanzando hacia sistemas cada vez más autónomos sin haber resuelto todavía cómo mantener bajo control una eventual superinteligencia.
Jacob Coxon, investigador británico de 27 años, anunció su renuncia a Anthropic después de haber trabajado durante los últimos tres años en investigación de preentrenamiento, primero en OpenAI y posteriormente en la compañía creadora de Claude.
“Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, sostuvo Coxon al comunicar su salida.
La afirmación podría descartarse como la opinión extrema de un investigador que acaba de abandonar una empresa. Sin embargo, la controversia adquirió otra dimensión cuando científicos que continúan trabajando en Anthropic respaldaron públicamente una parte sustancial de su diagnóstico.
Evan Hubinger, responsable de investigación en alineamiento de Anthropic, afirmó que considera superior al 10% la posibilidad de que una inteligencia artificial futura provoque una catástrofe existencial durante la próxima década. Al mismo tiempo introdujo una distinción fundamental: sostuvo que el riesgo de los modelos disponibles actualmente es bajo y que su preocupación está centrada en una futura superinteligencia surgida de procesos de automejora recursiva.
Ese matiz es central para dimensionar el debate. La discusión no implica que ChatGPT, Claude u otros sistemas actuales tengan una probabilidad del 10% de extinguir a la humanidad. La hipótesis que inquieta a una parte de los investigadores apunta a una generación todavía inexistente de sistemas capaces de superar ampliamente las capacidades humanas y participar en el desarrollo de versiones cada vez más poderosas de sí mismos.
Una carrera en la que nadie quiere frenar primero
La denuncia de Coxon pone el foco precisamente sobre esa paradoja. Según su descripción, OpenAI y Anthropic enfrentan incentivos distintos pero terminan atrapadas en la misma competencia. Coxon sostiene que en OpenAI no todos habrían internalizado suficientemente las posibles consecuencias civilizatorias del desarrollo de una superinteligencia. En Anthropic, en cambio, considera que existe mayor conciencia sobre los riesgos, pero también la convicción de que frenar unilateralmente permitiría que otra empresa avance primero.
“En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero”, sostuvo.
La preocupación excede a Coxon. Samuel Marks, investigador de seguridad de Anthropic, también respaldó públicamente la discusión y vinculó la continuidad de la carrera tecnológica con una combinación de incentivos comerciales y el temor de que competidores menos prudentes desarrollen primero sistemas más poderosos.
La lógica se parece a un dilema clásico de competencia: incluso si varios actores consideran conveniente desacelerar, ninguno quiere hacerlo individualmente mientras sospeche que los demás continuarán avanzando.
El episodio se produce después de una señal mucho más amplia surgida desde el interior de Silicon Valley.
En julio, más de 1.300 empleados de empresas que desarrollan modelos de inteligencia artificial de frontera firmaron el documento “Pacing the Frontier”. Entre los adherentes aparecen investigadores y ejecutivos de algunas de las compañías más relevantes del sector.
El planteo reconoce el enorme potencial económico, científico y social de la inteligencia artificial, pero advierte que la automatización de la propia investigación en IA podría acelerar el desarrollo tecnológico más allá de la capacidad humana para comprender o controlar los sistemas resultantes.
El documento identifica justamente el problema señalado ahora por Coxon: ninguna empresa ni ningún país tiene demasiados incentivos para desacelerar unilateralmente mientras exista una competencia global por alcanzar primero las capacidades más avanzadas.
Los firmantes reclamaron al Gobierno estadounidense impulsar un esfuerzo internacional para desarrollar herramientas técnicas y mecanismos de gobernanza que permitan, llegado el caso, reducir deliberadamente el ritmo de avance de la frontera tecnológica.
La discusión ya ingresó además en la agenda geopolítica. Estados Unidos y China preparan conversaciones bilaterales sobre seguridad de inteligencia artificial, con los riesgos de los modelos avanzados y de los agentes capaces de ejecutar operaciones informáticas entre los temas bajo análisis.
El problema de la “automejora recursiva”
Detrás de las advertencias aparece un concepto todavía hipotético pero decisivo para comprender el debate: la automejora recursiva.
Actualmente son equipos humanos los que diseñan arquitecturas, realizan experimentos, entrenan modelos y construyen nuevas generaciones de inteligencia artificial. La preocupación aparece ante la posibilidad de que sistemas suficientemente avanzados comiencen a automatizar una porción cada vez mayor de ese proceso.
En un escenario extremo, una IA podría contribuir a desarrollar un sistema superior, que a su vez participaría en la construcción de otro todavía más capaz. Si ese ciclo se acelerara suficientemente, sostienen quienes advierten sobre el riesgo, la capacidad tecnológica podría avanzar más rápido que los mecanismos diseñados para controlarla.
No existe consenso científico acerca de que semejante escenario vaya a ocurrir, ni sobre cuándo podría producirse. Tampoco existe consenso respecto de las probabilidades de una catástrofe existencial asociada a la inteligencia artificial.
Precisamente por eso resulta relevante la discusión abierta dentro de las propias empresas.
El debate tampoco está exento de críticas. Una corriente importante de investigadores sostiene que concentrar la discusión pública exclusivamente en escenarios de extinción puede distraer de problemas concretos que la inteligencia artificial ya está generando: desplazamiento laboral, concentración económica, desinformación, vigilancia, sesgos algorítmicos, derechos de autor, consumo energético, ciberseguridad y acumulación de poder tecnológico en un número reducido de compañías.
La discusión, entonces, tiene dos escalas diferentes. Una refiere a los efectos presentes y comprobables de la inteligencia artificial. La otra intenta anticipar qué ocurriría si los sistemas alcanzaran capacidades muy superiores a las actuales.
Coxon se ubica decididamente en este segundo grupo y reclama intervención gubernamental o algún mecanismo coordinado de desaceleración antes de desarrollar sistemas superiores a los humanos.
Su renuncia, sin embargo, importa menos por una predicción imposible de comprobar hoy que por el lugar desde donde surge.
No es una advertencia lanzada desde afuera de Silicon Valley. Proviene de un investigador que trabajó en OpenAI y Anthropic, y fue respaldada parcialmente por científicos que todavía permanecen dentro de una de esas compañías.