Jacob Coxon, ingeniero británico de 27 años que ha trabajado tanto en OpenAI como en Anthropic, ha anunciado su dimisión de esta última compañía con una advertencia contundente sobre el rumbo que está tomando el desarrollo de la inteligencia artificial. En un mensaje difundido en X, Coxon sostiene que las principales empresas del sector están avanzando hacia sistemas de inteligencia artificial cada vez más autónomos sin haber resuelto antes cómo mantenerlos bajo control.
Su crítica apunta directamente a las dos compañías para las que ha trabajado. Según Coxon, OpenAI no habría interiorizado suficientemente «los retos civilizacionales» que plantea el desarrollo de una inteligencia artificial avanzada. Anthropic, por su parte, sí sería consciente de estos riesgos, pero estaría «atrapada en la carrera por llegar primero».
El ingeniero considera especialmente preocupante la posibilidad de desarrollar sistemas capaces de mejorar sus propias capacidades. En su escenario más extremo, una inteligencia artificial podría superar progresivamente las capacidades humanas, acceder a recursos, desarrollar nuevas herramientas e intentar sortear las restricciones impuestas por sus desarrolladores. Coxon advierte de que algunos especialistas del sector consideran posible que una IA de este tipo provoque una catástrofe de dimensiones globales antes de que termine la década.
«Están atrapados en la carrera por llegar primero», resume Coxon al referirse a las empresas de IA. Su diagnóstico no es que los investigadores desconozcan los riesgos, sino precisamente lo contrario: existe una creciente conciencia dentro de estas compañías sobre las consecuencias potenciales de sus avances, pero la competencia entre laboratorios introduce un incentivo permanente para continuar desarrollando modelos más potentes.
La advertencia ha encontrado eco dentro de la propia Anthropic. Evan Hubinger, investigador especializado en alineamiento, el campo que trata de conseguir que los sistemas avanzados actúen de acuerdo con objetivos humanos, ha señalado que actualmente no existe un plan claro para resolver el problema y ha situado por encima del 10% la posibilidad de una catástrofe provocada por la IA durante la próxima década.
El debate adquiere una dimensión todavía mayor por la rápida expansión del uso de esta tecnología fuera del ámbito civil. La inteligencia artificial está siendo incorporada progresivamente a infraestructuras militares, sistemas de análisis de información, planificación y selección de objetivos. El Pentágono ha acelerado su integración y ha empleado herramientas de IA en operaciones militares recientes, mientras que las grandes compañías tecnológicas compiten por suministrar sus modelos a los organismos de defensa.
La propia OpenAI mantiene un acuerdo con el Departamento de Defensa estadounidense para desplegar sus modelos en redes clasificadas, aunque asegura que el pacto prohíbe emplearlos para dirigir armas autónomas o realizar vigilancia masiva doméstica. Al mismo tiempo, Anthropic mantiene un enfrentamiento con el Pentágono precisamente por las restricciones que pretende imponer a determinados usos militares de sus sistemas.
Para Coxon, el problema no puede resolverse mediante decisiones aisladas de cada empresa. Su propuesta pasa por una respuesta coordinada entre los diferentes laboratorios y, si esa coordinación no resulta posible, por detener temporalmente el incremento de las capacidades de los modelos hasta establecer mecanismos de seguridad suficientes.
La cuestión que plantea su dimisión va más allá de Anthropic u OpenAI: qué ocurre cuando la velocidad de desarrollo de una tecnología supera la capacidad de la sociedad para decidir cómo y para qué debe utilizarse.
