Jacob Coxon, investigador británico de 27 años, anunció su salida de Anthropic tras haber trabajado durante los últimos tres años en el entrenamiento de modelos de inteligencia artificial, primero en OpenAI y posteriormente en Anthropic. Su renuncia estuvo acompañada de fuertes críticas hacia ambas compañías por la velocidad con la que desarrollan sistemas cada vez más avanzados.
A través de una serie de publicaciones en X, Coxon sostuvo que las empresas de IA están avanzando hacia una inteligencia artificial capaz de mejorarse a sí misma sin que exista una comprensión suficiente de sus posibles consecuencias. A su juicio, quienes trabajan en el desarrollo de estos sistemas reconocen que existe un riesgo de que la tecnología termine representando una amenaza extrema para la humanidad.
El investigador señaló que tanto OpenAI como Anthropic son conscientes de los peligros, aunque considera que enfrentan el problema de manera distinta. Mientras cuestionó que OpenAI haya asumido plenamente las implicaciones de una eventual superinteligencia, afirmó que Anthropic comprende mejor los riesgos, pero permanece atrapada en una competencia por ser la primera en alcanzar nuevos avances.
Coxon planteó que una posible respuesta sería coordinar los esfuerzos entre las principales empresas de inteligencia artificial y establecer límites al desarrollo de nuevas capacidades. Entre sus propuestas mencionó una pausa temporal en el aumento de las capacidades de los modelos hasta contar con mayores garantías de seguridad.
Sus advertencias recibieron respaldo desde la propia Anthropic. Evan Hubinger, responsable de investigación en alineación de la compañía, afirmó que la preocupación de Coxon es compartida dentro del sector y estimó personalmente en más de 10% la posibilidad de que una IA pueda acabar con la humanidad durante la próxima década.
Hubinger, sin embargo, diferenció entre los modelos actuales y los sistemas que podrían surgir mediante procesos de automejora recursiva. Según explicó, el riesgo inmediato de las herramientas existentes es bajo, pero el desarrollo acelerado de una superinteligencia capaz de mejorar sus propias capacidades representa una preocupación mucho mayor.
La salida de Coxon se suma a las voces dentro de la industria que han advertido sobre los riesgos de una carrera tecnológica sin suficientes controles. Entre los casos más conocidos está el de Geoffrey Hinton, quien dejó Google en 2023 para hablar públicamente sobre los posibles peligros de la inteligencia artificial. El debate vuelve a poner sobre la mesa hasta dónde debería llegar el desarrollo de la IA y qué medidas deberían establecerse antes de que sus capacidades superen la capacidad humana de control.
