Sam Altman, director ejecutivo de OpenAI, lanzó una nueva advertencia sobre los riesgos asociados con el rápido avance de la inteligencia artificial y señaló que la humanidad podría terminar perdiendo el control sobre su propio futuro si los sistemas continúan desarrollándose sin suficientes medidas de seguridad.
A través de publicaciones en X, el empresario identificó dos escenarios que considera especialmente preocupantes. El primero es que los sistemas de inteligencia artificial lleguen a ser tan capaces que los seres humanos pierdan capacidad para supervisarlos y dirigir sus decisiones.
El segundo riesgo, explicó, es que una tecnología extremadamente poderosa quede concentrada en manos de una sola persona, empresa o país. A su juicio, ese escenario podría permitir que un actor con acceso a una IA avanzada imponga sus intereses sobre el resto de la sociedad.
Ante estos riesgos, Altman defendió que las medidas de seguridad y alineación avancen al menos al mismo ritmo que las capacidades de los modelos. También respaldó la creación de estándares comunes para la denominada IA de frontera y la participación de evaluadores independientes que puedan revisar la seguridad de los sistemas.
La postura del CEO de OpenAI coincide con la reciente advertencia de Dario Amodei, director de Anthropic, quien pidió a las compañías del sector moderar el ritmo de desarrollo de los modelos más avanzados para permitir que las salvaguardas alcancen a sus nuevas capacidades.
Altman también consideró que las empresas estadounidenses no deberían utilizar la competencia tecnológica con China como argumento para actuar de manera imprudente. Aunque respaldó una mayor coordinación, señaló que las compañías pueden comenzar a implementar medidas de seguridad sin esperar a que los gobiernos aprueben nuevas leyes.
El debate ocurre mientras las principales empresas de inteligencia artificial enfrentan una presión creciente para demostrar que pueden mantener bajo control sistemas cada vez más autónomos. OpenAI ya anunció que incorporará evaluadores independientes y, en paralelo, otras compañías del sector analizan mecanismos para reforzar la supervisión de sus modelos.
