Anthropic y OpenAI alertan sobre los riesgos de la automejora de la IA

Investigadores de Anthropic y OpenAI han elevado sus advertencias sobre los riesgos de la llamada automejora recursiva de la inteligencia artificial, el proceso mediante el cual los modelos de IA participan activamente en el desarrollo y refinamiento de versiones más avanzadas de sí mismos, según reportó CNBC.

Ambas compañías han reconocido en los últimos meses que la velocidad a la que ocurre esta mejora autónoma de modelos ha superado sus propias proyecciones. Este ritmo inesperado es el que genera lo que algunos investigadores califican como preocupaciones de carácter «existencial» dentro de las organizaciones.

La automejora recursiva representa uno de los debates más delicados en el campo de la seguridad de la IA. El temor central radica en que un sistema capaz de optimizarse a sí mismo de forma autónoma podría volverse progresivamente más difícil de supervisar y controlar por parte de sus creadores.

Tanto Anthropic como OpenAI se han posicionado públicamente como organizaciones comprometidas con el desarrollo seguro de la inteligencia artificial. Sin embargo, las declaraciones recientes de sus propios equipos de investigación sugieren que los desafíos técnicos y de gobernanza en esta área crecen al mismo ritmo que las capacidades de sus modelos.

Fuente: CNBC (11 de septiembre de 2026).