Anthropic advierte que está cerca de crear una IA capaz de mejorarse a sí misma

Anthropic alertó a los mercados sobre su proximidad a desarrollar una inteligencia artificial con capacidad de automejora recursiva (RSI, por sus siglas en inglés), un hito que implicaría que el sistema podría diseñar y perfeccionar sus propias versiones sin intervención humana directa. La advertencia quedó consignada en la letra pequeña de su documento S-1A revisado, presentado el lunes, según reportó TechCrunch.

El documento, presentado en el marco de un posible proceso de oferta pública, concentró buena parte de la atención de los analistas en sus cifras financieras: la compañía reporta ingresos en fuerte expansión, aunque los gastos operativos también se han acelerado de forma significativa. Sin embargo, la mención a la capacidad RSI representa un elemento de riesgo de naturaleza distinta, de carácter tecnológico y regulatorio.

La mejora recursiva de la inteligencia es considerada por muchos investigadores como uno de los umbrales más críticos en el desarrollo de la IA avanzada. Si un sistema puede optimizar su propio diseño de forma autónoma, el ritmo de evolución tecnológica podría acelerarse de manera que supere los mecanismos de supervisión existentes.

Anthropic, fundada por ex investigadores de OpenAI, ha posicionado la seguridad en IA como uno de sus pilares corporativos centrales. La inclusión de esta advertencia en un documento regulatorio sugiere que la compañía busca transparencia con los inversores sobre los riesgos inherentes a su propia hoja de ruta de investigación.

TechCrunch señala que este tipo de revelaciones en documentos de oferta son inusuales y reflejan la complejidad del entorno regulatorio que enfrentan las empresas de inteligencia artificial de frontera al aproximarse a los mercados de capitales.