Los evaluadores de riesgo en IA propuestos por Anthropic y OpenAI podrían carecer de dientes reales

Los organismos independientes propuestos para evaluar riesgos en empresas de inteligencia artificial de frontera podrían no contar con las facultades suficientes para prevenir desastres, según reportó CNBC.

El CEO de Anthropic, Dario Amodei, ha defendido públicamente la idea de instalar evaluadores externos dentro de las propias compañías de IA, tomando como modelo la supervisión bancaria. En el sistema financiero, los reguladores tienen la potestad de exigir cambios operativos e incluso cerrar una institución si representa un riesgo sistémico.

Sin embargo, hasta ahora no queda claro que los supervisores de IA propuestos vayan a recibir poderes equivalentes. La analogía con la banca, aunque ilustrativa, choca con una realidad regulatoria muy distinta para el sector tecnológico.

La discusión se da en un momento en que tanto Anthropic como OpenAI buscan posicionarse como actores responsables ante legisladores y el público. No obstante, el debate de fondo sigue sin resolverse: una supervisión sin capacidad coercitiva podría convertirse en un ejercicio de imagen más que en una salvaguarda efectiva.

Según CNBC, esta brecha entre el modelo propuesto y los mecanismos reales de enforcement representa uno de los mayores puntos ciegos en la gobernanza de la inteligencia artificial avanzada.