Anthropic endurece las reglas de uso de su IA Claude

Anthropic revisó y amplió las normas que rigen el uso de Claude, su modelo de inteligencia artificial, incorporando varias disposiciones que precisan los límites de la plataforma. Según Business Insider, los cambios abarcan tres áreas principales: campañas de desinformación, armas y sistemas de vigilancia.

En materia de desinformación, la actualización establece criterios más claros sobre qué tipo de contenido persuasivo o de apariencia legítima puede generarse con la herramienta. La política busca reducir el riesgo de que Claude sea utilizado para orquestar operaciones de influencia a escala.

Respecto a las armas, la compañía precisó las restricciones sobre información que podría facilitar su desarrollo o uso indebido. Los ajustes en esta área reflejan una tendencia creciente en la industria hacia marcos regulatorios internos más estrictos para los modelos de lenguaje de gran escala.

En cuanto a la vigilancia, Anthropic delimitó con mayor detalle los usos prohibidos que podrían comprometer la privacidad de las personas. La revisión de la política forma parte de los esfuerzos continuos de la empresa por establecer estándares de seguridad para sus sistemas de IA.

Fuente: Business Insider