CompactifAI de Multiverse Computing ya opera en procesadores Intel Xeon 6

CompactifAI de Multiverse Computing ya opera en procesadores Intel Xeon 6

La versión comprimida del modelo Llama 3.3 70B logra 93.6% más rendimiento y reduce la latencia en 48.6% sobre hardware de INTC.

Redacción Inversionistas.netFuente: GlobeNewswire Inc.

Multiverse Computing anunció que todos sus modelos CompactifAI, incluida su versión comprimida del modelo de lenguaje Llama 3.3 70B, son ahora compatibles con los procesadores Intel Xeon 6 (INTC), según informó GlobeNewswire Inc.

La compañía reporta que la integración genera una mejora del 93.6% en el rendimiento de salida (output throughput) y una reducción del 48.6% en la latencia, métricas que posicionan a la solución como una alternativa de alto desempeño para entornos empresariales que operan sobre infraestructura de CPU convencional.

El modelo comprimido ocupa un 50% menos de espacio en disco respecto a su versión original, al tiempo que conserva el 97% de la precisión base del modelo sin comprimir. Esta combinación de eficiencia y fidelidad apunta a reducir los costos operativos asociados al despliegue de inteligencia artificial a gran escala.

Multiverse Computing destacó que la solución se integra con los principales marcos de trabajo de código abierto más utilizados en la industria, lo que facilita su adopción sin requerir cambios profundos en la infraestructura tecnológica existente.

La empresa señala como mercados objetivo los sectores de finanzas, salud y manufactura, industrias donde la privacidad de los datos y la capacidad de procesar modelos de IA en entornos locales —sin depender de la nube— representan una ventaja operativa relevante.

Tickers mencionados

También puede interesarte