VAST Data amplía alianza con AMD para potenciar la infraestructura de IA

VAST Data anunció una expansión de su colaboración con AMD (AMD) para ofrecer infraestructura de inteligencia artificial de alto rendimiento orientada a la era de inferencia. Según GlobeNewswire Inc., la solución integra el sistema operativo de IA de VAST con los procesadores AMD EPYC de sexta generación y las unidades de procesamiento gráfico AMD Instinct.

Entre los componentes técnicos destacados se incluyen la gestión optimizada de caché KV, arquitecturas de referencia conjuntas y una mejora demostrada de 9 veces en el tiempo hasta el primer token (time-to-first-token) para cargas de trabajo de IA agéntica. Este indicador es relevante para aplicaciones que requieren respuestas rápidas en modelos de lenguaje de gran escala.

La solución combinada ya está siendo adoptada por proveedores de nube especializados en inteligencia artificial. Entre los clientes identificados figuran Core42, Crusoe y Vultr, lo que refleja una demanda creciente de infraestructura optimizada para la fase de inferencia en entornos de producción.

La alianza se enmarca en la creciente competencia por dominar la infraestructura de IA empresarial, un segmento en expansión a medida que las organizaciones escalan sus modelos más allá del entrenamiento hacia el despliegue masivo. AMD compite en este espacio con sus GPUs Instinct frente a otros fabricantes de semiconductores orientados a cargas de trabajo de inteligencia artificial.