noticias de la compañía sobre Instintivo y EPYC; VAST Data establece una colaboración generalizada entre CPU y GPU de AMD

John Mao

Pilares clave de la colaboración ampliada

• -VAST adopta AMD EPYC de 6a generación (nombre en código Venice) para alimentar sus plataformas CBox de 6a generación y EBox de 3a generación subyacentes a VAST AI OS.ofrecer el doble de ancho de banda de E/S y una latencia más baja que PCIe Gen 5 para VAST DataBase y servicios de datos de IA respaldados por DataEngine, incluidas las bases de datos, almacenes de datos y transmisión de eventos.
• - Una arquitectura de referencia de infraestructura de IA tripartita desarrollada conjuntamente por VAST, AMD y DriveNets, que incorpora hardware de IA a escala de rack de AMD Helios, VAST AI OS y redes de tela de IA de DriveNets.El proyecto detalla el apoyo de infraestructuras para la formación, inferencia, aprendizaje de refuerzo y cargas de trabajo de caché KV, además de orientación de tamaño para equipos que construyen fábricas de IA.
• -Sociedades de ecosistemas más amplias con TensorMesh, EmbeddedLLM y otros proveedores para acelerar las pilas de inferencia de grado de producción optimizadas para la IA agente.
• - Nuevas optimizaciones de caché y inferencia KV fusionando GPUs AMD Instinct, Infinity Context, software ROCm y VAST AI OS.
• -Gestión automatizada del ciclo de vida del caché KV: la limpieza del caché que contiene datos personales confidenciales plantea importantes obstáculos para el cumplimiento de las normas de la empresa.La pila integrada aprovecha las reglas nativas del ciclo de vida de los datos de VAST para expirar y borrar automáticamente los datos de la caché KV, ofreciendo una seguridad sólida, privacidad y cumplimiento normativo sin trabajo administrativo manual.
• -AMD Pensando Pollara 400 AI NIC crea vías de datos de alta velocidad que conectan las GPU Instinct con VAST AI OS.transfiere datos sin problemas entre la memoria GPU y los clústeres de almacenamiento NVMe SSD de VAST, alimentando KV caché y almacenamiento acceso crítico para la inferencia a gran escala y AI agente.
• - Implementaciones verificadas en los principales proveedores de nube de IA que ofrecen servicios de IA basados en AMD a nivel mundial, incluidos 5C, Core42, Crusoe, EmbeddedLLM, Phanos.AI, TensorWave y Vultr.