MLPerf Storage v3.0 agrega una capa de datos S3 al marco POSIX existente, junto con nuevas cargas de trabajo de KV Cache y base de datos vectoriales,alinear estrechamente los criterios de referencia con los requisitos modernos de los sistemas de datos de IA.
Desarrollado por MLCommons, el benchmark MLPerf Storage evaluó originalmente el rendimiento de almacenamiento para cargas de trabajo de capacitación de aprendizaje automático, incluidas Unet3D, Cosmoflow y Resnet50,utilizando el hardware de la GPU NVIDIA A100 y H100La versión 3.0 presenta una reestructuración de pruebas completa, centrada en cuatro escenarios de carga de trabajo básicos.
El marco de pruebas actualizado incluye entrenamiento de IA basado en Unet3D y RetinaNet, que mide la escalabilidad máxima del acelerador mientras mantiene más del 90% de utilización.simulado en GPUs NVIDIA B200 o AMD MI355También cubre la verificación de los modelos de estilo Llama 3 que van desde los parámetros 8B a 1.25T, priorizando la baja latencia para 10 rondas de escrituras y lecturas iterativas.La suite incorpora pruebas de base de datos vectoriales en un millón de, conjunto de datos Milvus de 1536 dimensiones para maximizar el rendimiento de la consulta mientras se rastrean las tasas de latencia y recuperación, además de pruebas de caché KV para medir la capacidad máxima de soporte de conversación concurrente.
Brian Belgodere, copresidente del Grupo de Trabajo de Almacenamiento MLPerf, declaró que la nueva cartera de pruebas enriquece la cobertura de referencia para las demandas de almacenamiento de inferencia de IA convencional.El conjunto actualizado equilibra la formación centrada en la formación y las pruebas de verificación con evaluaciones de la base de datos de caché KV y de vectores orientadas a la inferencia. Al desglosar los sistemas de IA integrados en evaluaciones de carga de trabajo de almacenamiento dirigidas, incluida la verificación de puntos, el almacenamiento en caché KV y el procesamiento de consultas vectoriales,el índice de referencia permite a los profesionales de la industria optimizar mejor las configuraciones de la infraestructura de IA y eliminar los cuellos de botella en el rendimiento del almacenamiento.
La capa de almacenamiento de objetos S3 recientemente agregada admite pruebas de entrenamiento, control de puntos y bases de datos vectoriales parciales, con aproximadamente una sexta parte de todas las presentaciones de v3.0 que adoptan acceso de almacenamiento basado en S3.
Curtis Anderson, otro Co-Presidente del Grupo de Trabajo, señaló que a medida que el contexto de IA se escala a billones de tokens, el almacenamiento de objetos está emergiendo como una forma viable,incluso una alternativa preferible al almacenamiento tradicional del sistema de archivosEl soporte nativo de S3 en la versión 3.0 proporciona datos de rendimiento transparentes para guiar las decisiones de implementación de almacenamiento empresarial.
Un total de 19 proveedores presentaron resultados para este ciclo de referencia, en particular, los principales jugadores de almacenamiento empresarial heredado, incluidos DDN, Dell, Huawei, IBM, NetApp,VAST Data y WEKA estaban ausentes de la lista de presentaciónLos funcionarios de MLPerf comentaron que los proveedores tradicionales de NAS tienen una participación limitada, con la mayoría de los operadores establecidos que se quedan fuera de la última ronda.
Dado el paisaje de almacenamiento de IA diversificado, la versión 3.0 no publica una sola clasificación general, sino que ofrece resultados independientes para las cuatro categorías de carga de trabajo con métricas multidimensionales.El conjunto completo de datos de resultados abarca alrededor de 145 filas y 55 columnas, con un total de casi 8.000 celdas de datos, con 12 columnas dedicadas exclusivamente a las métricas de rendimiento de la caché KV.ancho de banda de lectura/escritura y latencia P95 en arquitecturas de almacenamiento exclusivo y de almacenamiento+memoria para cargas de trabajo de modelos Llama 8B y 70B.
MLCommons también recomienda una evaluación de rendimiento estandarizada basada en la densidad de racks y la eficiencia energética por vatio para medir la efectividad operativa general de la infraestructura.
La actualización del conjunto de criterios de referencia presenta una lógica de evaluación muy compleja, lo que permite a los proveedores presentar selectivamente resultados para cargas de trabajo específicas.Suzhou Zishan y TTA presentaron los resultados de las pruebas en la base de datos de vectores.
Everpure informó de un rendimiento de primer nivel para su FlashBlade//EXA a través de pruebas de control y caché KV para modelos de parámetros 405B y 1.25T. Implementado en 30 nodos de datos para soportar 1,024 aceleradores simulados, la plataforma alcanzó un ancho de banda de escritura de 877.52 GiB/s (17.74s de finalización) y un ancho de banda de lectura de 588.28 GiB/s (28.99s de finalización) para el punto de control de modelos de 1.25T. Su rendimiento aumentó linealmente desde 327.65 GiB/s de rendimiento de escritura en 10 nodos hasta el resultado máximo de 30 nodos.
Los datos adicionales muestran que las presentaciones de escritura en los puntos de control locales proporcionaron una eficiencia energética media de 14 GB/s por vatio, con un pico de 201 GB/s por vatio.Las pruebas de lectura UNet3D registraron una eficiencia media de 34 GB/s por vatio y un máximo de 277 GB/s por vatio..
China, China, China, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón.
Sandy Yang, directora de estrategia global
WhatsApp / WeChat: +86 13426366826 El número de teléfono es:
Correo electrónico: yangyd@qianxingdata.com
El sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque en el negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas globales para ofrecer productos confiables y servicios profesionales.
Usar la tecnología para construir un mundo inteligente¡Su proveedor de servicios de productos TIC de confianza!
¡Su mensaje debe tener entre 20 y 3.000 caracteres!
Spanish
