noticias de la compañía sobre Almacenamiento en caché KV OceanStor de Huawei para centros de datos de IA a hiperescala

Huawei ha anunciado el OceanStor M900, un clúster de almacenamiento totalmente flash que ofrece hasta un nivel base de caché de 64 PB KV para sus Atlas 960 SuperPoD;Aceleradores de IA a escala de rack comparables a los SuperPOD de Nvidia.

Nvidia ha definido un diseño de referencia que integra sus GPU, BlueField NIC, switches Spectrum-X y software de IA con sistemas de almacenamiento, que admiten GPUDirect, RDMA,y KV cache extensión a través de su software Dynamo y CMX esquemaEsta arquitectura de múltiples niveles utiliza la memoria de gran ancho de banda (HBM) de la GPU como el nivel superior más rápido, seguido por los servidores X86 asociados como el nivel 2, las SSD locales del servidor como el L3.y SSD NVMe inteligentes conectados a BlueField-4 NIC dentro de un servidor de almacenamiento flash que sirve como L3.5Estos pueden llegar a una GPU HBM en un solo salto de red con latencia de clase microsegundo.

Huawei ahora está desafiando el diseño de SuperPOD de Nvidia con sus propios SuperPoD construidos para centros de datos de IA de hiperescala.lo que significa que una sola memoria de gran ancho de banda del acelerador no puede contener todos los tokens de valor clave requeridos, lo que requiere un mecanismo de almacenamiento en caché.

La compañía afirma que un Atlas 960E SuperPoD puede escalar hasta 4.096 NPU (Neural Processing Units), ofreciendo 8 EFLOPS de rendimiento de cálculo FP8,hasta 1 petabyte de capacidad HBM y un conjunto de memoria unificada de 256 TBEl despliegue de 5.500 unidades Hi-ONE equipadas con UnifiedBus (NPO) reduce el consumo de energía en más de 550 kilovatios en comparación con los 48.000 módulos ópticos 800G tradicionalmente necesarios para interconectar todas las NPU.También duplica el tiempo de funcionamiento sin fallas del sistema hasta alcanzar los 99Disponibilidad del sistema del 0,8%.

Huawei OceanStor M900
El SuperPoD adopta un marco de almacenamiento en caché KV de múltiples niveles, donde el M900 suministra caché KV a escala de petabytes para la capa L3.5.Capacidad de almacenamiento en caché de 5 KV y ancho de banda agregado de 40 TB/s a través de redes ópticas para este nivel, proporcionando múltiples terabytes de capacidad de caché KV por NPU.esta arquitectura duplica el rendimiento de token del clúster de inferencia y corta el tiempo hasta el primer token (TTFT) a la mitad.

La empresa señala que el ancho de banda de 40 TB/seg es 1,5 veces mayor que las soluciones competidoras, sin nombrar explícitamente a los proveedores.Sistemas de datos MinIO y VAST cuyo ancho de banda de clúster oscila entre 1025 TB/seg.

El M900 cuenta con un diseño integrado que combina la CPU, el controlador de red y el controlador NAND en una sola unidad, lo que permite a las NPU SuperPoD establecer un enlace directo y de un solo salto a las SSD.Esto reduce la latencia de acceso de milisegundos a aproximadamente 60 microsegundos.

David Wang, Vicepresidente de la Junta y Presidente Rotatorio de Huawei, dijo: "OceanStor M900 también utiliza medios híbridos y un algoritmo de retención optimizado, extendiendo la vida útil de lectura / escritura de SSD en 16 veces.Esto garantiza una mayor tasa de éxito de la caché KV junto con la estabilidad y fiabilidad a largo plazo desde cero.

En más detalles, Huawei afirma que el M900 cuenta con tecnología de almacenamiento adaptativo consciente de KV que predice la vida útil esperada y el valor de cada segmento de datos de caché KV.programa y distribuye datos en diferentes niveles de mediosHuawei dice que esta estrategia optimizada de ubicación y retención permite a las SSDs soportar hasta 24 escrituras de unidades por día (DWPD), una cifra notablemente alta.y aumenta la resistencia del SSD 16 veces, lo que permite tres años de funcionamiento estable con menos cambios de accionamiento.

Todavía es demasiado pronto para que Huawei publique hojas de datos M900 y informes técnicos, por lo que detalles como el tamaño de la unidad de rack de nodo, controladores, cantidad de unidad y capacidad,el número de nodos del grupo y otras especificaciones aún no están disponibles.

NPU Nota al pie de página
Las NPU son Huawei Ascend Neural Processing Units que, según Huawei, están construidas de forma nativa para IA (a diferencia de las GPU que se originaron como chips gráficos).Adoptan la arquitectura Da Vinci de Huawei con núcleos cúbicos y núcleos vectoriales., y soporta formatos de baja precisión, incluidos FP8 y FP4, para acelerar la inferencia y la capacitación de modelos grandes.Pueden escalar a miles o incluso cientos de miles de NPU que operan como una máquina lógicaLas ofertas recientes como el Atlas 350 (usando Ascend 950PR) y los próximos Atlas 960 SuperPoD se posicionan como alternativas a las GPUs de Nvidia dentro del mercado chino.

China, China, China, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón.
Sandy Yang, directora de estrategia global
WhatsApp / WeChat: +86 13426366826 El número de teléfono es:
Correo electrónico: yangyd@qianxingdata.com
El sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque en el negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas globales para ofrecer productos confiables y servicios profesionales.
“Usar la tecnología para construir un mundo inteligente”¡Su proveedor de servicios de productos TIC de confianza!