CoreWeave ha desplegado un clúster NVIDIA Vera Rubin NVL72 de múltiples racks en CoreWeave Cloud, interconectando cientos de GPUs Rubin en un entorno de escala unificado optimizado para cargas de trabajo de IA agente.Cada rack fabricado por Dell tiene 72 GPU Rubin y 36 CPU Vera, adoptando NVLink 6 como su tejido de interconexión escalable, emparejado con dos ConnectX-9 SuperNIC por GPU. Los racks están conectados a través de NVIDIA Spectrum-X Ethernet dentro de un tejido de dos niveles sin bloqueo,que los estados de CoreWeave pueden escalar a aproximadamente 128CoreWeave es el primer proveedor de nube en validar y activar con éxito un sistema NVL72 de Vera Rubin, y el primero en publicar su rendimiento medido.Sus resultados iniciales de referencia revisados por pares fueron publicados la semana pasada.Junto con la actualización de cómputo, CoreWeave AI Object Storage agrega aceleración de escritura entre regiones y un nuevo nivel de Archivo.

Arquitectura NVIDIA Vera Rubin NVL72 con múltiples racks

Este despliegue multi-rack se dirige a flujos de trabajo de ejecución de agentes, donde los bucles de razonamiento secuenciales y las llamadas de herramientas externas amplifican la latencia de acceso a datos en toda la infraestructura distribuida.Los dos ConnectX-9 SuperNICs instalados en cada GPU de Rubin ofrecen hasta 1El tejido utiliza un diseño modular, lo que permite que los nuevos racks NVL72 se unan a la misma topología sin bloqueo a medida que se expande la capacidad.Los bastidores funcionan con refrigeración líquida a 45 °C.

CoreWeave unifica estos racks usando su suite de software de Control de Misión.incluida la detección de hardware a través del flashing del firmwareEl módulo de gestión de bastidores Racky controla la energía y la infraestructura.mientras que el controlador de enfriamiento Valvey programable ofrece visibilidad y gestión definidas por software para circuitos de enfriamiento de líquidos y sensores ambientales.

Los racks entran en producción solo después de pruebas de validación por fases. A nivel de nodo, esto incluye horas de diagnóstico repetido de GPU, verificación de transferencia de CPU-GPU, pruebas de interconexión y carga térmica,Además de cargas de trabajo de formación realistas. A nivel de rack, los trabajos sincronizados en todas las 72 GPUs validan el rendimiento de GPU a GPU NVLink; cualquier hardware que caiga por debajo de los umbrales de rendimiento va para la solución de problemas.CoreWeave ejecuta cargas de trabajo distribuidas, deshabilitando deliberadamente NVLink para forzar el tráfico a través de la red de back-end, y supervisa el tejido físico en busca de enlaces inestables, tasas de error crecientes, componentes sobrecalentados y tráfico desequilibrado.Las cargas de prueba imitan las aplicaciones de agentes, con picos repentinos de la demanda, concurrencia variable y patrones de comunicación rápidos.

Actualizaciones de almacenamiento de objetos de IA: escrituras entre regiones y nivel de archivo

La mejora de almacenamiento se basa en su acelerador de transporte de objetos local (LOTA), un proxy de almacenamiento en caché desplegado en cada nodo de GPU y CPU dentro del servicio CoreWeave Kubernetes,almacenamiento de datos de objetos en NVMe local de nodo. CoreWeave reporta lecturas en caché que alcanzan hasta 7 GB/s por GPU, con una latencia de lectura de p99 más de 8 veces menor que el acceso directo al cubo.000 GPUs y 20PB de caché, alcanzando una tasa de éxito del 99,7%, con LOTA ofrecida sin cargo adicional.

La aceleración de escritura entre regiones permite que las aplicaciones escriban a un cubo en una región remota con latencia local, sin modificar API o SDK.Las aplicaciones envían escrituras S3 estándar al punto final LOTA; los datos del objeto se almacenan de forma persistente localmente mientras que los metadatos se comprometen con la región remota.y los datos migran a la región remota en el fondoLas aplicaciones ven un espacio de nombres de cubo único que abarca todas las regiones con políticas IAM consistentes, reglas de ciclo de vida y controles de acceso,eliminación de cubos regionales separados y tuberías de replicación típicamente requeridas para la distribución entre puntos de control.

"Nuestros conjuntos de datos abarcan varias regiones, y no podemos permitirnos que nuestro calendario de formación esté dictado por retrasos en la recuperación entre regiones", dijo Cécile Robert-Michon,Director de infraestructura interna en Cohere. ¢CoreWeave AI Object Storage nos da un conjunto de datos unificado en todas las regiones con lecturas almacenadas en caché local, por lo que nada espera en la red.

El nivel de archivo es la cuarta clase de almacenamiento junto con caliente, caliente y frío, diseñado para escribir una vez, datos rara vez leídos tales como puntos de control de entrenamiento histórico y conjuntos de datos en bruto.Presenta precios de capacidad base más bajos y renuncia a la recuperaciónCoreWeave recomienda mantener los puntos de control recientes en los niveles más rápidos para reinicios rápidos,con clasificación automática a Archivo después de 60 días sin lecturasLas publicaciones transregionales y el archivo están ahora disponibles en general.

China, China, China, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón.
Sandy Yang, directora de estrategia global
WhatsApp / WeChat: +86 13426366826 El número de teléfono es:
Correo electrónico: yangyd@qianxingdata.com
El sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque en el negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas globales para ofrecer productos confiables y servicios profesionales.
“Usar la tecnología para construir un mundo inteligente”¡Su proveedor de servicios de productos TIC de confianza!