Spanish
AMD ha lanzado oficialmente el Instinct MI350P, un nuevo acelerador PCIe diseñado para usuarios empresariales que buscan inferencia de IA local sin revisiones a su infraestructura de centro de datos existente.Las demás máquinas y aparatos para la fabricación de máquinas y aparatosEsta tarjeta gráfica es totalmente compatible con los servidores convencionales refrigerados por aire.También marca el primer lanzamiento de AMD de un chip Instinct de generación actual diseñado para ranuras de servidor estándar en casi cuatro años..
AMD instinto MI350P
La línea de productos Instinct de AMD basada en PCIe se mantuvo estancada después del lanzamiento del MI210 a principios de 2022.módulos con toma de corriente OAM adoptados montados en placas de apoyo universales dedicadasEstos módulos requieren carcasas personalizadas con una entrega de energía y un flujo de aire robustos para soportar hasta ocho aceleradores de clase 1.000W en una sola bandeja.Dicha arquitectura de hardware se adapta a los proveedores de nube de hiperescala que compran racks de GPU a granel, sin embargo, no puede adaptarse a las empresas normales que no quieren o no pueden implementar racks de IA a medida para tareas de inferencia in situ.NVIDIA carece de un competidor PCIe de nivel de servidor de gama alta en este segmento, dejando a AMD con exclusividad temporal en el mercado.
Comparación de hardware: MI350P frente a MI350X OAM
El MI350P no es una variante reducida del MI350X; AMD diseñó un chip racionalizado independiente para este nuevo modelo.El MI350X integra dos matrices de E / S emparejadas con ocho matrices complejas de acelerador (XCD)En cambio, el MI350P contiene una matriz de E/S y cuatro XCD, lo que equivale a 128 unidades de cómputo.Frecuencia de reloj de pico de 2 GHz como su contraparte de nivel superiorLa configuración de la memoria sigue la misma especificación degradada: cuatro pilas HBM3E (en lugar de ocho), un bus de memoria de 4.096 bits (descenso de 8.192 bits), un bus de memoria de 3 bits y un bus de memoria de 4 bits.junto con una capacidad de memoria de 144 GB y un ancho de banda de 4 TB/s, en comparación con el MI350X ′s 288GB y 8 TB/s de rendimiento.
Arquitectura AMD Instinct MI350P
El rendimiento máximo de computación también se reduce a la mitad. El MI350P alcanza 4.600 MXFP4 TFLOPS en comparación con el MI350X ¢s 9.2 PFLOPS, junto con 2.300 FP8 TFLOPS en comparación con el modelo premium ¢s 4.6 PFLOPS.Métricas de rendimiento para el BF16En la actualidad, AMD ha publicado datos de rendimiento sostenido tanto de pico como del mundo real para mayor transparencia.299 TFLOPS bajo MXFP4, 1.529 TFLOPS en el FP8 y 713 TFLOPS en el BF16.donde las limitaciones de potencia y las limitaciones de ancho de banda de memoria inevitablemente disminuyen el rendimiento teórico máximo.
El equipo editorial evaluó previamente la plataforma MI350X a través del programa Jumpstart de Supermicro y reconoció sus robustas capacidades de carga de trabajo de inferencia.El equipo está ansioso por realizar pruebas prácticas del MI350P., analizando el rendimiento de este acelerador de factor de forma PCIe dentro del chasis estándar del servidor de productos básicos.
El MI350P no presenta una reducción de energía del 50% a pesar de su escala de silicio reducida a la mitad.Esta potencia máxima alcanza el límite superior de la especificación PCIe CEMEn el caso de los servidores con refrigeración insuficiente, está disponible un modo de funcionamiento reducido de 450 W, acompañado de reducciones moderadas de rendimiento.Colocados en el mismo soporte de potencia, el MI350P compite directamente con el H200 NVL y el servidor RTX Pro 6000 de NVIDIA para la adquisición empresarial.
A diferencia de los H200 de NVIDIA con interconexiones de alta velocidad NVL4, el MI350P desactiva la exposición de Infinity Fabric. Toda la transmisión de datos entre GPU se limita al ancho de banda de 128 GB / s de PCIe Gen5 x16.
Despliegue con enfriamiento por aire de ocho GPU
Como tarjeta PCIe FHFL de doble ranura estándar, el MI350P es compatible con servidores empresariales existentes.incluyendo el Dell PowerEdge XE7740 y el HPE ProLiant DL380a Gen12Optimizadas para aceleradores de 600W, estas plataformas no requieren soportes personalizados, enfriamiento líquido o bases OAM.
Una configuración MI350P de ocho tarjetas ofrece 1.152 GB HBM3E y 32 TB/s de ancho de banda agregado, suficiente para albergar modelos de billones de parámetros en precisión MXFP4 dentro de un chasis refrigerado por aire.sacrifica tejidos dedicados a la escamaciónMientras que el MI350X utiliza Infinity Fabric para una comunicación rápida entre módulos, el MI350P se basa únicamente en PCIe Gen5.Esta arquitectura se adapta al paralelismo tensor local de nodo y al paralelismo de datos de nodo cruzado para la inferencia, mientras que el MI350X basado en OAM sigue siendo superior para las tareas de entrenamiento de IA que requieren gran ancho de banda.
Formato de precisión
El MI350P hereda todos los formatos de precisión del MI350X sin actualizaciones.que permite una formación de baja precisión con una degradación de calidad insignificante. MXFP4 ofrece más del doble de la velocidad de FP8 y cuatro veces el rendimiento de BF16.Dado que los pesos MXFP4 e INT4 ocupan solo el 25% del espacio de memoria BF16, los modelos de billones de parámetros pueden desplegarse dentro de un solo servidor de ocho GPU, eliminando los engorrosos grupos de múltiples nodos para las empresas locales.
Conclusión
La mayoría de las empresas de inteligencia artificial en las instalaciones están limitadas por la potencia, la refrigeración, la densidad y el presupuesto en lugar de la capacidad de computación en bruto.Con NVIDIA careciendo de una GPU de servidor PCIe insignia en este segmento, AMD mantiene una clara ventaja competitiva por el momento.
China, China, China, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón.
Sandy Yang, directora de estrategia global
WhatsApp / WeChat: +86 13426366826 El número de teléfono es:
Correo electrónico: yangyd@qianxingdata.com
El sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque en el negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas globales para ofrecer productos confiables y servicios profesionales.
Usar la tecnología para construir un mundo inteligente¡Su proveedor de servicios de productos TIC de confianza!
Sandy Yang, directora de estrategia global
WhatsApp / WeChat: +86 13426366826 El número de teléfono es:
Correo electrónico: yangyd@qianxingdata.com
El sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque en el negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas globales para ofrecer productos confiables y servicios profesionales.
Usar la tecnología para construir un mundo inteligente¡Su proveedor de servicios de productos TIC de confianza!