El sector global de flash y memoria vio intensa actividad durante el fin de semana, con una disputa entre Micron y Apple, las conversaciones de abastecimiento de chips de Anthropic con SK Hynix, una nueva asociación Nvidia-SK Hynix,El progreso de la DRAM 3D de SK Hynix, y la innovación de agrupación de memoria CXL de Samsung.
SK Hynix ha dominado los titulares recientes de la industria.apoyado por la contratación estratégica de ingenieros de diseño de DRAM en lógica en 3D a través de su Universidad de San JoséLa contratación apunta a talentos capaces de co-diseñar matrices lógicas de DRAM 3D con múltiples clientes con sede en EE.UU.
La nueva arquitectura coloca las pilas de DRAM 3D encima de los procesadores de semiconductores del sistema.La integración de DRAM y lógica en una sola matriz ofrece una conectividad inter-chip más rápida y un menor consumo de energía que la unión tradicional de paquetes en paquetes (PoP) de paquetes de memoria y lógica separados.
Jukan señala que la tecnología se dirige a dispositivos de carga de trabajo de IA que requieren un ancho de banda de memoria alto y un consumo de energía bajo,más notablemente procesadores de aplicaciones móviles para teléfonos inteligentes posicionando a Apple como un cliente potencial clave para SK Hynix.
SK Group ha ampliado su asociación estratégica con Nvidia a través de cartas de intención formales, formando una colaboración valorada en más de $ 500 mil millones.SK Telecom construirá una fábrica de inteligencia artificial Nvidia Vera Rubin DSX de 2 gigavatios como un nuevo proveedor de nube para satisfacer la demanda global de computaciónLos chips Vera Rubin adoptarán la memoria HBM4 de SK Hynix, con la primera fábrica de IA programada para el lanzamiento en 2027.
El objetivo de la asociación es acelerar el desarrollo de infraestructuras de IA a gran escala, que abarquen servicios de IA soberanos, físicos, agentes y empresariales,y abordar la creciente demanda de IA en Corea del Sur y la región Asia-Pacífico en generalSK Hynix también lanzará una asociación de memoria de IA a largo plazo con Nvidia, asegurando un suministro estable de memoria de IA de próxima generación para Nvidia mientras aumenta la capacidad de producción de SK Hynix.Ambas partes co-desarrollarán y optimizarán HBM y otras soluciones de memoria de IA para la formación LLM, agentes y escenarios físicos de IA.
El presidente del Grupo SK, Chey Tae-won, declaró que la colaboración aprovechará la memoria de IA de SK Hynix y las fortalezas de la infraestructura de SK Telecom para construir una fábrica de IA de clase mundial.Transformar a Corea del Sur de un país que adopta la IA en un centro de innovación global de IA.
El ex CEO de Intel, Pat Gelsinger, criticó abiertamente a HBM durante una charla de la industria coreana, calificándola de una solución de memoria imperfecta.Límites de conectividad limitados por las líneas de borde de la GPUEl HBM es la solución más viable disponible en la actualidad.
El SVP de SK Hynix, Hoshik Kim, respaldó parcialmente la opinión de Gelsinger, afirmando que HBM no puede resolver fundamentalmente el cuello de botella de la pared de memoria inherente de AI.Aclaró que HBM sirve sólo como una medida de mitigación temporal., mientras que SK Hynix desarrolla activamente soluciones alternativas para abordar el desafío de la pared de memoria central.
Según Bloomberg, la principal empresa estadounidense de IA Anthropic está negociando con SK Hynix para el suministro de chips de memoria dedicados para respaldar sus procesadores de IA personalizados internos.El presidente del Grupo SK, Chey Tae-won, reveló la noticia en una Cumbre de IA de San Francisco en julio de 2024, donde el CEO de Anthropic, Dario Amodei, también habló, elogiando los ambiciosos objetivos de desarrollo de hardware de Anthropic en medio de los esfuerzos generalizados de la industria para romper el dominio de la GPU de Nvidia.Amodei no respondió públicamente a los comentarios.
Samsung ha logrado un rendimiento DRAM casi nativo para cargas de trabajo de inferencia de IA utilizando memoria conjunta CXL externa para descargar la caché KV, según su blog oficial de tecnología.Los LLM dependen de la caché KV para almacenar claves y valores de atención computacionales para reducir la latencia de inferencia y la computación redundante, sin embargo, los modelos grandes requieren cientos de gigabytes de memoria caché, superando fácilmente la memoria del procesador de IA de a bordo.La descarga de SSD convencional o basada en red alivia los límites de capacidad, pero introduce una latencia adicional y gastos generales de ancho de banda.
La tecnología CXL rompe las restricciones físicas de la DRAM tradicional a través de interconexiones PCIe coherentes de alto ancho de banda, lo que permite la agrupación de memoria escalable en múltiples dispositivos a través de switches CXL.CMM-D de Samsung (CXL Memory Module-DRAM) está diseñado específicamente para esta arquitectura de memoria expandida.
Samsung probó sus módulos CMM-D con GPUs Nvidia RTX PRO 6000 Blackwell sobre PCIe Gen5, construyendo un conjunto de memoria CXL de 1 TB con optimizaciones de software vLLM y LMCache.Las pruebas verificaron que el grupo admite la descarga de caché KV a gran escala con un rendimiento cercano a DRAMEn las configuraciones de una sola GPU, la puesta en común CXL optimizada coincide con el rendimiento de la DRAM como el backend de LMCache.Retenía el 92% del rendimiento de la DRAM nativa con una capacidad de memoria mucho mayor.
Las pruebas adicionales compararon una configuración de DRAM local de 512 GB y un grupo CXL de 1 TB bajo cargas de caché KV crecientes.La DRAM local sufrió fuertes caídas de rendimiento por el recomputo repetido de la caché una vez que se excedió la capacidadLos detalles completos de la prueba están disponibles en el libro blanco descargable de Samsung.
Samsung señala que las implementaciones actuales de switches CXL requieren ajustes de núcleo y software a nivel de host para LMCache y otros componentes.La puesta en común de memoria basada en 0 muestra un gran potencial de aplicación, con la maduración continua del ecosistema a través de Intel DMR, AMD Venice y las nuevas plataformas de conmutadores CXL 3.0 para eliminar las limitaciones técnicas existentes.
Finalmente, una creciente brecha ha surgido entre Micron y Apple.Jukan de Citrini revela que Apple está presionando a la Casa Blanca para obtener la aprobación para implementar la CXMT DRAM de China en sus dispositivosLa fricción proviene de un rencor de larga data mantenido por el CEO de Micron, Sanjay Mehrotra,que se remonta a su mandato en Sandisk cuando Apple forzó precios bajos de memoria flash durante un mercado de compradoresCon el mercado de memoria actual favoreciendo a los proveedores, Mehrotra no está dispuesta a aliviar los precios y las restricciones de suministro para Apple.
China, China, China, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón.
Sandy Yang, directora de estrategia global
WhatsApp / WeChat: +86 13426366826 El número de teléfono es:
Correo electrónico: yangyd@qianxingdata.com
El sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque en el negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas globales para ofrecer productos confiables y servicios profesionales.
Usar la tecnología para construir un mundo inteligente¡Su proveedor de servicios de productos TIC de confianza!
¡Su mensaje debe tener entre 20 y 3.000 caracteres!
Spanish
