El panorama del almacenamiento para el entrenamiento y la inferencia de IA está dominado por el almacenamiento de objetos y archivos de rango medio escalable, que admite NVIDIA GPU Direct, KV Caches y la arquitectura STX para que las GPU sigan procesando datos simbólicos. Sin embargo, grandes volúmenes de datos empresariales residen en matrices monolíticas de alta gama de Dell PowerMax, Hitachi Vantara VSP One Block High End, IBM DS6000 y Lenovo InfiniBox, ninguno de los cuales admite STX y sus componentes asociados.Entrevistamos a David Chapa, estratega jefe de IA de Hitachi Vantara, para explorar esta brecha.
Chapa afirmó que NVIDIA BlueField-4 STX marca una evolución más amplia de la arquitectura de infraestructura de IA. Los arreglos empresariales tradicionales están diseñados para un manejo eficiente de las solicitudes de almacenamiento, mientras que STX cambia la creación de valor en la infraestructura de IA. Los arreglos heredados de alta gama priorizan la durabilidad, la resiliencia, el rendimiento, el tiempo de actividad y los servicios de datos centralizados. Por el contrario, STX incorpora más inteligencia en los flujos de trabajo de procesamiento de datos, acercando la seguridad, la orquestación, la localidad de los datos, la coordinación de la memoria y los servicios de datos a las GPU y los entornos de ejecución de IA.
El enfoque principal no es si estas capacidades deben ejecutarse de forma nativa en matrices de almacenamiento, sino cómo implementarlas de manera óptima en los canales de datos de IA. Hitachi Vantara no ve la incompatibilidad actual como una limitación de sus matrices, sino como una elección arquitectónica natural en medio de la evolución de la infraestructura de IA. Los arreglos empresariales de alta gama siguen siendo vitales para brindar servicios de datos confiables que incluyen resiliencia, disponibilidad, rendimiento, durabilidad y administración unificada.
A medida que los canales de datos de IA dependen cada vez más de servicios acelerados por DPU, capas de orquestación, almacenamiento en caché y ejecución con reconocimiento de localidad, ciertas funciones se acercarán a los recursos informáticos, mientras que los conjuntos empresariales siguen centrándose en su punto fuerte principal: los servicios de datos confiables.
Cuando se le preguntó si los arreglos de gama alta de Hitachi Vantara eventualmente se integrarán con NVIDIA STX, Chapa señaló que STX y CMX representan logros de ingeniería sustanciales. La discusión trata menos sobre hojas de ruta de productos y más sobre el posicionamiento arquitectónico para los sistemas de IA en evolución.
La infraestructura moderna de IA expone limitaciones que nunca se tuvieron en cuenta en las arquitecturas empresariales tradicionales. El desafío actual no radica en el almacenamiento independiente, la GPU o el rendimiento de la red, sino en la sinergia de datos, memoria, computación, seguridad y orquestación a medida que escalan las implementaciones de IA.
STX consolida una mayor parte del flujo de datos de IA en la pila integrada de NVIDIA a través de DPU BlueField, redes y diseños de referencia que dan forma a la integración y diferenciación de los proveedores. CMX apunta específicamente a la memoria de contexto, las cachés KV y los estados de inferencia. Hitachi Vantara no ve estas tecnologías como un intento de eludir el almacenamiento empresarial, sino como una industria dividida entre dos categorías de datos distintas: datos de tiempo de ejecución transitorios para trabajos de IA y datos empresariales gobernados y persistentes que existen mucho después de que se completan las tareas de IA.
Los dos tipos de datos conllevan diferentes restricciones operativas. Los cachés de KV y los contextos de inferencia son de corta duración y sensibles a la latencia, lo que los hace más adecuados para ejecutarse cerca de GPU, niveles de memoria o tiempo de ejecución de IA. En comparación, los datos comerciales centrales, los controles de cumplimiento y los servicios de datos para toda la empresa requieren una infraestructura sólida construida para el uso a largo plazo, la gobernanza, la resiliencia y las operaciones empresariales a gran escala.
Para Hitachi Vantara, habilitar la compatibilidad con STX en arreglos de alta gama es mucho más que una simple actualización de firmware. Implica consideraciones fundamentales sobre la localidad de los datos, la carga de memoria, la persistencia de los datos, los límites de seguridad, la orquestación y la ubicación óptima de los servicios de infraestructura.
La prioridad es definir el posicionamiento funcional a medida que la infraestructura de IA madura, identificar puntos de diferenciación, determinar un alcance de integración razonable y asignar recursos de ingeniería para maximizar el valor para el cliente.
NVIDIA ha abordado eficazmente los principales obstáculos en la infraestructura de IA, pero sus enfoques arquitectónicos no se adaptan a todos los clientes, cargas de trabajo o estrategias de plataforma. Hitachi Vantara distingue los cambios arquitectónicos duraderos de las tendencias de características a corto plazo, evalúa la integración que aporta valor tangible y dirige los esfuerzos de desarrollo para ofrecer los mayores beneficios a los usuarios.
Hitachi Vantara posiciona sus arreglos empresariales de alta gama fuera de la cadena de entrega directa de datos para servidores GPU, considerando que dicha integración es arquitectónicamente inadecuada. Estas plataformas sirven como sistemas de registro centrales optimizados para la durabilidad, la gobernanza, la resiliencia y las operaciones a escala empresarial, en lugar de contextos de inferencia y cachés KV transitorios y de latencia crítica.
Creemos que los arreglos empresariales de alto nivel, como VSP One Block High End, adoptarán herramientas de inteligencia artificial, como agentes inteligentes internos, para agilizar la administración. A medida que la IA agente y la inferencia convencional ganen terreno, las empresas exigirán acceso a datos de registros básicos para las cargas de trabajo de IA. En última instancia, los canales de datos de IA se expandirán para incorporar matrices empresariales de alto nivel como fuentes de datos clave.
Beijing Qianxing Jietong Tecnología Co., Ltd.
Sandy Yang/Director de Estrategia Global
WhatsApp/WeChat: +86 13426366826
Correo electrónico: yangyd@qianxingdata.com
Sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque empresarial:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con marcas líderes a nivel mundial para ofrecer productos confiables y servicios profesionales.
“Uso de la tecnología para construir un mundo inteligente” ¡Su proveedor de servicios de productos TIC de confianza!
¡Su mensaje debe tener entre 20 y 3.000 caracteres!
Spanish
