Spanish
DeepInfra ha lanzado oficialmente un nuevo centro de datos de IA en Toronto, lo que representa la primera implementación en el extranjero de la empresa fuera de EE. UU. y su novena instalación a nivel mundial. Presentado el 8 de julio, este nuevo sitio amplía la huella de infraestructura de inferencia global de DeepInfra, en medio de un cambio generalizado en la industria de la demanda de IA del entrenamiento de modelos a las cargas de trabajo de inferencia comercial.
El centro de datos de Toronto cuenta con una capacidad de potencia de 1,7 MW y albergará más de 1.000 GPU NVIDIA Blackwell B300. Una vez en pleno funcionamiento, el nuevo clúster de cómputo aumentará la escala de inferencia global de DeepInfra y ofrecerá una latencia de red reducida para los usuarios finales en Canadá y otras regiones globales.
Esta expansión se alinea con una clara transición en toda la industria. A medida que las empresas aceleran el despliegue de producción de herramientas de IA generativa, la demanda de infraestructura de centros de datos se centra cada vez más en las cargas de trabajo de inferencia en lugar de las tareas de entrenamiento. La inferencia de modelos de lenguaje grandes requiere una disponibilidad constante de GPU, redes de baja latencia e infraestructura geográficamente dispersa para potenciar aplicaciones interactivas, agentes de IA inteligentes y servicios de API de alto rendimiento. Según la investigación de McKinsey & Company referenciada en el anuncio, las cargas de trabajo de inferencia superarán el 40% de la demanda total de centros de datos para 2030, con una tasa de crecimiento anual compuesta del 35%.
DeepInfra afirma que la implementación de Toronto está diseñada específicamente para satisfacer estas necesidades cambiantes, acercando los recursos de cómputo de GPU a los usuarios finales y las fuentes de datos locales, al tiempo que amplía el rendimiento general de la plataforma. La empresa posee y opera de forma independiente toda su pila de infraestructura de GPU, compatible con más de 200 modelos de IA de código abierto. Su plataforma de inferencia administrada procesa casi cinco billones de tokens semanalmente, cubriendo implementaciones de modelos tanto abiertos como propietarios.
El lanzamiento también subraya la creciente adopción en la industria de la arquitectura Blackwell de NVIDIA para la infraestructura de inferencia moderna. En comparación con el hardware de la generación Hopper anterior, las GPU Blackwell ofrecen un rendimiento de inferencia mejorado y una mayor eficiencia energética para modelos de lenguaje grandes y cargas de trabajo de IA multimodal. Aunque DeepInfra no proporcionó más detalles sobre la arquitectura de red y almacenamiento, las implementaciones a gran escala de este calibre suelen aprovechar interconexiones de alto ancho de banda y almacenamiento distribuido para mantener la utilización completa de la GPU.
Como señaló Nikola Borisov, CEO y cofundador de DeepInfra, la IA empresarial ha pasado de pruebas experimentales a despliegues de producción a gran escala, lo que impulsa una mayor demanda de infraestructura distribuida globalmente con baja latencia y capacidades de inferencia escalables. Explicó que el clúster de Toronto marca la primera expansión internacional de la empresa más allá de las fronteras de EE. UU., posicionando los recursos de cómputo cerca de los clientes globales y sus conjuntos de datos.
La instalación de Toronto llega después de la reciente ronda de financiación Serie B de DeepInfra y sirve como una parte clave de su hoja de ruta de expansión de infraestructura a largo plazo. La empresa confirma que está evaluando sitios adicionales de centros de datos internacionales para satisfacer la creciente demanda del mercado de servicios de inferencia impulsados por GPU.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Director de Estrategia Global
WhatsApp / WeChat: +86 13426366826
Correo electrónico: yangyd@qianxingdata.com
Sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque de negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas mundiales para ofrecer productos confiables y servicios profesionales.
“Usando la tecnología para construir un mundo inteligente” ¡Su proveedor de servicios de productos TIC de confianza!
Sandy Yang/Director de Estrategia Global
WhatsApp / WeChat: +86 13426366826
Correo electrónico: yangyd@qianxingdata.com
Sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque de negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas mundiales para ofrecer productos confiables y servicios profesionales.
“Usando la tecnología para construir un mundo inteligente” ¡Su proveedor de servicios de productos TIC de confianza!