El personal de ventas de la tecnología Co., Ltd de Pekín Qianxing Jietong es muy profesional y paciente. Pueden proporcionar citas rápidamente. La calidad y el empaquetado de los productos son también muy buenos. Nuestra cooperación es muy lisa.
—— LLC del》 de Festfing DV del 《
Cuando buscaba la CPU de Intel y el SSD de Toshiba urgente, Sandy de la tecnología Co., Ltd de Pekín Qianxing Jietong me dio mucha ayuda y me consiguió los productos que necesité rápidamente. La aprecio realmente.
—— Kitty Yen
Sandy de la tecnología Co., Ltd de Pekín Qianxing Jietong es un vendedor muy cuidadoso, que puede recordarme errores de la configuración a tiempo cuando compro un servidor. Los ingenieros son también muy profesionales y pueden terminar rápidamente el proceso de prueba.
—— Strelkin Mikhail Vladimirovich
Estamos muy contentos con nuestra experiencia trabajando con Beijing Qianxing Jietong. La calidad del producto es excelente y la entrega siempre es puntual. Su equipo de ventas es profesional, paciente y muy útil con todas nuestras preguntas. Realmente apreciamos su apoyo y esperamos una asociación a largo plazo. ¡Muy recomendado!
—— Ahmad Navid
Calidad: Gran experiencia con mi proveedor. El MikroTik RB3011 ya estaba usado, pero estaba en muy buen estado y todo funcionaba perfectamente.y todas mis preocupaciones fueron abordadas rápidamenteUn proveedor muy confiable, muy recomendable.
—— Geran Colesio
Estoy en línea para chatear ahora
Compañía Noticias
Majestic Labs quiere resolver el problema de la memoria de la GPU
Startup Majestic Labs tiene como objetivo resolver los cuellos de botella derivados del almacenamiento en caché KV de LLM al eliminar la dependencia de la inferencia de IA de la memoria de alto ancho de banda.
Su diseño de servidor Prometheus reemplaza las costosas GPU con unidades de procesamiento de IA patentadas Ignite (AIU): chips híbridos monolíticos que integran núcleos ARM de grado de centro de datos más motores vectoriales y tensoriales RISC-V optimizados para LLM. Todas las AIU operan dentro de un único grupo de memoria compartida construido sobre DRAM LPDDR6. Un servidor alberga de 1 a 12 AIU que acceden a entre 8 y 128 TB de memoria unificada desagregada con un techo de ancho de banda colectivo de 25,6 TB/s.
En contraste, un servidor de IA NVIDIA DGX B300 equipado con 8 GPU Blackwell solo ofrece 2,3 TB de memoria de GPU HBM3e más hasta 4 TB de memoria del sistema DDR5, junto con un ancho de banda de interconexión de baja latencia pico de 14,4 TB/s. La plataforma Prometheus ofrece más de 50 veces la capacidad de memoria de GPU del equipo NVIDIA y 1,7 veces su ancho de banda.
Los cofundadores de Majestic argumentan que la combinación GPU-HBM une cómputo premium y de alto costo con una capacidad de memoria severamente restringida. Los límites surgen de la conectividad restringida del borde del chip de la GPU, las cortas longitudes de cableado del interposer y las barreras prácticas para escalar HBM más allá de 12 capas.
Etiquetan la arquitectura GPU-HBM como un callejón sin salida limitado por la memoria. En cambio, la empresa propone procesadores rentables vinculados a grupos de memoria vastamente expandidos a través de chiplets de agregación de memoria (MAC) personalizados y escalables conectados por cables de cobre en miniatura de hasta un metro de longitud. Los MAC se sientan adyacentes a los chips de memoria a bordo, con cada chiplet alimentando numerosos dies de DRAM.
El espacio de memoria unificada del servidor permanece completamente contiguo y coherente. Las AIU se comunican a través de memoria compartida en una topología de malla conectada a los MAC, cuyo número total no se revela.
Las matemáticas simples ilustran la escala de memoria: los dies LPDDR6 estándar de 2 GB significan que un servidor Prometheus de 128 TB requiere hasta 64.000 dies LPDDR6 individuales, lo que requiere docenas, probablemente cientos, de chiplets MAC por unidad.
Un rack estándar de 40U puede albergar hasta cuatro servidores Prometheus, cada uno poblado con 12 AIU. El rack completo consume 120 kW y depende de refrigeración líquida por placa fría. Majestic afirma que un rack de este tipo ofrece la misma memoria de alta velocidad que 25 racks NVIDIA NVL72 Vera Rubin con una fracción del consumo de energía, desbloqueando cargas de trabajo de IA a gran escala para empresas que no pueden permitirse infraestructura de nivel de hiperescalador. Su diseño ofrece hasta 1.000 veces más memoria por procesador.
Eliminar los cuellos de botella de memoria permite el alojamiento eficiente de modelos de vanguardia gigantes de última generación con ventanas de contexto ultra largas. Optimiza la IA agentiva, el razonamiento, las redes neuronales gráficas, los modelos tabulares, la generación de video y las arquitecturas de IA emergentes, admitiendo 100 veces más usuarios por rack y al mismo tiempo reduciendo el consumo de energía. Los clientes pueden ejecutar modelos de billones de parámetros, ventanas de contexto masivas, sistemas de agentes y marcos MoE en un solo servidor con costos de energía y capital drásticamente más bajos.
Majestic pronostica que su hardware costará entre 10 y 50 veces menos que los servidores GPU de rendimiento equivalente en su lanzamiento el próximo año, junto con una eficiencia energética superior. El servidor Prometheus cumple con los estándares OCP y admite de forma nativa los marcos de inferencia PyTorch, vLLM y Triton de OpenAI para una migración sin problemas de los modelos de IA existentes.
Nota a pie de página
Majestic Labs fue fundada en Tel Aviv en 2023 por tres veteranos de diseño, fabricación y envío de chips de Google y Meta: el CEO Ofer Shacham, el presidente Sha Rabii y el COO Masumi Reynders. La empresa emplea a aproximadamente 40 personas en Tel Aviv y una oficina en Los Ángeles, asegurando una ronda de financiación Serie A de 100 millones de dólares a finales de 2025. Licencia propiedad intelectual de aceleradores de terceros y desarrolla un núcleo personalizado para su AIU Ignite. Majestic informa pedidos anticipados sustanciales de clientes objetivo empresariales, de nube privada y de hiperescaladores.
Beijing Qianxing Jietong Technology Co., Ltd. Sandy Yang/Director de Estrategia Global WhatsApp / WeChat: +86 13426366826 Correo electrónico: yangyd@qianxingdata.com Sitio web: www.qianxingdata.com/www.storagesserver.com Enfoque de negocio: Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas mundiales para ofrecer productos confiables y servicios profesionales. "¡Usando la tecnología para construir un mundo inteligente!" ¡Su proveedor de servicios de productos TIC de confianza!