Jedify aboga por aumentar la IA con tecnología de gráficos de contexto, alegando que su solución puede reducir los costos de tokens de IA hasta en tres cuartas partes.
Los gráficos de contexto almacenan relaciones de entidades (personas, productos, ubicaciones, etc.) dentro de estructuras de estilo base de datos.priorizar las conexiones para el recorrido rápido de datos complejos interconectados, a diferencia de las bases de datos relacionales basadas en tablas. Mientras que los gráficos de conocimiento sirven a las cargas de trabajo de IA, los gráficos de contexto validan además qué relaciones son ciertas.
Adi Elimelech, cofundador y director de tecnología de Jedify, comentó: "Gran parte de la industria confunde la eficiencia de los tokens y la eficiencia de costos, sin embargo, difieren.La precodificación de la lógica empresarial dentro de un gráfico de contexto ahorra al modelo el razonamiento desde cero para cada consultaEste es el mecanismo central, independiente de la implementación del proveedor.
En lugar de alimentar el esquema completo de la base de datos a la IA en cada consulta, el gráfico de contexto de Jedify pre-codifica las definiciones, cálculos, relaciones y reglas de la lógica empresarial en una base de conocimientos estructurada.Se actualiza y se expande de forma autónoma junto con los cambios de negocioEn las consultas de los usuarios, sólo se recuperan las entidades pertinentes, proporcionando un contexto compacto y preciso al LLM.
Jedify realizó un análisis comparativo de la producción y el almacén de 100 preguntas empresariales que abarcan tres niveles de complejidad (200 puntos de prueba clasificados en total).036 tokens en bruto por llamada de generación de SQL con una tasa de respuesta correcta del 87%En cambio, los métodos convencionales de inyección de esquemas consumen entre 50.000 y 150.000 tokens por llamada con una precisión del 60 y 70%.965 fichas por solicitudNota: estas líneas de referencia se basan en estudios externos con esquemas y conjuntos de preguntas distintos, no en pruebas de almacén lado a lado.
Medido por un marco de token-ROI que equilibra el costo y la precisión, el enfoque de Jedify® proporcionó rendimientos 4.6 veces más altos que los flujos de trabajo de inyección de esquemas y 20 veces más que las tuberías básicas de múltiples agentes.La inyección de esquemas logró salidas correctas del 60 al 70%, mientras que Jedify alcanzó una gran precisión para las entidades dentro de la cobertura del gráfico.
En la escala empresarial de 100 tablas, el gráfico contextual redujo la inyección de tokens en aproximadamente un 50% por llamada SQL en comparación con las líneas de base de esquemas sin procesar; en 200 tablas, el ahorro de tokens superó el 75%.
Elimelech también destacó las ventajas de la propiedad de los datos:Por lo que no exponer su esquema completo y reglas de filtro de unión a los proveedores de modelo fronterizo en cada solicitud.
Al filtrar solo a las entidades requeridas antes de la generación de SQL, los gráficos de contexto reducen la carga de razonamiento del modelo.El análisis del enrutamiento de producción indica que alrededor del 85% de las consultas de análisis empresariales pueden ejecutarse en modelos de código abierto más baratos en lugar de LLM de primera línea con una pérdida de precisión insignificante, recortando el gasto en infraestructuras.
Descargue el libro blanco relacionado aquí.
China, China, China, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón, Japón.
Sandy Yang, directora de estrategia global
WhatsApp / WeChat: +86 13426366826 El número de teléfono es:
Correo electrónico: yangyd@qianxingdata.com
El sitio web: www.qianxingdata.com/www.storagesserver.com
Enfoque en el negocio:
Distribución de productos TIC/Integración de sistemas y servicios/Soluciones de infraestructura
Con más de 20 años de experiencia en distribución de TI, nos asociamos con las principales marcas globales para ofrecer productos confiables y servicios profesionales.
Usar la tecnología para construir un mundo inteligente¡Su proveedor de servicios de productos TIC de confianza!
¡Su mensaje debe tener entre 20 y 3.000 caracteres!
Spanish
