bedrijfsnieuws over Context grafer Jedify verlaagt de kosten van AI-tokens met 75%.

Jedify pleit voor het vergroten van AI met contextgrafiek-technologie en beweert dat de oplossing de kosten van AI-tokens met maximaal driekwart kan verminderen.

Contextgrafieken slaan entiteitsrelaties (mensen, producten, locaties, enz.) op in databasestijlstructuren.prioriteit geven aan verbindingen voor snel doorlopen van complexe onderling verbonden gegevens, in tegenstelling tot tabelgebaseerde relationele databases. Terwijl kennisgrafieken AI-werklasten dienen, valideren contextgrafieken ook welke relaties waar zijn.

De medeoprichter en CTO van Jedify, Adi Elimelech, merkte op: "Veel van de industrie verzamelt token-efficiëntie en kostenefficiëntie, maar ze verschillen.Voorcodering van zakelijke logica in een contextgrafiek bespaart het model het redeneren van nul voor elke queryDit is het kernmechanisme, onafhankelijk van de implementatie door de leverancier.

In plaats van het volledige databaseschema aan AI te geven bij elke query, pre-codeert de contextgrafiek van Jedify's zakelijke logische definities, berekeningen, relaties en regels in een gestructureerde kennisbasis.Het werkt zelfstandig samen met veranderingen in het bedrijf.Bij gebruikersvragen worden alleen relevante entiteiten opgehaald, waardoor de LLM een compacte, precieze context krijgt.

Jedify voerde een productie-opslag benchmarking uit op 100 bedrijfsvragen met drie complexiteitsniveaus (in totaal 200 gegradeerde testpunten).036 ruwe tokens per SQL-oproep met 87% correcte-antwoordpercentageIn tegenstelling hiertoe verbruiken conventionele schema-injectiemethoden 50.000­150.000 tokens per oproep met een nauwkeurigheid van 60­70%; op schema­injectie gebaseerde multi­agentsystemen zoals CHESS bereiken bijna 339,000 tokens per oproep.965 tokens per aanvraagOpmerking: deze referentiebasislijnen zijn gebaseerd op externe studies met verschillende schema's en vragenlijsten, niet op naast elkaar staande magazijntests.

Gemeten aan de hand van een token-ROI-raamwerk voor het balanceren van kosten en nauwkeurigheid, leverde Jedify's aanpak 4,6x hogere rendementen dan schema-injectie-workflows en 20x ten opzichte van basis-multi-agent-pipelines.Schema-injectie heeft tot 60-70% correcte uitgangen geleverd, terwijl Jedify een sterke nauwkeurigheid behaalde voor entiteiten binnen de grafiekdekking.

Op de schaal van 100 tabellen voor bedrijven verminderde de contextgrafiek de token-injectie met ongeveer 50% per SQL-oproep in vergelijking met de basislijnen van raw-schema's; bij 200 tabellen overschreed de tokenbesparing 75%.

Elimelech benadrukte ook de voordelen van gegevensbezit:zodat u niet bloot uw volledige schema en join-filter regels aan de grens-model aanbieders op elk verzoek.??

Door alleen te filteren naar vereiste entiteiten vóór SQL-generatie, verlagen contextgrafieken de model-redeneerlast.Productie-routing-analyse geeft aan dat ongeveer 85% van de enterprise-analytics-queries kan worden uitgevoerd op goedkopere open-source-modellen in plaats van premium-frontier LLM's met verwaarloosbaar nauwkeurigheidsverlies, vermindering van de uitgaven voor infrastructuur.

Download hier het bijbehorende witboek.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, directeur Global Strategy
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zaken:
Distributie van ICT-producten/Systeemintegratie en diensten/Infrastructuuroplossingen
Met meer dan 20 jaar IT-distributie-ervaring werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
“Technologie gebruiken om een intelligente wereld te bouwen”Uw betrouwbare ICT-productdienstverlener!