Box компани өөрийн бүтээгдэхүүнд хиймэл оюун ухаант агентуудын хайлтын чадамжийг сайжруулах зорилгоор Nvidia-гийн Nemotron технологийг нэвтрүүлэхээр болжээ.
Пүрэв гарагт болсон хөгжүүлэгчдийн бага хурлын үеэр Box компани “Box Content Retrieval” нэртэй шинэ функцээ олон нийтэд танилцууллаа. Энэхүү систем нь Nvidia-гийн Nemotron суулгагдсан (embedding) технологийг ашиглан баримт бичгийн мета өгөгдлийг боловсруулж, хиймэл оюун ухаант агентуудад асуулгад илүү оновчтой, хурдан хариулах боломжийг олгодог байна.
Nvidia-гийн Үүсгэгч хиймэл оюун ухааны программ хангамж хариуцсан дэд ерөнхийлөгч Кари Брискигийн мэдээлснээр, уг технологи нь хайлтын хурдыг дөрөв дахин нэмэгдүүлж, алдааны түвшинг 20 хувиар бууруулан, токен ашиглалтыг 90 хувиар хэмнэх хүлээлттэй байна. Box компанийн гүйцэтгэх захирал Аарон Левигийн тайлбарласнаар, систем нь хэрэглэгчийн асуулгад хамааралтай баримт бичгийн тодорхой хэсгүүдийг шууд гаргаж ирснээр агентуудын ажлын үр ашгийг эрс дээшлүүлнэ.
Nemotron-ыг ашигласнаар хайлтын систем нь зөвхөн түлхүүр үг бус, баримт бичгийн цаад утга санааг таньж мэддэг болж байна. Энэ нь хуульчид зэрэг мэргэжлийн хэрэглэгчдэд ижил төстэй агуулгатай, өөр өөр үг хэллэг бүхий эрх зүйн баримт бичиг, жишээг хайж олоход ихээхэн тус дөхөм болно гэж тус компани үзэж байна.
Уг шинэ боломж нь ирэх оны эхээр Box-ын Enterprise Advance хэрэглэгчдэд хүрэх юм. Аарон Левигийн онцолсноор, Nemotron-ын нээлттэй загваруудыг Box-ын өөрийн мета өгөгдөл болон зөвшөөрлийн хяналтын системтэй нэгтгэснээр таван өөр технологийг нэг API-д багтаасан цогц шийдлийг бий болгожээ.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
At its developer conference on Thursday, Box showed off a new feature that will build Nvidia’s Nemotron embedding system into the core of its product.
Called Box Content Retrieval, the new feature allows agents to answer queries far more effectively by relying on the embedded metadata created by Nemotron.
Box says the upshot for users is faster, more accurate and less expensive queries. Nvidia’s VP of generative AI software, Kari Briski, told TechCrunch that she expects queries to be answered four times faster, with 20% fewer errors and 90% fewer tokens used.
The system will be available to all of Box’s Enterprise Advance customers, rolling out early next year.
“This dramatically boosts both the relevance of our search technology for agents,” Box CEO Aaron Levie said. “Instead of an agent having to kind of read through each document, we can send back chunks from the documents that are most relevant to the user’s query or whatever the task is that the agent is doing.”
The feature is an implementation of Nvidia’s Nemotron Embed project, which offers open-weight embedding models to improve automated retrieval systems. Major labs have often overlooked such models, which use LLMs to pre-process data so it can be better used by agents. The sector has been a focus for Nvidia’s open-source model project, with its recent Nemotron release in July topping the RTEB benchmark, which measures retrieval quality.
The system will be most useful when paired with active agents, Box says, giving the example of lawyers, who will ostensibly be able to find relevant clauses and precedents more easily under the new system. Because Nemotron’s embeddings go beyond simple keywords to map underlying concepts, a search tool can surface related legal themes even when different wording or language is used.
While the Nemotron models are freely available, the system also relies heavily on Box’s pre-existing metadata and permission controls, which will make it challenging to recreate from scratch. “We’re probably packing in five different technologies into one simple API,” Levie told TechCrunch.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
