Корпорацын зардлын удирдлагын Ramp платформ нь хэрэглэгчдэд олон төрлийн том хэлний загваруудыг API-аар дамжуулан солих боломж олгох Router үйлчилгээг зах зээлд нэвтрүүлэв.
Ramp компани сүүлийн гурван жилийн турш дотоод хэрэгцээндээ ашиглаж ирсэн хиймэл оюун ухааны загвар чиглүүлэгч (router) үйлчилгээгээ албан ёсоор танилцууллаа. Энэхүү шийдэл нь хэрэглэгчдэд OpenAI, Anthropic, DeepSeek, Nvidia, xAI зэрэг олон төрлийн загваруудыг нэг платформоор дамжуулан ашиглах, хооронд нь солих боломжийг олгодог. Үйлчилгээг одоогоор зөвхөн АНУ-д ашиглах боломжтой бөгөөд 2026 оныг дуустал үнэ төлбөргүй нэвтрүүлж, 26 ам.долларын урамшууллын кредит олгож байна.
Router нь хэрэглэгчдэд загваруудын гүйцэтгэл, үнэ болон хариу өгөх хурд зэрэг үзүүлэлтүүд дээр үндэслэн хүсэлтүүдээ чиглүүлэх стратегийг санал болгодог. Мөн тус платформын хяналтын самбар нь токен зарцуулалт, өртөг болон системийн саатал зэрэг дэлгэрэнгүй мэдээллийг хянах боломжийг олгодог. Өгөгдөл хадгалах бодлогын хувьд тус үйлчилгээ нь загварын оролт, гаралтын мэдээллийг нэг жилийн хугацаатай хадгалах бөгөөд бүтээгдэхүүнийг сайжруулахаас өмнө хувийн мэдээллийг устгах арга хэмжээ авдаг байна.
Ramp энэхүү алхмаар дамжуулан хиймэл оюун ухааны дүгнэлт гаргах (inference) зах зээлд байр сууриа бэхжүүлж, өөрийн үйлчлүүлэгчдэд зардлын удирдлага болон токен ашиглалтын хяналттай уялдаатай нэмэлт үйлчилгээг санал болгож байна. Зургаадугаар сард 44 тэрбум ам.долларын үнэлгээтэйгээр 750 сая ам.долларын санхүүжилт татсан тус компани нь энэхүү шинэ үйлчилгээгээрээ дамжуулан дэлхий даяарх хиймэл оюун ухааны лабораториуд болон үйлчилгээ үзүүлэгчидтэй урт хугацааны хамтын ажиллагааг өрнүүлэх зорилготой байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Corporate expense management platform Ramp is hot on the heels of Stripe in setting up toll houses for AI inference.
Ramp on Wednesday evening launched its own AI model routing service, dubbed Router, that lets users and companies use and switch between various large language models through an API. The company says it has been using the router it built for its own AI usage needs over the past three years.
The service is only available in the United States. It’s free to use for the remainder of 2026 (users will still have to pay for AI model inference costs), and it comes with a $26 credit launch offer. The company did not say how much the service will cost next year.
Router functions similarly to how OpenRouter operates, though the latter offers many more AI model options than Ramp’s current offerings.
Router offers access to models from OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI, and Z.ai. It also provides several “strategies” to help its customers route AI requests to models based on their preferences. For example, one lets users set a preference for model providers’ flex usage tiers, while another lets Router choose which model to route queries to based on up to three user-specified benchmarks. Users can also choose to route only difficult problems to expensive models or test models easily without having to switch.
Users get a dashboard, too, that lets them see token spend, cost, latency, fallback attempts, and other details.
Notably, Router has an opt-out data retention policy: It will record model inputs, outputs, and tool calls for one year by default, though the company says it will remove “personally identifiable information before using that content to improve the product.”
For Ramp, entering the model routing business offers a two-pronged opportunity: It gets to tap the booming AI inference market and offer its existing clients a model routing service that fits in neatly with its existing products, which includes AI token usage monitoring and token spend management.
And, if Router proves as attractive of a model testing arena as OpenRouter has, Ramp may also be able to build long-standing relationships with AI labs and inference providers worldwide. That could help Ramp, which raised $750 million at a $44 billion valuation in June, gain new customers and a new point of entry for selling its expense management products.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
