Architect запускає Liquid Inference — аукціон у реальному часі для інференсу LLM
Architect Financial Technologies запустила Liquid Inference — маршрутизатор LLM, який проводить аукціон у реальному часі для кожного запиту. Liquid Inference — це маркетплейс інференсу LLM від Architect, де провайдери пропонують ціни за обробку кожного промпту. Покупець платить за найнижчою пропозицією…