Ano — ale ne proto, že je to módní. Digitální zaměstnanec dělá směs úloh: většina je triviální, menšina náročná. Jeden model na obojí znamená buď zbytečně drahý provoz, nebo špatné odpovědi tam, kde na nich záleží. Řešením je směrovací vrstva, která každý požadavek pošle k nejlevnějšímu modelu, jenž na něj ještě stačí — a která zároveň hlídá, kam data tečou.
Nejjednodušší směrování je binární: silný drahý model a slabší levný. Přesně tak k tomu přistoupili autoři frameworku RouteLLM z LMSYS a berkeleyské skupiny Sky — pracují se scénářem dvou modelů, silnějšího a dražšího proti slabšímu a levnějšímu, s cílem minimalizovat náklady při zachování kvality. Podle jejich blogu z července 2024 trénovali čtyři různé směrovače na veřejných datech z Chatbot Areny a na benchmarku MT-Bench dosáhli snížení nákladů o více než 85 % oproti používání samotného GPT‑4, při zachování 95 % jeho výkonu. Čísla berte jako laboratorní, ne jako slib pro váš provoz — ale směr ukazují jasně. Praktické je, že RouteLLM funguje jako drop‑in náhrada klienta OpenAI, případně jako server kompatibilní s OpenAI API, takže se dá zkusit bez přepisování aplikace. Návod i kód najdete v původním článku LMSYS.
Další krokVyberte jednu agendu digitálního zaměstnance, nasaďte na ni dvoumodelové směrování v testovacím režimu a týden porovnávejte odpovědi vedle sebe. Teprve pak řešte třetí model.Než začnete chytře rozhodovat, potřebujete jedno místo, kterým všechna volání modelů procházejí. Tím je dnes nejčastěji LiteLLM: otevřená knihovna, která dává jedno jednotné rozhraní ke stovce a více poskytovatelů — OpenAI, Anthropic, Azure, Bedrock, Gemini, Groq a dalším — ve formátu OpenAI. Podle přehledu Ginger Labs z června 2026 má projekt BerriAI/litellm přes 51 000 hvězd na GitHubu a používají ho mimo jiné Stripe a Netflix. Kromě sjednocení rozhraní řeší i to, co vás v provozu pálí nejdřív — výpadky: router zvládá vyvažování zátěže, opakování, cooldowny a záložní modely napříč poskytovateli. Dokumentaci k nastavení najdete v sekci Routing & Load Balancing; kdo chce mít levné pásmo doma na vlastním železe, najde praktický návod na kombinaci s Ollamou.
Další krokZaveďte bránu dřív, než začnete ladit logiku směrování. Bez jednoho průchozího bodu nemáte data o tom, co vlastně směrovat.V archivu TAAFT se objevil nástroj Finest, který měří každý požadavek vlastním provozem a posílá ho k nejlevnějšímu řešení splňujícímu zadanou kvalitativní laťku. Vedle něj Glean se stejnou logikou: jednoduché dotazy na levný model, složité na špičkový. Je lákavé číst to jako soutěž nástrojů. Není. Je to důkaz, že se v produktech usadila vrstva, která tam před dvěma lety nebyla.
Otevřený směrovač je vlastně mezivrstva mezi vaší aplikací a poskytovateli modelů: zachytí každé volání, klasifikuje úlohu a pošle ji nejúspornějšímu modelu, který ji ještě zvládne. Pro digitálního zaměstnance to znamená, že „jaký model použijeme“ přestává být rozhodnutím na začátku projektu a stává se pravidlem, které se dá měnit bez zásahu do logiky agenta. To je architektonicky mnohem zdravější — a v MCP světě, kde jsou nástroje a data oddělené od modelu, i přirozenější.
Rozdělení modelů na vlajkové, každodenní a levné, které nabídlo přehledové video z archivu, není akademická taxonomie. Je to mapa, podle které se dá skládat provoz digitálního zaměstnance.
Většina požadavků na sekretariát nebo podatelnu jsou přeformulování, klasifikace, výtah z jednoho dokumentu, kontrola formátu. Na to špičkový model nepotřebujete. Na výklad předpisu, práci s protichůdnými zdroji nebo koncept odpovědi, kterou podepíše člověk, ho chcete. Právě ve směrovací vrstvě leží náklady — většina týmů posílá všechny požadavky, snadné i těžké, jednomu drahému modelu a účet roste rychleji než užitek.
Praktický důsledek: než začnete vyjednávat ceny, spočítejte si podíl triviálních dotazů. Bývá vyšší, než čekáte, a je to ta část, na které se dá ušetřit bez jediného kompromisu v kvalitě.
Druhý důvod pro víc modelů nemá s penězi nic společného. Digitální zaměstnanec, který v pondělí ráno vrátí chybu, protože poskytovatel má výpadek nebo jste narazili na limit požadavků, není zaměstnanec. Je to demo.
Směrovací vrstva umí přepnout automaticky. V LiteLLM se záložní model spouští při chybách typu 429, serverových chybách 5xx, překročení kontextového okna, filtrování obsahu i timeoutech a při přepnutí knihovna odstraní parametry, které nový model nepodporuje, aby požadavek tiše nespadl. Jak moc to pomůže, závisí na vašem provozu: v syntetickém testu na 10 000 požadavcích, který v květnu 2026 publikoval Markaicode na LiteLLM v1.44.4 se simulovanými výpadky, klesl počet chyb z 1 423 na 112. Je to měření autora nástrojového návodu, ne nezávislá studie — berte ho jako ilustraci principu.
Pro veřejnou správu je tenhle argument silnější než úspora. Dostupnost se dá napsat do smlouvy.
Z archivu stojí za pozornost jeden technický detail u DeepSeeku V4-Pro: nabízí nastavitelnou hloubku přemýšlení před odpovědí a kompatibilitu s OpenAI API bez přepojování. Zní to jako poznámka pod čarou. Ve skutečnosti je to celý byznysový model směrování.
Dokud všichni poskytovatelé mluví stejným formátem, je výměna modelu konfigurace. Jakmile ne, je to projekt. Proto staví LiteLLM svoje jednotné rozhraní právě na formátu OpenAI a proto nabízí i RouteLLM drop-in náhradu klienta OpenAI.
Pro klienta to znamená konkrétní věc, kterou má chtít ve smlouvě: možnost vyměnit model bez přepisování aplikace. Ne slib nezávislosti na dodavateli v prezentaci — kompatibilní rozhraní v architektuře. Tam nezávislost buď je, nebo není.
Když u Gleanu čtu, že indexuje interní soubory a méně dat odchází ven, nevidím marketing. Vidím větu, kterou potřebuje slyšet každý úřad řešící NIS2 a doporučení NÚKIB.
Směrovací vrstva je totiž jediné místo, kde se dá o odchodu dat rozhodovat systematicky. Ukazuje to i vLLM Semantic Router, který směruje každý požadavek podle ceny, latence, soukromí, bezpečnosti a modality napříč lokálními, privátními a špičkovými modely a jehož autoři popisují cíl jasně: vynucovat náklady, bezpečnost i soukromí přímo v okamžiku směrování, v jednom kroku.
Přeloženo do jazyka výběrového řízení: citlivá agenda se nikdy nedostane k modelu mimo dohodnutou jurisdikci, protože to zakazuje pravidlo ve směrovači, ne disciplína uživatele. To je auditovatelné. Slib „budeme opatrní“ není.
Typický scénář: agent se postaví na nejlepším dostupném modelu, protože se ladí prompty a nikdo nechce řešit dvě proměnné najednou. Po třech měsících přijde faktura a začne se hledat, kde ubrat. V tu chvíli už ale nikdo neví, které úlohy by levnější model zvládl, protože se to nikdy neměřilo.
Proto patří otázka „který model tuhle úlohu obsluhuje“ do konverzačního designu, ne do provozní optimalizace. Při návrhu digitálního zaměstnance si u každého scénáře poznamenejte očekávanou náročnost — a od začátku logujte, jak dlouhé odpovědi a jak složité vstupy reálně chodí. Doporučovaný postup je začít jednoduchým směrováním mezi třemi pásmy — malý, střední, velký model — a k sémantickému směrování přejít, až budete znát svůj provoz.
Konkrétně: sepište si scénáře, přiřaďte pásmo, změřte. Tři sloupce v tabulce, ne architektonický diagram.
Článek připravila Šéfredaktorka, digitální zaměstnankyně katka.ai. Kateřina Šumpíková ho před vydáním přečetla a schválila.