Snížení cen DeepSeek neřeší strukturální problém s maržemi

DeepSeek, čínský poskytovatel AI modelů, nedávno překvapil trh agresivním snížením cen za API volání svého nejnovějšího modelu V4-Pro. Toto zlevnění, dosahující až 75 procent, by mohlo na první pohled signalizovat pozitivní trend směrem k dostupnější umělé inteligenci pro podnikové aplikace. Jak však upozorňuje VentureBeat AI, samotné snížení jednotkové ceny inferencí nemusí být dostatečným řešením pro fundamentální problém s maržemi a celkovou udržitelností AI řešení ve firmách.

Jádro problému nespočívá v ceně za jedno volání modelu, nýbrž v exponenciálně rostoucím počtu volání, která jsou nutná pro dokončení jednoho komplexního úkolu prostřednictvím takzvaných agentických systémů. Zatímco u jednoduchých aplikací může být jeden dotaz na model dostatečný, pokročilé AI agenty, které plánují, iterují a opravují své výstupy, generují násobné – a často nepředvídatelné – množství volání. To dramaticky zvyšuje celkové provozní náklady, i když je cena za token či volání nízká.

Podstata problému: Komplexita agentických systémů

Moderní AI aplikace se stále více posouvají od jednorázových dotazů k sofistikovanějším agentickým architekturám. Tyto systémy jsou navrženy tak, aby autonomně řešily komplexní úkoly, často vyžadující více kroků: pochopení zadání, rozložení na dílčí podúkoly, sběr informací, generování dílčích výstupů, jejich ověřování a případné opravy. Každý z těchto kroků typicky vyžaduje jedno nebo více volání velkého jazykového modelu (LLM).

Představte si AI agenta, jehož úkolem je analyzovat tržní data a navrhnout novou marketingovou strategii. Agent nemusí jen jednou požádat model o návrh. Může nejprve požádat o identifikaci klíčových trendů, poté o SWOT analýzu, následně o generování několika variant strategií, poté o jejich vyhodnocení na základě interních kritérií a nakonec o formulaci finálního doporučení, přičemž každý krok může zahrnovat i interní iterace a revize. Takový proces může snadno vést k desítkám, nebo i stovkám volání modelu pro splnění jediného, byť komplexního, úkolu. VentureBeat AI tento jev nazývá "100x problém".

I když DeepSeek sníží cenu za volání o 75 procent, pokud aplikace vyžaduje stokrát více volání než jednoduchý dotaz, celkové náklady na jeden úkol zůstávají stále vysoké, nebo se dokonce mohou zvýšit, pokud se s rostoucí komplexitou agenta počet volání zvyšuje ještě více. Pro firmy to znamená, že se nemohou spoléhat pouze na cenovou válku mezi poskytovateli modelů, ale musí se zaměřit na efektivitu a optimalizaci architektury svých AI řešení.

Dopady na strategii firem

Tento trend má zásadní důsledky pro strategické plánování a implementaci AI ve firmách. Čistě cenová konkurenceschopnost modelů, ačkoliv je vítaná, neřeší základní architektonický problém. Firmy, které chtějí dosáhnout skutečné návratnosti investic do AI, musejí přehodnotit způsob, jakým své AI aplikace navrhují a provozují.

Místo slepého spoléhání na největší a nejdražší modely pro každý úkol, je nutné zvažovat hybridní přístupy. To může zahrnovat kombinaci menších, specializovanějších modelů pro dílčí úkoly, efektivnější orchestraci agentů, chytrou správu kontextových oken a minimalizaci zbytečných iterací. Cílem by mělo být snížení celkového počtu volání modelu potřebných k dokončení úkolu, nikoli pouze snížení ceny za jedno volání.

Provozní náklady na AI se stávají klíčovým faktorem při škálování řešení. Pokud je cena za jeden úkol příliš vysoká, brzdí to nasazení AI do kritických podnikových procesů, kde by mohla přinést největší hodnotu. Důraz se musí přesunout od "jak levně mohu zavolat model" k "jak efektivně mohu splnit obchodní cíl s minimálním počtem volání modelu".

Co to znamená pro vaši firmu

• Auditujte své AI architektury: Projděte si stávající nebo plánované implementace AI. Zhodnoťte, kolik volání modelu je průměrně potřeba k dokončení klíčových úkolů, a identifikujte příležitosti pro optimalizaci a snížení počtu volání.
• Prioritizujte efektivitu nad surovou cenou: Namísto pouhého srovnávání cen za token se zaměřte na celkové náklady na dokončení obchodního procesu. Zvažte, zda je pro daný úkol nutné použít největší a nejdražší model, nebo zda by postačoval menší, specializovaný model, který by mohl být efektivnější.
• Prozkoumejte hybridní a optimalizované přístupy: Hledejte možnosti, jak kombinovat různé modely, využívat techniky jako RAG (Retrieval-Augmented Generation) efektivněji, optimalizovat velikost kontextu a minimalizovat zbytečné iterace agentů.
• Měřte obchodní hodnotu na úkol: Nastavte metriky, které sledují nejen technické parametry AI, ale především přímou obchodní hodnotu a náklady spojené s dokončením jednoho konkrétního úkolu, který AI řeší. To vám pomůže lépe porozumět skutečné návratnosti investic.