Minulý týden jsme psali o tom, jak Anthropic uvedl nové modely Claude Fable 5 a Mythos 5. O tři dny později přišla vláda USA s exportním nařízením, na jehož základě musel Anthropic přístup k oběma modelům pro všechny uživatele pozastavit — včetně zahraničních zaměstnanců samotného Anthropicu.
Pro firmy, které agentní AI začínají stavět do svých procesů, je to docela užitečná lekce. Ne o tom, jestli je Fable 5 bezpečný nebo ne. Ale o tom, jak rychle se může nejnovější model stát nedostupným — a co s tím dělat dopředu.
Co se stalo
Anthropic dostal 12. června večer (17:21 ET) od vlády USA exportní nařízení odvolávající se na národní bezpečnost. Důvodem byla obava z metody, jak obejít („jailbreaknout") bezpečnostní opatření modelu Fable 5.
Aby Anthropic nařízení splnil, musel přístup k Fable 5 a Mythos 5 vypnout pro úplně všechny — bez ohledu na to, jestli jde o citlivé použití nebo běžné firemní nasazení. Ostatní modely (Opus, Sonnet, Haiku) zůstávají bez omezení.
Anthropic nesouhlasí, ale musí poslechnout
Anthropic ve svém prohlášení uvádí, že:
- nešlo o univerzální jailbreak, který by model obcházel obecně,
- jde o relativně jednoduchou techniku, kterou jsou schopné odhalit i jiné veřejně dostupné modely,
- s vládou i externími týmy strávili tisíce hodin testováním bezpečnosti Fable 5 ještě před uvedením.
Přesto musel model vypnout pro všechny, protože nařízení nerozlišuje mezi citlivým a běžným použitím.
Co to znamená pro firmy stavící na frontier modelech
Pokud máte firemní proces, který je natvrdo navázaný na jeden konkrétní model od jednoho poskytovatele — ať je to kvůli nejlepším výsledkům, nejnižší ceně nebo nejnovějším funkcím — riskujete víc než jen „model bude příště horší nebo dražší". Riskujete, že model zítra prostě nebude dostupný. Ne kvůli vám, ne kvůli vašim datům, ale kvůli rozhodnutí, které je úplně mimo vaši kontrolu.
To není argument proti používání AI. Je to argument pro to, jak ji do firmy zabudovat.
Nenavazujte klíčové procesy natvrdo na jeden konkrétní model. Vrstva, která s AI komunikuje, by měla být zaměnitelná — stejný úkol musí jít přepnout na jiný model nebo poskytovatele bez přepsání celého workflow.
Data, byznysová logika, oprávnění a historie záznamů musí žít ve vašem systému, ne uvnitř AI modelu. Model je nástroj, který nad daty pracuje — ne místo, kde data bydlí.
Mějte plán B. Pokud model, na kterém běží klíčová automatizace, zítra zmizí, musí existovat náhrada — i kdyby byla dočasně pomalejší nebo dražší.
Logujte a auditujte, co AI agent udělal a proč. Při výpadku nebo přepnutí modelu pak snadno zkontrolujete, že výsledky zůstávají konzistentní.
Stavíte firemní procesy na AI agentech?
V Apexloopu drží data, automatizace i oprávnění jeden společný model nezávislý na konkrétním AI poskytovateli — takže výpadek nebo změna jednoho modelu neznamená výpadek vašeho procesu.
Shrnutí
Tahle kauza pravděpodobně dopadne na velmi malý počet skutečných nasazení — Fable 5 byl na trhu jen tři dny. Ale ukazuje směr, kterým se frontier AI modely pohybují: jsou silnější, agentnější a zároveň podléhají rychlejším a méně předvídatelným regulatorním zásahům.
Firmy, které na tuto volatilitu nejsou architektonicky připravené, ji pocítí jako výpadek. Firmy, které mají AI vrstvu oddělenou od dat a logiky, ji pocítí jako maximálně nepříjemnou poznámku v changelogu.
Náš krátký komentář k této zprávě najdete i na LinkedIn.