Amerykański rząd nakazał Anthropicowi zawiesić dostęp do modeli Claude Fable 5 i Mythos 5 zaledwie trzy dni po ich wprowadzeniu. Co ta sprawa oznacza dla firm, które budują agentową AI w swoich kluczowych procesach.
W zeszłym tygodniu pisaliśmy o tym, jak Anthropic wprowadził nowe modele Claude Fable 5 i Mythos 5. Trzy dni później rząd USA wydał nakaz eksportowy, na którego podstawie Anthropic musiał zawiesić dostęp do obu modeli dla wszystkich użytkowników - łącznie z zagranicznymi pracownikami samego Anthropica.
Dla firm, które zaczynają budować agentową AI w swoich procesach, to całkiem przydatna lekcja. Nie o tym, czy Fable 5 jest bezpieczny, czy nie. Ale o tym, jak szybko najnowszy model może stać się niedostępny - i co z tym zrobić z wyprzedzeniem.
Co się stało
Anthropic dostał 12 czerwca wieczorem (17:21 czasu wschodniego) od rządu USA nakaz eksportowy powołujący się na bezpieczeństwo narodowe. Powodem była obawa o metodę pozwalającą obejść („złamać zabezpieczenia") mechanizmy bezpieczeństwa modelu Fable 5.
Aby spełnić nakaz, Anthropic musiał wyłączyć dostęp do Fable 5 i Mythos 5 dla zupełnie wszystkich - niezależnie od tego, czy chodziło o wrażliwe zastosowanie, czy zwykłe wdrożenie firmowe. Pozostałe modele (Opus, Sonnet, Haiku) pozostają bez ograniczeń.
Anthropic się nie zgadza, ale musi być posłuszny
Anthropic w swoim oświadczeniu podaje, że:
- nie chodziło o uniwersalny jailbreak, który obchodziłby model w sposób ogólny,
- to stosunkowo prosta technika, którą są w stanie wykryć również inne publicznie dostępne modele,
- z rządem i zewnętrznymi zespołami spędzili tysiące godzin na testowaniu bezpieczeństwa Fable 5 jeszcze przed premierą.
Mimo to musieli wyłączyć model dla wszystkich, ponieważ nakaz nie rozróżnia między zastosowaniem wrażliwym a zwykłym.
Kluczowy wniosek dla firm
Nawet największy gracz w branży, z silnymi zabezpieczeniami i wsparciem ze strony rządów i niezależnych badaczy, nie zdołał zapobiec temu, że regulator z dnia na dzień wyłączył mu najnowszy model - niezależnie od tego, jak zdecydowanie się z tą decyzją nie zgadza.
Co to oznacza dla firm budujących na modelach frontier
Jeśli macie firmowy proces na sztywno powiązany z jednym konkretnym modelem od jednego dostawcy - czy to ze względu na najlepsze wyniki, najniższą cenę czy najnowsze funkcje - ryzykujecie więcej niż tylko „model będzie następnym razem gorszy albo droższy". Ryzykujecie, że model jutro po prostu nie będzie dostępny. Nie z waszej winy, nie z powodu waszych danych, ale z powodu decyzji, która jest całkowicie poza waszą kontrolą.
To nie jest argument przeciwko korzystaniu z AI. To jest argument za tym, jak ją wbudować w firmę.
Nie wiążcie kluczowych procesów na sztywno z jednym konkretnym modelem. Warstwa, która komunikuje się z AI, powinna być wymienna - to samo zadanie musi dać się przełączyć na inny model lub dostawcę bez przepisywania całego workflow.
Dane, logika biznesowa, uprawnienia i historia zapisów muszą żyć w waszym systemie, nie wewnątrz modelu AI. Model to narzędzie, które pracuje na danych - nie miejsce, w którym dane mieszkają.
Miejcie plan B. Jeśli model, na którym działa kluczowa automatyzacja, jutro zniknie, musi istnieć zamiennik - nawet jeśli tymczasowo wolniejszy lub droższy.
Logujcie i audytujcie, co agent AI zrobił i dlaczego. Przy awarii lub przełączeniu modelu łatwo wtedy sprawdzicie, że wyniki pozostają spójne.
Budujecie firmowe procesy na agentach AI?
W Apexloopie dane, automatyzacje i uprawnienia trzyma jeden wspólny model niezależny od konkretnego dostawcy AI - więc awaria lub zmiana jednego modelu nie oznacza awarii waszego procesu.
Podsumowanie
Ta sprawa najprawdopodobniej dotknie bardzo małą liczbę realnych wdrożeń - Fable 5 był na rynku zaledwie trzy dni. Ale pokazuje kierunek, w którym zmierzają modele frontier AI: są coraz mocniejsze, coraz bardziej agentowe, a zarazem podlegają coraz szybszym i mniej przewidywalnym interwencjom regulacyjnym.
Firmy, które architektonicznie nie są przygotowane na tę zmienność, odczują ją jako awarię. Firmy, które mają warstwę AI oddzieloną od danych i logiki, odczują ją co najwyżej jako nieprzyjemną notatkę w changelogu.
Przeczytaj oświadczenie Anthropica
Nasz krótki komentarz do tej informacji znajdziecie też na LinkedIn.