AI-nyheter
USA:s regering beordrar Anthropic att stänga av Fable 5 och Mythos 5 – nationell säkerhet åberopas
Den amerikanska regeringen har med omedelbar verkan utfärdat ett exportkontrollföreläggande som tvingar Anthropic att stänga av tillgången till sina mest avancerade AI-modeller Fable 5 och Mythos 5 för alla utländska medborgare. Beslutet, som fattats med hänvisning till nationell säkerhet, påverkar även Anthropics egna utländska anställda.
Den amerikanska regeringen har med omedelbar verkan utfärdat ett exportkontrollföreläggande som tvingar Anthropic att stänga av tillgången till sina mest avancerade AI-modeller Fable 5 och Mythos 5 för alla utländska medborgare. Beslutet, som fattats med hänvisning till nationell säkerhet, påverkar även Anthropics egna utländska anställda.
Föreläggandet kom fredagen den 12 juni klockan 17:21 ET och innebär att Anthropic omedelbart måste inaktivera Fable 5 och Mythos 5 för samtliga kunder för att efterleva beslutet. Andra Anthropic-modeller som Claude påverkas inte.
Regeringen har enligt Anthropic inte lämnat några specifika detaljer om sina nationella säkerhetsfarhågor. Anthropics förståelse är att regeringen anser sig ha upptäckt en metod för att "jailbreaka" Fable 5 – en teknik att kringgå modellens säkerhetsspärrar. Anthropic uppger att de granskat en demonstration av tekniken och funnit att den används för att identifiera ett litet antal tidigare kända, mindre sårbarheter.
"Sårbarheterna framstår som relativt enkla och vi har funnit att andra allmänt tillgängliga modeller kan upptäcka dem utan att kringgå säkerhetsspärrar", skriver Anthropic i ett officiellt uttalande.
Företaget betonar att Fable 5 genomgått tusentals timmars red-teaming från amerikanska myndigheter, brittiska AISI och flera externa organisationer innan lanseringen. Testerna visade enligt Anthropic att Fable 5:s säkerhetsspärrar är "väsentligt mer effektiva" än någon tidigare modell. Inga testare har hittat ett universellt jailbreak – en metod som brett kan kringgå modellens skydd.
Anthropic menar att perfekt jailbreak-resistens inte är möjlig för någon modellleverantör idag och att företaget därför använt en "defense in depth"-strategi med övervakning, datalagring och snabb reaktion på attacker. Man uppger också att regeringen endast gett muntliga bevis om ett potentiellt smalt, icke-universellt jailbreak.
Fallet väcker grundläggande frågor om gränserna för statlig kontroll över avancerad AI och hur balansen mellan säkerhet och innovation ska hanteras.