Shrnutí článku
• Zásah Washingtonu
• Vzkaz pro Silicon Valley
• Obejití bezpečnostních pravidel
• Tvrdší kontrola
• Váhy modelu
Americká vláda sáhla k mimořádnému kroku, který může zásadně změnit pravidla pro celý sektor umělé inteligence. Společnost Anthropic totiž musela po zásahu Washingtonu vypnout přístup ke svým nejpokročilejším modelům Fable 5 a Mythos 5. Důvodem jsou obavy, že by se model dal obejít způsobem, který by umožnil hledat slabiny v softwaru rychleji, než to dokáže člověk.
Washington ukázal, že je připraven jednat tvrdě
Spojené státy tím vyslaly jasný signál celému Silicon Valley. Nejpokročilejší modely umělé inteligence už dávno nejsou vnímány pouze jako technologický produkt, ale stále více jako strategické aktivum s přímým dopadem na národní bezpečnost. Americká vláda totiž nařídila Anthropicu pozastavit přístup k modelům Fable 5 a Mythos 5 pro všechny cizí státní příslušníky, a to bez ohledu na to, zda se nacházejí v USA, nebo mimo ně.
Společnost uvedla, že kvůli dodržení direktivy musela přístup k oběma modelům vypnout pro všechny uživatele. Ostatní modely společnosti Anthropic tím podle jejího vyjádření dotčeny nejsou. Rozhodnutí ale vyvolalo ostrou debatu, protože podle Anthropic nebyly bezpečnostní obavy vlády dostatečně konkrétně vysvětleny.
Jádrem sporu je možné obejití bezpečnostních pravidel
Podstatou zásahu je obava, že Fable 5 lze takzvaně jailbreaknout. V praxi to znamená obejít bezpečnostní omezení modelu a přimět jej k činnostem, které má za běžných okolností odmítat. V tomto případě šlo podle společnosti o demonstraci techniky, která měla model využít k identifikaci menšího počtu již známých a méně závažných softwarových zranitelností.
Anthropic tvrdí, že podobné slabiny dokážou najít i jiné veřejně dostupné modely a že nejde o univerzální prolomení ochranných mechanismů. Společnost proto považuje reakci americké vlády za nepřiměřenou. Varovala také, že pokud by se stejný standard uplatnil napříč celým odvětvím, mohl by fakticky zastavit nasazování nových modelů u všech nejpokročilejších vývojářů umělé inteligence.
Z dobrovolného dohledu se stává tvrdší kontrola
Celá situace je citlivá i proto, že přichází krátce po červnovém exekutivním nařízení prezidenta Donalda Trumpa. To počítalo s dobrovolným rámcem, v němž by vývojáři nejpokročilejších AI modelů mohli poskytnout federální vládě přístup k novým systémům až třicet dní před jejich širším uvedením. Nařízení zároveň výslovně uvádělo, že nemá vytvořit povinný licenční nebo schvalovací režim pro vývoj a vydávání AI modelů.
Zásah proti Anthropicu ale ukazuje, že Washington je připraven použít výrazně tvrdší nástroje, pokud vyhodnotí model jako bezpečnostní riziko. Pro technologické společnosti je to důležitý precedent. Pravidla se mohou měnit velmi rychle a ani deklarovaně dobrovolný rámec nemusí v praxi zabránit přímému zásahu státu.
AI modely se dostávají na úroveň čipů a dalších strategických technologií
Americká politika vůči nejpokročilejší umělé inteligenci začíná připomínat přístup, který Washington v posledních letech uplatňuje u vývozu čipů a vybraných technologických zařízení. Cílem už není jen podporovat domácí inovace, ale také zabránit tomu, aby se klíčové technologie dostaly k geopolitickým soupeřům.
V pozadí stojí hlavně soupeření s Čínou. Spojené státy se snaží udržet náskok v oblasti výpočetního výkonu, pokročilých modelů a AI infrastruktury. Současně ale roste obava, že samotný přístup k modelu může představovat bezpečnostní riziko. Nejde pouze o běžné používání nástroje, ale také o možnost zneužití jeho schopností v kybernetických útocích.
Další slabé místo: Váhy modelu
Washington se však nezaměřuje jen na samotné používání modelů. Stále větší pozornost věnuje také takzvaným vahám modelu. Jde o klíčová data, která určují schopnosti daného systému. Pokud by se dostal do rukou nepřátel, mohl by získat mimořádně cennou technologii bez nutnosti vyvíjet ji od začátku.
Senátor Jim Banks už dříve vyzval členy Trumpovy administrativy, aby se více zaměřili na ochranu vah pokročilých AI modelů před možnou krádeží ze strany Číny nebo dalších protivníků. Tato debata tak ukazuje, že AI bezpečnost se přesouvá z roviny obecných varování do konkrétních politických a regulatorních kroků.
Silicon Valley čeká nová éra nejistoty
Pro největší vývojáře umělé inteligence jde tak o varování. OpenAI, Google, Meta Platforms i další společnosti sledují, zda se případ Anthropicu stane ojedinělým zásahem, nebo začátkem nového regulatorního režimu. Pokud by americká vláda začala podobně omezovat přístup i k dalším modelům, mohlo by to změnit tempo zavádění nových AI systémů i jejich dostupnost mimo USA.
Téma je o to důležitější, že Anthropic se zároveň připravuje na vstup na burzu s tím, že po posledním financování dosáhla společnost ocenění 965 miliard dolarů. Přímý zásah vlády do provozu jejích nejpokročilejších modelů proto není jen technologickou nebo bezpečnostní událostí. Je to také i významný signál pro kapitálové trhy, investory a všechny společnosti, které staví svůj byznys na rychlém rozvoji umělé inteligence.