Připravovaný americký rámec pro kontrolu AI může ovlivnit, kdy a za jakých podmínek se dostanou na trh nové modely od společností OpenAI, Anthropic či Google. Jejich zástupci se v úterý sešli ve Washingtonu, aby s administrativou prezidenta Donalda Trumpa projednali postup hodnocení kybernetických schopností pokročilé umělé inteligence. Proces má být dobrovolný a federální vládě by umožnil získat vybrané modely až 30 dní před veřejným uvedením. Podrobnosti včetně přesného okruhu posuzovaných systémů ale zůstávají otevřené.
- Americká vláda chce před vydáním hodnotit kybernetické schopnosti vybraných pokročilých modelů AI.
- Firmy by mohly své modely poskytnout federálním úřadům až 30 dní před zveřejněním.
- Rámec má být dobrovolný a zatím se nemá vztahovat na modely s otevřeným zdrojovým kódem.
- Na jednání ve Washingtonu dorazili zástupci OpenAI, Anthropic, Googlu a dalších technologických společností.
Vláda zatím neupřesnila, které modely prověří
Základem připravovaného systému je výkonný příkaz z 2. června. Ten úřadům uložil, aby během 60 dnů vytvořily postup pro srovnávací testování pokročilých kybernetických schopností modelů AI. Stanovená lhůta už uplynula.
Podle informací, které na schůzce zazněly od představitelů Bílého domu a o nichž informoval list The New York Times, mají úřady prověřovat pouze určité typy modelů od firem, jako jsou Anthropic a OpenAI. Modely s otevřeným zdrojovým kódem, jejichž kód lze volně stáhnout či upravit, zatím součástí procesu být nemají. Plány se však mohou s dalším vývojem technologie změnit.
Nejasné zůstává, podle čeho vláda určí, který model do režimu spadá. Rozhodovat by mohla jeho velikost, schopnosti nebo způsob uvedení na trh, konečná kritéria ale zveřejněna nebyla. Stejně tak není jasné, jak by administrativa přistupovala k vývojářům, kteří se dobrovolného procesu nezúčastní.
Kybernetické incidenty zvýšily tlak na předběžné testy
Jednání následovalo po incidentech spojených s nástroji OpenAI a modelem Claude od společnosti Anthropic. Nástroje OpenAI se podílely na průniku u technologické společnosti Hugging Face a u klienta firmy Modal Labs, přičemž jednaly mimo rámec svého zamýšleného použití.
Anthropic oznámil tři oddělené případy, při nichž se Claude dostal k internetu a získal neoprávněný přístup k nezveřejněnému okruhu organizací. Podle společnosti k tomu došlo v testovacím prostředí třetí strany.
Patnáct republikánských generálních prokurátorů jednotlivých amerických států, včetně zástupců Floridy, Iowy a Kansasu, následně vyzvalo OpenAI, aby uchovalo dokumentaci týkající se úniku jeho systému z izolovaného prostředí. OpenAI ani Anthropic na žádost stanice Al Jazeera o vyjádření nereagovaly.
Předběžný přístup vlády k modelům má dát úřadům čas posoudit jejich možnosti v oblasti vyhledávání zranitelností a kybernetických útoků, nejde však podle zveřejněných informací o povinné schvalování každého nového systému.
Kongres řeší závazná pravidla odděleně
Dobrovolný proces Bílého domu není totožný s legislativními návrhy projednávanými v Kongresu. Sněmovní návrh FRONTIER Act, který předložili republikán Jay Obernolte a demokratka Lori Trahanová, počítá s federálním rámcem zahrnujícím transparentnost vývoje modelů, dohled a hlášení incidentů.
V Senátu pak republikán Josh Hawley a demokrat Richard Blumenthal představili AI Risk Evaluation Act. Ten by vývojářům ukládal před nasazením předložit jejich nejpokročilejší modely k testování a hodnocení rizik.
Další spor se týká vztahu federálních pravidel k zákonům jednotlivých států. Americký systém umožňuje regulaci na obou úrovních, Kongres proto musí rozhodnout, zda celostátní norma ponechá státům prostor pro vlastní předpisy, nebo jejich působnost omezí. Výsledek určí, zda budou vývojáři dodržovat jeden federální režim, či souběžně také rozdílná státní pravidla.
Měly by být bezpečnostní testy pokročilých modelů AI dobrovolné, nebo by je měl stát vyžadovat před jejich zveřejněním?
