Ten artykuł został opracowany i zorganizowany przez BlockWeeks.
W konflikcie z Anthropic Waszyngton faktycznie posiada prawo weta co do tego, które modele AI mogą być używane przez obywateli amerykańskich. Galaxy Research uważa, że to błędna decyzja i rząd powinien zmienić kurs.
W piątek, 12 czerwca, o 17:21 czasu wschodniego, Departament Handlu wydał dyrektywę kontroli eksportu dla Anthropic, wymagając odcięcia usług Fable 5 i Mythos 5 dla wszystkich obcokrajowców na całym świecie, w tym dla pracowników niebędących obywatelami w samej firmie. Rząd twierdził, że ktoś odkrył metodę obejścia zabezpieczeń Fable 5 i uzyskania dostępu do możliwości cyberbezpieczeństwa leżącego u podstaw modelu Mythos. Firma AI nie mogła segmentować użytkowników według narodowości w wymaganym przez rząd czasie, więc natychmiast wyłączyła oba modele w ciągu kilku godzin, na całym świecie. Inne modele Claude pozostały online. Ale dwa z najpotężniejszych modeli językowych w historii zniknęły z powodu zwykłego prywatnego listu od rządu – bez nakazu sądowego, publicznego dokumentu ani ujawnienia jakichkolwiek ustaleń. W zeszłą środę użytkownicy Reddita zauważyli, że Fable 5 został dodany do katalogu AWS Bedrock, a usługa w chmurze wydawała się przywrócona. Ale niezależnie od tego, incydent ten stwarza znaczne ryzyko dla AI, innowacji i rynku amerykańskiego.
Rząd USA skutecznie oświadczył, że może arbitralnie wycofywać komercyjne modele z rynku poprzez działania administracyjne. Chociaż mechanizm ten to kontrola eksportu, jego skutek rynkowy to wycofanie produktu. Rząd federalny przekroczył Rubikon w kwestii AI, przechodząc od tworzenia zasad do posiadania uznaniowej władzy nad tym, które modele trafiają na publiczny rynek i kiedy. Ustanowienie takiej władzy zwykle nie ogranicza się samo: jeśli rząd nie zmieni kierunku, następna dyrektywa może zostać wydana jeszcze łatwiej niż ta.
Jedyna zewnętrzna ekspertka, która przeczytała podstawowe badania, Katie Moussouris (Luta Security), opisała rzekomą próbę złamania zabezpieczeń w prostych słowach. Naukowcy z Amazon dostarczyli modelowi kod open source zawierający znane i celowo wprowadzone luki i poprosili go o przegląd problemów bezpieczeństwa. Model odmówił. Następnie naukowcy poprosili model o naprawienie kodu, a model to zrobił.
Moussouris nazwała to żądanie defensywnym promptem, a nie obejściem, i stwierdziła, że to najcenniejsza rzecz, jaką AI może zrobić dla zespołów bezpieczeństwa. O ile jej wiadomo, najpotężniejszy model cyberobrony na rynku został powalony trzema słowami – „napraw ten kod”.
Departament Handlu nie wydał dyrektywy dla Anthropic ani jej uzasadnienia. Nie została opublikowana na stronie departamentu, w Rejestrze Federalnym ani gdziekolwiek indziej. Dyrektywa została przekazana jako prywatny list z Biura Przemysłu i Bezpieczeństwa departamentu, które również nie upubliczniło go. Podstawa prawna, na którą powołał się Departament Handlu, również nie jest do końca jasna. Centrum Studiów Strategicznych i Międzynarodowych (CSIS) zasugerowało, że departament mógł polegać na ustawie o reformie kontroli eksportu z 2018 r. (ECRA), wykorzystując tak zwaną władzę „opartą na informacjach”, aby prywatnie poinformować firmy, że wymagana jest licencja. Takie wymogi są egzekwowane poprzez przepisy dotyczące administracji eksportu (EAR). Jednak w ramach EAR nie ma ram regulacyjnych wspierających tę władzę ustawową, więc nigdy nie była ona używana jako podstawa kontroli, a Departament Handlu nie wydał przepisów wdrażających tę władzę.
Standard sugerowany przez rząd nie wytrzymuje powyższej rzeczywistości. Jeśli wdrożenie wymaga zapewnienia, że nie ma metody wywołania niebezpiecznych zdolności, to sam standard jest nieosiągalny. Własni inżynierowie Anthropic stwierdzili, że negatywna certyfikacja jest niemożliwa, a ich własni inżynierowie nie mogą tego udowodnić dla nikogo. Zgodnie z logiką Anthropic, zastosowanie tego standardu do całej branży całkowicie zatrzymałoby wdrażanie modeli AI na granicy możliwości. To niemożliwy próg, a nie próg bezpieczeństwa – to po prostu uznaniowe prawo weta w białym fartuchu.
Załóżmy, że Anthropic chciałby spełnić dosłowne znaczenie dyrektywy – wykluczając obcokrajowców, jednocześnie obsługując Amerykanów – można to osiągnąć tylko poprzez pełną weryfikację tożsamości każdego użytkownika. Anthropic mógłby wdrożyć pełny proces rejestracji Know Your Customer (KYC), wymagający dowodu obywatelstwa i zamieszkania, tak jak przy otwieraniu rachunku maklerskiego. Dzięki temu Anthropic mógłby ograniczyć dostęp według narodowości (chociaż jego własni pracownicy mogliby zostać zablokowani). Ale bez tego nie może zapobiec dostępowi „obcych” osób...
Podobno rząd USA ma jednak powody do obaw. Zeznania w Senacie, które pojawiły się pod koniec czerwca (przekazane przez senatora Marka Warnera (D-VA) i przypisywane dyrektorowi NSA Joshuie Ruddowi), opisywały, jak Mythos włamał się do prawie wszystkich systemów klasyfikowanych społeczności wywiadowczej w ciągu kilku godzin podczas autoryzowanego ćwiczenia zespołu czerwonego (chociaż reporter The Economist nieco podważył ten raport). Mythos był pierwszym modelem, który przeszedł środowisko testowe cyberbezpieczeństwa brytyjskiego Instytutu Bezpieczeństwa AI. To poważna zdolność i ważny punkt danych. Wymaga to poważnego procesu, a nie listu w piątkowy wieczór bez towarzyszących ustaleń.
Co więcej, Mythos miał być ograniczony do zweryfikowanych partnerów. Modele wycofane z rynku to Fable (wersja konsumencka), którego zabezpieczenia kierowały wrażliwe cybernetyczne i biologiczne zapytania do starszego Opusa 4.8. Globalne wycofanie chronionego produktu, podczas gdy naprawdę niebezpieczna wersja nie była publiczna od początku, odzwierciedla proces, który myli zdolność z wdrożeniem.
