NOWYMożesz teraz słuchać artykułów Fox News!
PIERWSZY W FOXIE: Podczas gdy Waszyngton zaostrza kontrolę eksportu, aby chronić Amerykę sztuczna inteligencja Edge, czołowa firma zajmująca się sztuczną inteligencją, Anthropic, twierdzi, że trzy laboratoria AI z siedzibą w Chinach znalazły inny sposób na dostęp do zaawansowanych możliwości USA.
Jak wynika z raportu uzyskanego po raz pierwszy przez Fox News Digital, amerykańska firma utrzymuje, że DeepSeek, Moonshot AI i MiniMax wykorzystały około 24 000 fałszywych kont do wygenerowania ponad 16 milionów wymian z chatbotem Claude firmy Anthropic w ramach skoordynowanej kampanii „destylacji”, której celem było wyodrębnienie wartościowych wyników modeli.
Z raportu wynika, że zagrożenie wykracza poza oszukanie amerykańskich firm. Anthropic argumentuje, że jest mało prawdopodobne, aby modele zbudowane w drodze destylacji na dużą skalę zachowały bariery zabezpieczające wbudowane w systemy graniczne Stanów Zjednoczonych.
„Zagraniczne laboratoria, które destylują amerykańskie modele, mogą następnie wprowadzić te niechronione możliwości do systemów wojskowych, wywiadowczych i systemów nadzoru, umożliwiając autorytarnym rządom wdrażanie granicznej sztucznej inteligencji do ofensywnych operacji cybernetycznych, kampanii dezinformacyjnych i masowej inwigilacji” – stwierdził Anthropic.
Według doniesień wojsko amerykańskie użyło narzędzia sztucznej inteligencji Anthropic Claude podczas operacji, w wyniku której pojmano wenezuelskiego przywódcę Nicolása Maduro. (Kurt „CyberGuy” Knutsson)
Anthropic twierdzi, że zidentyfikowało kampanie na podstawie korelacji adresów IP, metadanych żądań i wskaźników infrastruktury, które znacznie różniły się od normalnego ruchu klientów. Jak stwierdziła firma, działanie koncentrowało się na najbardziej zaawansowanych możliwościach Claude’a – w tym na złożonym rozumowaniu, kodowaniu i używaniu narzędzi – a nie na przypadkowych podpowiedziach konsumentów.
„Mamy dużą pewność, że te laboratoria przeprowadzały ataki destylacyjne na dużą skalę” – powiedział Fox News Digital Jacob Klein, szef wywiadu ds. zagrożeń w firmie Anthropic.
Destylacja to powszechna technika szkolenia sztucznej inteligencji, podczas której mniejszy lub mniej wydajny model jest szkolony na podstawie wyników silniejszego modelu.
Frontierowe laboratoria często wykorzystują go wewnętrznie do tworzenia tańszych wersji własnych systemów. Anthropic twierdzi jednak, że wykryte kampanie były nieautoryzowane i miały na celu skrócenie lat badań i pracy nad uczeniem się przez wzmacnianie.
Według Kleina w ramach trzech operacji wygenerowano ponad 16 milionów wymian w okresie od tygodni do miesięcy. Anthropic interweniował po wykryciu tej aktywności, choć przyznał, że szersze wyzwanie jest w toku.
„Nie ma natychmiastowego złotego środka, który mógłby powstrzymać to wszystko” – powiedział Klein. „Uważamy to za większe niż antropiczne”.
Chociaż firma nie jest w stanie dokładnie określić, w jakim stopniu chińskie laboratoria ulepszyły swoje systemy, Klein stwierdził, że wzrost możliwości był „znaczący” i „znaczny”.
„Możemy z całą pewnością powiedzieć, że wydestylowali nas na dużą skalę” – powiedział.
Raport rodzi nowe pytania dotyczące skuteczności obecnych kontroli eksportu w USA, które w dużej mierze skupiały się na ograniczaniu dostępu Chin do zaawansowanych chipów AI i bezpośrednich transferach wag modeli.
Klein argumentował, że destylacja ma na celu inny poziom przewagi konkurencyjnej – proces uczenia się przez wzmacnianie, który udoskonala i wyostrza modele pionierskie po ich przeszkoleniu.
„Jeśli pomyślisz o tym, jak utrzymać przewagę w wyścigu AI, jednym z elementów będą obliczenia” – powiedział Klein. „Ale uczenie się przez wzmacnianie ma coraz większe znaczenie. Destylacja pozwala wydobyć te możliwości”.
Chiny oskarżone o kradzież amerykańskiej technologii AI. (Kritsapong Jieantaratip za pośrednictwem Getty Images)
Podkreślił, że zaawansowane chipy nadal „bardzo mają znaczenie”, ale stwierdził, że decydenci muszą myśleć o tej kwestii „holistycznie”.
Anthropic oświadczyło, że podzieliło się swoimi ustaleniami z odpowiednimi jednostkami rządowymi USA i partnerami branżowymi. Klein zasugerowała, że publiczne podanie nazw laboratoriów mogłoby skłonić rząd do „przemyślanych działań” lub przynajmniej do nawiązania współpracy z zaangażowanymi firmami.
Jednocześnie firma stwierdziła, że nie ma dowodów na to, że chiński rząd bezpośrednio koordynował kampanie. Jednak usługi proxy wykorzystywane do odsprzedaży dostępu do granicznych modeli sztucznej inteligencji w USA działają w Chinach otwarcie.
Waszyngton próbował spowolnić postęp Chin w zakresie sztucznej inteligencji, ograniczając dostęp do najbardziej zaawansowanych chipów komputerowych używanych do trenowania potężnych systemów. Anthropic twierdzi jednak, że nawet bez bezpośredniego dostępu do tych chipów zagraniczne laboratoria mogą nadal kopiować części inteligencji modelu, wielokrotnie zadając mu pytania i szkoląc własne systemy w zakresie odpowiedzi.
W ostatnich tygodniach firma Anthropic znalazła się w centrum uwagi w związku z doniesieniami o napięciach z Pentagonem w związku z możliwością wykorzystania jej modeli sztucznej inteligencji w operacjach wojskowych. Sekretarz wojny Pete Hegseth spotyka się z dyrektorem generalnym Dario Amodei, aby omówić warunki regulujące wykorzystanie Claude’a do celów wojskowych. (iStock)
12 lutego OpenAI przesłało notatkę do komisji specjalnej Izby Reprezentantów ds. Komunistycznej Partii Chin, w której zarzuca, że chiński startup DeepSeek zajmujący się sztuczną inteligencją systematycznie „kradnie” jej własność intelektualną poprzez destylację na dużą skalę. Według OpenAI pracownicy DeepSeek korzystali z routerów i technik maskowania innych firm, aby ominąć ograniczenia dostępu geograficznego i zbierać dane wyniki z ChatGPT.
KLIKNIJ TUTAJ, ABY POBRAĆ APLIKACJĘ FOX NEWS
Tego samego dnia, Grupa ds. analizy zagrożeń Google ostrzegł przed czymś, co określił jako „ataki destylacyjne” wymierzone w modele Gemini. Google stwierdziło, że obserwowało kampanie wykorzystujące ponad 100 000 podpowiedzi mających na celu odtworzenie zdolności rozumowania Gemini. Firma przypisała tę działalność „spółkom z sektora prywatnego”, a także podmiotom mającym powiązania z państwem.
Łącznie raporty sugerują, że destylacja stała się rosnącym punktem zapalnym w wyścigu sztucznej inteligencji między USA a Chinami, co rodzi pytania o to, w jaki sposób można chronić amerykańskie systemy graniczne, nawet jeśli bezpośrednie przenoszenie ciężarów modeli i najnowocześniejszych chipów jest ograniczone.
W ostatnich tygodniach firma Anthropic znalazła się w centrum uwagi w związku z doniesieniami o napięciach z Pentagonem w związku z możliwością wykorzystania jej modeli sztucznej inteligencji w operacjach wojskowych. Sekretarz wojny Pete Hegseth spotyka się z dyrektorem generalnym Dario Amodei, aby omówić warunki regulujące wykorzystanie Claude’a do celów wojskowych. Urzędnicy administracji powiedzieli, że Anthropic zadawał pytania dotyczące zgłoszonej roli modelki w amerykańskiej operacji wymierzonej w wenezuelskiego przywódcę Nicolása Maduro, sugerując, że firma nie wyrazi zgody na używanie jej produktu, natomiast Anthropic upierała się, że spory dotyczyły masowej inwigilacji i w pełni autonomicznej broni.
