Chińscy eksperci wykorzystali LLM Mety podczas tworzenia narzędzia AI dla chińskiej armii

Wiele czołowych firm działających w obszarze sztucznej inteligencji, w tym Meta, udostępnia duże modele językowe (LLM) do ogólnego użytku w formie open source, która pozwala na wykorzystywanie ich do badań i celów niekomercyjnych.

Jak pokazują dokumenty pozyskane przez Reutersa, chińscy badacze z instytucji naukowych podlegających Armii Ludowo-Wyzwoleńczej (PLA) po prostu skorzystali z takiej możliwości.

ChatBIT miałby służyć do gromadzenia i przetwarzania danych wywiadowczych oraz dostarczania ważnych informacji wspierających podejmowanie decyzji operacyjnych. Narzędzie zostało dopracowane i odpowiednio zoptymalizowane, by wykonywać zadania dialogowe i odpowiadać na pytania w kontekście wojskowym. Podobno jego wydajność jest już na poziomie bardzo zbliżonym do potężnego modelu ChatGPT-4 od OpenAI. Wciąż jednak nie mamy szczegółowych danych, które jednoznacznie potwierdziłyby nie tylko wydajność ChatBIT-a, ale nawet to, czy został już wprowadzony do użytku.

Meta reaguje

Meta udostępnia innym podmiotom licencję, ale nakłada przy tym jednak pewne ograniczenia, które wynikają z umowy użytkowania. Jednym z nich jest zakaz wykorzystywania modelu do zastosowań wojskowych, nuklearnych i szpiegowskich, a także w celu opracowywania broni i tworzenia treści mających na celu podżeganie i promowanie przemocy. Jak możemy się domyślić, egzekwowanie tych postanowień jest jednak utrudnione przez publiczną dostępność modelu.

Na doniesienia o tym, że chińscy eksperci wykorzystali Llamę do celów wojskowych Meta zareagowała następującym komunikatem:

„Jakiekolwiek użycie naszych modeli przez Armię Ludowo-Wyzwoleńczą jest nieautoryzowane i sprzeczne z naszą polityką dozwolonego użytku”.

Ministerstwo Obrony Chin nie potwierdziło ani nie zaprzeczyło

Nie mamy jednak całkowitej pewności, że chińscy naukowcy faktycznie użyli Llama do zakazanych celów. Sceptycy twierdzą nawet, że bazując na modelu LLM Mety, stworzyli oni wyłącznie prostego bota, z którym można prowadzić konwersacje o tematyce wojskowej.

Chiny mocno inwestują w rozwój AI i dążą do osiągnięcia dominacji w tej dziedzinie. Tym bardziej zastanawiające jest, dlaczego miałyby w sposób niezgodny z umową licencyjną użyć amerykańskiego LLM-a do stworzenia narzędzia AI o zastosowaniu wspierającym wojsko.

Rząd USA zdaje sobie sprawę zarówno z potencjału biznesowo-technologicznego, jak i zagrożeń związanych z otwartymi modelami AI, dlatego podejmuje działania, które mają na celu zarządzanie ryzykiem stwarzanym przez AI.

Co ważne, Chiny zgadzają się z tym, że do rozwijania AI w obszarze wojskowym trzeba podchodzić w sposób ostrożny i odpowiedzialny. Potwierdzili to na ostatnim spotkaniu Joe Biden z Xi Jinpingiem. Obaj przywódcy są również zgodni, że decyzje dotyczące użycie broni jądrowej powinni podejmować ludzie, a nie sztuczna inteligencja.