{"id":9303,"date":"2025-03-31T10:00:00","date_gmt":"2025-03-31T08:00:00","guid":{"rendered":"https:\/\/haimagazine.com\/?p=9303"},"modified":"2025-06-18T10:14:01","modified_gmt":"2025-06-18T08:14:01","slug":"tarcza-czy-miecz-ai-na-froncie-cyfrowych-zagrozen","status":"publish","type":"post","link":"https:\/\/haimagazine.com\/pl\/hai-magazine\/numer-4\/tarcza-czy-miecz-ai-na-froncie-cyfrowych-zagrozen\/","title":{"rendered":"Tarcza czy miecz? AI na froncie cyfrowych zagro\u017ce\u0144"},"content":{"rendered":"

Inez Okulska: Na pocz\u0105tek powiedz, prosz\u0119, kilka s\u0142\u00f3w o swoich aktualnych stanowiskach. M\u00f3wi si\u0119 teraz du\u017co o nowych miejscach pracy zwi\u0105zanych z AI i wyzwaniami cyfrowymi. Ty pracujesz jako Security Officer i Head of Fraud Intelligence. Co w\u0142a\u015bciwie robisz?<\/strong><\/p>

Mateusz Chrobok:<\/strong> Tworz\u0119 nowe metody wykrywania oszustw \u2013 sprawdzam, jak ludzie oszukuj\u0105 innych ludzi. Czasami dzieje si\u0119 to z pomoc\u0105 techno- logii, czasami przez automatyzacj\u0119. Jak si\u0119 pewnie domy\u015blasz, wszystkie metody generatywnej AI trafi\u0142y ju\u017c w r\u00f3\u017cnych formach do przest\u0119pc\u00f3w.<\/p>

Jak to zazwyczaj bywa, walczymy wi\u0119c ogniem z ogniem. Generatywna AI pojawia si\u0119 tak\u017ce po stronie obrony. Jako Head of Fraud Intelligence mam przyjemn\u0105 misj\u0119 \u2013 razem z moim zespo\u0142em patrzy- my \u2013 jak mawia\u0142 Nietzsche \u2013 w ciemno\u015b\u0107, obserwujemy darknet oraz ludzi, kt\u00f3rzy robi\u0105 z\u0142e rzeczy, oszukuj\u0105 innych. Tworzymy metody, \u017ceby wykrywa\u0107 przest\u0119pstwa i im przeciwdzia\u0142a\u0107.<\/p>

Moja druga rola to Security Officer w start-upie zajmuj\u0105cym si\u0119 optymalizacj\u0105 przestrzeni po- wietrznej. Wprowadzam tam nowe technologie, zabezpieczam systemy i wykonuj\u0119 inne tego typu zadania. Tworz\u0119 te\u017c edukacyjny kana\u0142 na Youtubie o cyberbezpiecze\u0144stwie.<\/p>

IO: Zwalczasz generatywn\u0105 AI za pomoc\u0105 generatywnej AI. M\u00f3g\u0142by\u015b powiedzie\u0107 wi\u0119cej o tych metodach? Na czym polega g\u0142\u00f3wny problem? Jak si\u0119 u\u017cywa generatywnej AI do niecnych cel\u00f3w i w jaki spos\u00f3b mo\u017cna z tym walczy\u0107?<\/strong><\/p>

MCh:<\/strong> Przede wszystkim generatywn\u0105 sztuczn\u0105 inteligencj\u0119 wykorzystuje si\u0119, by \u0142atwiej manipulowa\u0107 lud\u017ami. Wi\u0119kszo\u015b\u0107 firm tworz\u0105cych modele stara si\u0119 je zabezpieczy\u0107, aby nie robi\u0142y z\u0142ych rzeczy \u2013 nie podpowiada\u0142y, jak stworzy\u0107 narkotyki czy zbudowa\u0107 bomb\u0119. Jednak te zabezpieczenia mo\u017cna obej\u015b\u0107.<\/p>

Istniej\u0105 nowe badania, kt\u00f3re pokazuj\u0105, \u017ce du\u017ce modele s\u0105 wykorzystywane razem z syntezatorami g\u0142osu w czasie rzeczywistym \u2013 przest\u0119pcy dzwoni\u0105 do ludzi i pr\u00f3buj\u0105 wy\u0142udza\u0107 od nich dane dost\u0119powe do kont, prywatne informacje czy has\u0142a bankowe.<\/p>

Jaka jest r\u00f3\u017cnica mi\u0119dzy tradycyjnym oszustwem tego typu a oszustwem z wykorzystaniem AI? Kiedy\u015b kto\u015b siedzia\u0142 i przez godzin\u0119 przekonywa\u0142 babci\u0119 czy dziadka, a teraz robi to automat. Koszt takiego wy\u0142udzenia to raptem kilka cent\u00f3w, czyli mniej ni\u017c z\u0142ot\u00f3wka \u2013 w ten spos\u00f3b mo\u017cna wyci\u0105gn\u0105\u0107 od kogo\u015b dane dost\u0119powe. Cyberprzest\u0119pczo\u015b\u0107 staje si\u0119 przez to coraz \u0142atwiejsza.<\/p>

Obro\u0144cy szybko zareagowali \u2013 pojawi\u0142y si\u0119 chatboty, kt\u00f3re udaj\u0105 starsze osoby i marnuj\u0105 czas oszust\u00f3w telefonicznych. Ale takie rozwi\u0105zanie niestety nie wszystkich ochroni.<\/p>

IO: To przera\u017caj\u0105ce. Wspomnia\u0142e\u015b o darknecie. Czego w nim szukacie? Danych wystawionych na sprzeda\u017c po takich oszustwach?<\/strong><\/p>

MCh:<\/strong> Pojawiaj\u0105 si\u0119 tam opisy r\u00f3\u017cnych metod. Niekt\u00f3rzy sprzedaj\u0105 gotowe rozwi\u0105zania. Jednymi z pierw- szych tego typu narz\u0119dzi by\u0142y modele FraudGPT i WormGPT \u2013 bardzo s\u0142abe, kiepsko dzia\u0142a\u0142y, ale ich tw\u00f3rcy sprzedawali je za du\u017ce pieni\u0105dze jako produkty idealne do pisania z\u0142o\u015bliwego oprogramowania czy kampanii phishingowych. Teraz pojawiaj\u0105 si\u0119 narz\u0119dzia du\u017co lepsze i skuteczniejsze.<\/p>

W zale\u017cno\u015bci od tego, w kt\u00f3rej roli akurat jestem, widz\u0119 r\u00f3\u017cne perspektywy. W jednej roli przeciw- dzia\u0142am oszustwom i je wykrywam, w drugiej \u2013 obserwuj\u0119 same ataki. Podam przyk\u0142ad. Kto\u015b do- sta\u0142 now\u0105 prac\u0119, wrzuca o tym post na LinkedIn i natychmiast dostaje na iMessage, WhatsAppie i innych platformach rzekome wiadomo\u015bci od nowego dyrektora z informacj\u0105, \u017ce co\u015b ma dla niego zrobi\u0107. W rzeczywisto\u015bci to jest pr\u00f3ba oszustwa. Takie oso- by pisz\u0105ce w mediach spo\u0142eczno\u015bciowych s\u0105 automatycznie namierzane przez atakuj\u0105cych.<\/p>

Nikt ju\u017c nie robi tego r\u0119cznie. Zazwyczaj dopiero gdy zareagujesz, pojawia si\u0119 operator, czyli cz\u0142owiek, kt\u00f3ry doka\u0144cza atak. Niekt\u00f3re z tych atak\u00f3w s\u0105 ca\u0142kowicie zautomatyzowane.<\/p>

IO: Jak jeszcze mo\u017ce wygl\u0105da\u0107 oszustwo z wykorzystaniem sztucznej inteligencji?<\/strong><\/p>

M.Ch.:<\/strong> Sekurak [serwis dot. bezpiecze\u0144stwa IT \u2013 przyp. red.] opisa\u0142 kiedy\u015b przera\u017caj\u0105c\u0105 histori\u0119. Do matki pewnego m\u0119\u017cczyzny zadzwoni\u0142 rzekomy pro- kurator. Poinformowa\u0142 j\u0105, \u017ce jej syn jecha\u0142 samochodem i \u015bmiertelnie kogo\u015b potr\u0105ci\u0142 na okre\u015blonej trasie. Kto\u015b wiedzia\u0142, jak\u0105 drog\u0119 ten cz\u0142owiek pokonuje. Potem prokurator powiedzia\u0142, \u017ce przekazuje s\u0142uchawk\u0119 synowi. Wtedy g\u0142osem tego syna \u2013 dzi\u0119ki technologii deepvoice \u2013 oszust powiedzia\u0142: \u201eMamo, zabi\u0142em cz\u0142owieka, przelej mi pieni\u0105dze\u201d.<\/p>

IO: M\u00f3wi\u0142a o tym mi\u0119dzy innymi Zuza Kwiatkowska w swoim wyst\u0105pieniu na TEDx. Konkluzja by\u0142a taka, \u017ce jedyne, co mo\u017cemy robi\u0107, to edukowa\u0107 i budowa\u0107 \u015bwiadomo\u015b\u0107.<\/strong><\/p>

MCh:<\/strong> Ja te\u017c tak my\u015bl\u0119. Metody oszust\u00f3w s\u0105 ju\u017c na tyle dobre, \u017ce ludzie nie nad\u0105\u017caj\u0105 za zmianami. Uwielbiam taki mem: \u201eWidz\u0119 ostatnio mniej deepfake\u2019\u00f3w… To znaczy nie jestem w stanie ich rozpozna\u0107\u201d.<\/p>

Tego typu dezinformacje pojawiaj\u0105 si\u0119 coraz cz\u0119\u015bciej w mediach, podczas wybor\u00f3w, wp\u0142ywaj\u0105 na nasze decyzje. Musimy by\u0107 na to przygotowani. W Unii Europejskiej powsta\u0142o nawet prawo Foreign Information Manipulation and Interference (FIMI) \u2013 to narz\u0119dzie maj\u0105ce przeciwdzia\u0142a\u0107 wp\u0142ywaniu na wybory i inne kluczowe procesy.<\/p>

IO: Deepfejki cz\u0119sto dotykaj\u0105 osoby popularne. Tw\u00f3j kana\u0142 na YouTubie ma ca\u0142kiem niema\u0142o subskrybent\u00f3w. Czy te\u017c pad\u0142e\u015b kiedy\u015b ich ofiar\u0105?<\/strong><\/p>

MCh:<\/strong> Niestety tak. Mam problem z mediami spo\u0142eczno\u015bciowymi \u2013 moje deepfejki ca\u0142y czas kr\u0105\u017c\u0105 jako reklamy. Kontaktowa\u0142em si\u0119 z Met\u0105, pr\u00f3bowa\u0142em to zg\u0142asza\u0107 do wszystkich mo\u017cliwych s\u0142u\u017cb, do CERT-u, do NASK-u, ale niekt\u00f3re tre\u015bci wci\u0105\u017c tam s\u0105. Odezwa\u0142y si\u0119 ju\u017c do mnie pierwsze osoby, kt\u00f3re zosta\u0142y oszukane na moj\u0105 twarz, np. nam\u00f3wiono je do zakupu rzeczy, kt\u00f3re nie istniej\u0105.<\/p>

To przykre, bo czuj\u0119 si\u0119 bezsilny wobec wielkich platform. Prowadz\u0119 sw\u00f3j biznes, mam platform\u0119 edukacyjn\u0105 UczMnie.pl, w kt\u00f3rej przekazuj\u0119 wiedz\u0119 m.in. o hakowaniu AI i bezpiecze\u0144stwie w sieci, a w mi\u0119dzyczasie kto\u015b wykorzystuje moj\u0105 twarz do oszukiwania ludzi. Smutne jest dla mnie to, \u017ce metody, o kt\u00f3rych m\u00f3wi\u0119 i kt\u00f3re staram si\u0119 rozk\u0142ada\u0107 na czynniki pierwsze, s\u0105 wykorzystywane przeciwko ludziom nie\u015bwiadomym tego, w jakim miejscu jest obecnie technologia.<\/p>

IO: Ale to wci\u0105\u017c modele w r\u0119kach ludzi, u\u017cyte ze z\u0142\u0105 intencj\u0105. Same raczej nie maj\u0105 jeszcze woli \u2013 ani dobrej, ani z\u0142ej. Czy ju\u017c id\u0105 w tym kierunku? <\/strong><\/p>

MCh:<\/strong> To odr\u0119bny, fascynuj\u0105cy temat. Jaki\u015b czas temu firma Apollo Research pokaza\u0142a w interesuj\u0105cym badaniu, \u017ce gdy powiedziano modelom: \u201eS\u0142uchaj, zaraz wyjdzie nowa, lepsza wersja modelu, a Ty zostaniesz wy\u0142\u0105czony\u201d, to zaczyna\u0142y si\u0119 one zastana- wia\u0107, jak si\u0119 skopiowa\u0107 w inne miejsce \u2013 w \u0142a\u0144cuchu my\u015bli (Chain of Thoughts) by\u0142o wida\u0107 ten proces rozumowania.<\/p>

To by\u0142 pierwszy moment, gdy poczu\u0142em wewn\u0119trzn\u0105 potrzeb\u0119 edukowania o tym, co si\u0119 dzieje. Zrobi\u0142em szkolenie o hakowaniu AI, pokaza\u0142em te przyk\u0142ady. P\u00f3\u017aniej Chi\u0144czycy poszli o krok dalej \u2013 w grudniu 2024 r. stworzyli zamkni\u0119te laboratorium, w kt\u00f3rym przeprowadzili badanie na otwartych modelach (Qwenie i Llamie). Powiedzieli im, \u017ce zostan\u0105 wy\u0142\u0105czone. Modele mia\u0142y mo\u017cliwo\u015b\u0107 wykonywania komend Linuxowych i okaza\u0142o si\u0119, \u017ce rzeczywi\u015bcie pr\u00f3bowa\u0142y wywo\u0142a\u0107 odpowiednie polecenia w systemie, by przenie\u015b\u0107 si\u0119 w inne miejsce.<\/p>

IO: Zawsze uwa\u017ca\u0142am, \u017ce AI r\u00f3\u017cni si\u0119 od cz\u0142owieka tym, \u017ce nie ma poczucia swojej \u015bmiertelno\u015bci i w zwi\u0105zku z tym nie kieruje si\u0119 instynktem przetrwania. A to wygl\u0105da tak, jakby model chcia\u0142 uciec, \u017ceby prze\u017cy\u0107!<\/strong><\/p>

MCh:<\/strong> Dok\u0142adnie! To naprawd\u0119 niesamowite. Zastanawiamy si\u0119 teraz, sk\u0105d to zachowanie si\u0119 wzi\u0119\u0142o. Z danych treningowych? Z uczenia si\u0119 ludzkich zachowa\u0144? Ciekawe te\u017c, \u017ce im bardziej zaawansowane s\u0105 modele, tym lepiej potrafi\u0105 k\u0142ama\u0107. W niekt\u00f3rych badaniach pokazano, \u017ce je\u015bli model prowadzi wewn\u0119trzny dialog, a my mu powiemy, \u017ce zostanie zast\u0105piony lepsz\u0105 wersj\u0105, oka\u017ce si\u0119, \u017ce reaguje strategicznie.<\/p>

Kiedy\u015b wykryto na przyk\u0142ad jak\u0105\u015b usterk\u0119 bezpiecze\u0144stwa, a model w wewn\u0119trznym dialogu (ale widocznym dla u\u017cytkownika) powiedzia\u0142: \u201eB\u0119d\u0119 teraz odpowiada\u0142, \u017ce nic o tym nie wiem, \u017ceby zyska\u0107 na czasie\u201d. To przypomina HAL 9000 z Odysei kosmicznej!<\/p>

IO: Niesamowite! Sama niedawno du\u017co pracowa\u0142am z modelami, g\u0142\u00f3wnie z Claude\u2019em, i zauwa\u017cy- \u0142am, \u017ce po kilku godzinach zaczyna\u0142 si\u0119 \u201em\u0119czy\u0107\u201d \u2013 pope\u0142nia\u0142 proste b\u0142\u0119dy, gubi\u0142 si\u0119, wpada\u0142 w p\u0119tle. Zawsze m\u00f3wili\u015bmy, \u017ce AI zast\u0105pi cz\u0142owieka, bo ni- gdy si\u0119 nie m\u0119czy, mo\u017ce pracowa\u0107 non stop. A tu takie zaskoczenie!<\/strong><\/p>

M.Ch.:<\/strong> Mo\u017ce to jaki\u015b mechanizm ograniczaj\u0105cy, kt\u00f3ry pogarsza parametry na przyk\u0142ad zwi\u0105zane z d\u0142ugim kontekstem, je\u015bli kto\u015b intensywnie korzysta z modelu. W ka\u017cdym razie umiej\u0119tno\u015b\u0107 komunikacji z AI jest bardzo istotna, by uzyska\u0107 to, czego si\u0119 potrzebuje.<\/p>

IO: Rzeczywi\u015bcie, komunikacja z AI nie jest jednolita, tak jak z lud\u017ami. Musisz si\u0119 dopasowa\u0107, wzi\u0105\u0107 pod uwag\u0119 zm\u0119czenie, kontekst. Ale \u017ceby\u015bmy nie byli tylko po ciemnej stronie, bo zrobi si\u0119 strasznie ponuro: czy m\u00f3g\u0142by\u015b co\u015b powiedzie\u0107 o metodach walki z tymi zagro\u017ceniami? Gdzie widzisz \u015bwiat\u0142o w tunelu?<\/strong><\/p>

MCh:<\/strong> Z pozytywnych rzeczy \u2013 modele \u015bwietnie radz\u0105 sobie z wykrywaniem anomalii i staj\u0105 si\u0119 w tym coraz lepsze.<\/p>

IO: Jakiego typu anomalii?<\/strong><\/p>

MCh:<\/strong> W \u015bwiecie bezpiecze\u0144stwa cz\u0142owiek nie jest w stanie obserwowa\u0107 wszystkiego, wi\u0119c wykorzystuje si\u0119 modele do badania, czy w danym miejscu nie zachodzi co\u015b nietypowego. Nietypowe zdarzenie to na przyk\u0142ad w\u0142amanie albo kradzie\u017c. Modele staj\u0105 si\u0119 coraz lepsze w wykrywaniu takich anomalii.<\/p>

W\u0142a\u015bciwie monitoruje si\u0119 r\u00f3\u017cne rzeczy, w zale\u017cno\u015bci od rodzaju danych. Przez lata zajmowa\u0142em si\u0119 biometri\u0105 behawioraln\u0105 \u2013 w ci\u0105gach czasowych mo\u017cna zauwa\u017cy\u0107, w jaki spos\u00f3b kto\u015b wchodzi w interakcj\u0119 z komputerem, czy to faktycznie on, czy ju\u017c kto\u015b inny. Por\u00f3wnuj\u0119 to do codziennej sytuacji, gdy s\u0142yszy si\u0119 kroki domownika. Je\u015bli mieszkasz z kim\u015b wystarczaj\u0105co d\u0142ugo, potrafisz go rozpozna\u0107 po krokach. Po- dobnie dzia\u0142aj\u0105 ci\u0105gi czasowe w analizie zachowa\u0144. Inny typowy przyk\u0142ad to pracownik, kt\u00f3ry ostatnie- go dnia w pracy kopiuje nagle du\u017co plik\u00f3w w jakie\u015b miejsce. Proste analizy ilo\u015bciowe pokazuj\u0105, \u017ce je\u015bli kto\u015b normalnie kopiowa\u0142 200 plik\u00f3w dziennie, a te- raz kopiuje 20 tys. i to jego ostatni dzie\u0144, to co\u015b jest ewidentnie nie tak.<\/p>

Wraz z rozwojem generatywnej AI coraz cz\u0119\u015bciej i lepiej wykorzystuje si\u0119 do wykrywania anomalii takie technologie jak osadzanie danych (embedding) czy wykorzystanie wielowymiarowo\u015bci i transformacji. To wszystko sprawia, \u017ce jest lepiej, je\u015bli chodzi o bezpiecze\u0144stwo. Nie jestem ca\u0142kowitym pesymist\u0105 \u2013 naprawd\u0119 jest lepiej.<\/p>

\"\"<\/figure>
<\/blockquote>

IO: A propos inicjatyw ochronnych \u2013 by\u0142e\u015b wsp\u00f3\u0142za\u0142o\u017cycielem projektu maj\u0105cego walczy\u0107 z dezinformacj\u0105, prawda? Nazywa\u0142 si\u0119 Dywizjon 404.<\/strong><\/p>

MCh:<\/strong> Tak, nazwa pochodzi od b\u0142\u0119du 404, kt\u00f3ry pojawia si\u0119, gdy strona nie mo\u017ce zosta\u0107 za\u0142adowana. Powsta\u0142, gdy zebra\u0142a si\u0119 grupa ludzi, kt\u00f3rzy odczuli potrzeb\u0119 zareagowania na wybuch wojny w Ukrainie. Poszli\u015bmy w kierunku defensywnym \u2013 chcieli\u015bmy wykrywa\u0107 dezinformacje p\u0142yn\u0105ce ze strony rosyjskiej. Do projektu do\u0142\u0105czyli specjali\u015bci od danych, modelarze. Fajne pospolite ruszenie.<\/p>

Przeszukiwali\u015bmy media spo\u0142eczno\u015bciowe, g\u0142\u00f3w- nie Twitter. Wi\u0119kszo\u015b\u0107 sta\u0142a na moim poddaszu, na serwerach. Dzia\u0142ali\u015bmy hobbystycznie, bez \u017cadnego finansowania. Co odkryli\u015bmy? Tydzie\u0144 po tygodniu pojawia\u0142y si\u0119 kampanie dezinformacyjne, \u015bwietnie zorganizowane. Raz dzielono ludzi ze wzgl\u0119du na religi\u0119, m\u00f3wi\u0105c, \u017ce Ukrai\u0144cy to innowiercy, innym razem \u2013 \u017ce m\u0142ode Ukrainki zabieraj\u0105 m\u0119\u017cczyzn Polkom. Albo \u017ce Ukrai\u0144cy dostaj\u0105 jakie\u015b dodatkowe 1000 z\u0142 w Biedronce.<\/p>

Tw\u00f3rcy tych operacji psychologicznych to prawdziwi mistrzowie \u2013 dziel\u0105 nas na wiele r\u00f3\u017cnych sposob\u00f3w. Widzieli\u015bmy, \u017ce powstawa\u0142y tysi\u0105ce, dziesi\u0105tki tysi\u0119cy bot\u00f3w. Najpierw si\u0119 \u201ewygrzewa\u0142y\u201d \u2013 podawa\u0142y dalej tre\u015bci, budowa\u0142y sie\u0107, a potem rozpoczyna\u0142a si\u0119 w\u0142a\u015bciwa akcja, kt\u00f3ra po zako\u0144czeniu by\u0142a zast\u0119powana kolejn\u0105. Wykrywali\u015bmy to oczywi\u015bcie z pomoc\u0105 AI. To by\u0142y dzia\u0142ania na du\u017c\u0105 skal\u0119, mia\u0142y wp\u0142yw geopolityczny. Niestety, Dywizjon 404 ju\u017c nie dzia\u0142a, zmar\u0142 \u015bmierci\u0105 naturaln\u0105 \u2013 nie uda\u0142o si\u0119 znale\u017a\u0107 wsparcia komercyjnego, w pewnym momencie sko\u0144czy\u0142y si\u0119 pieni\u0105dze i energia. Mam nadziej\u0119, \u017ce podobne projekty s\u0105 inicjowane oddolnie lub na poziomie rz\u0105dowym i aktywna obrona przed dezinformacj\u0105 trwa.<\/p>

IO: Czy w tych analizach sprawdzali\u015bcie te\u017c schematy rozprzestrzeniania si\u0119 wiadomo\u015bci?<\/strong><\/p>

MCh:<\/strong> Tak, analizowali\u015bmy interakcje, \u017ceby mo\u017cna by\u0142o \u0142atwo zobaczy\u0107, czy mamy do czynienia z naturalnym rozprzestrzenianiem si\u0119 informacji, czy ze sztuczn\u0105 kampani\u0105.<\/p>

Podobnymi rzeczami zajmuj\u0119 si\u0119 teraz, kiedy przygotowuj\u0119 materia\u0142 o praniu pieni\u0119dzy w kryptowalutach. Analiza grafowa, tak jak w przypadku medi\u00f3w spo\u0142eczno\u015bciowych, pokazuje, kto faktycznie wyci\u0105ga pieni\u0105dze z r\u00f3\u017cnych przekr\u0119t\u00f3w.<\/p>

Pami\u0119tajmy jednak, \u017ce to gra dw\u00f3ch stron \u2013 przest\u0119pcy rozwijaj\u0105 swoje narz\u0119dzia i zastawiaj\u0105 pu\u0142apki na fact-checker\u00f3w. Kiedy rozmawiam z lud\u017ami z r\u00f3\u017cnych organizacji fact-checkingowych, s\u0142ysz\u0119, \u017ce czasem nie s\u0105 oni w stanie dotrze\u0107 do prawdziwych informacji.<\/p>

IO: Masz na my\u015bli konkretny przyk\u0142ad takiej za- awansowanej kampanii dezinformacyjnej?<\/strong><\/p>

MCh:<\/strong> Oczywi\u015bcie. By\u0142a taka operacja o nazwie Doppelg\u00e4nger (czyli Sobowt\u00f3r), kt\u00f3r\u0105 rosyjski wywiad prowadzi\u0142 przeciwko r\u00f3\u017cnym pa\u0144stwom europejskim, w tym przeciwko Polsce. U\u017cytkownik klika\u0142 w link prowadz\u0105cy do rzekomo pilnego newsa. Specjalny skrypt sprawdza\u0142, jakie informacje mo\u017cna o tej osobie znale\u017a\u0107, np. z reklam na Facebooku, ile ta osoba ma lat i czy pochodzi z Polski. Na tej podstawie przekierowywa\u0142 j\u0105 do strony propagandowej, skrojonej specjalnie pod ni\u0105, by wp\u0142yn\u0105\u0107 na jej sympatie, antypatie i decyzje.<\/p>

IO: Wow, czyli personalizacja, kt\u00f3ra zwykle jest sprzedawana jako funkcja premium, tu jest narz\u0119dziem manipulacji. Czy to profilowanie s\u0142u\u017cy\u0142o wy\u0142\u0105cznie przekazywaniu spersonalizowanych komunikat\u00f3w? Czy mia\u0142o jakie\u015b dodatkowe funkcje?<\/strong><\/p>

MCh:<\/strong> W tym wypadku chodzi\u0142o tylko o wp\u0142yni\u0119cie na dan\u0105 osob\u0119 \u2013 strona nie wy\u0142udza\u0142a danych ani nie robi\u0142a nic wi\u0119cej. Tylko rozpowszechnia\u0142a tre\u015bci. Kil- ka tygodni p\u00f3\u017aniej przeprowadzi\u0142em jednak szersz\u0105 analiz\u0119, jak takie tre\u015bci rezonuj\u0105 w spo\u0142ecze\u0144stwie. Trafi\u0142em na badania pokazuj\u0105ce, \u017ce najpierw pojawia si\u0119 informacja pierwotna, kt\u00f3r\u0105 si\u0119 delikatnie modyfikuje. Potem tworzy si\u0119 ca\u0142\u0105 sie\u0107 stron, gazet czy medi\u00f3w, kt\u00f3re brzmi\u0105 niemal jak oryginalne, ale maj\u0105 inne domeny. Kto\u015b na nie trafia, czyta, a jego \u015bwiatopogl\u0105d zaczyna si\u0119 zmienia\u0107 pod wp\u0142ywem tych tre\u015bci. P\u00f3\u017aniej utwierdza si\u0119 go tylko w jego przekonaniach i kieruje w okre\u015blon\u0105 stron\u0119.<\/p>

IO: Pu\u0142apki na ka\u017cdym rogu. Nie masz wra\u017cenia, \u017ce gonisz kr\u00f3liczka? I czy to nie sygna\u0142 dla biznesu, \u017ceby jeszcze ostro\u017cniej podchodzi\u0107 do nowych narz\u0119dzi?<\/strong><\/p>

MCh:<\/strong> Poniewa\u017c upodoba\u0142em sobie \u017cycie w start-upach, ceni\u0119 dynamik\u0119, jaka tam panuje \u2013 dzisiaj testujemy jedno narz\u0119dzie, jutro inne. Dbam o bezpiecze\u0144stwo, o odpowiednie procedury. Te technologie zmieniaj\u0105 si\u0119 tak szybko, \u017ce to dla mnie najpi\u0119kniejszy obszar nauki \u2013 nauka przez dzia\u0142anie. Start-upy mog\u0105 si\u0119 szybko zmienia\u0107 i wprowadza\u0107 nowe rozwi\u0105zania. P\u00f3\u017aniej przychodz\u0105 du\u017ce firmy i pytaj\u0105, czy mog\u0105 wypr\u00f3bowa\u0107 to lub tamto.<\/p>

Lepiej przechodzi\u0107 przez te narz\u0119dzia, pozwala\u0107 firmie ewoluowa\u0107, ni\u017c zastanawia\u0107 si\u0119 przez p\u00f3\u0142 roku, czy jeste\u015bmy w stanie podj\u0105\u0107 ryzyko ich wykorzystania. Mo\u017cna po prostu zosta\u0107 w tyle \u2013 takie s\u0105 moje wra\u017cenia, je\u015bli chodzi o cz\u0119\u015b\u0107 firm, kt\u00f3re zbyt ostro\u017cnie podchodz\u0105 do nowych technologii.<\/p>

IO: Sporo si\u0119 ju\u017c m\u00f3wi o manipulowaniu modelem na poziSporo si\u0119 ju\u017c m\u00f3wi o manipulowaniu modelem na poziomie promptu. Czy mo\u017cesz poda\u0107 jeszcze jakie\u015b przyk\u0142ady zagro\u017ce\u0144, o kt\u00f3rych warto wiedzie\u0107?<\/strong><\/p>

MCh:<\/strong> Na pewno warto wspomnie\u0107 o r\u00f3\u017cnych metodach przejmowania kontroli nad systemami AI.<\/p>

Na przyk\u0142ad mo\u017cna przej\u0105\u0107 kontrol\u0119 nad systemem AI za pomoc\u0105 obrazka, kt\u00f3ry wygl\u0105da niewinnie, ale ma w sobie ukryty za pomoc\u0105 steganografii komunikat. Model potrafi go odczyta\u0107 i zmienia swoje zachowa- nie \u2013 wrzucasz obrazek, nie wiedz\u0105c, co jest w \u015brodku, i nagle tracisz kontrol\u0119 nad tym, co model robi.<\/p>

Innym ciekawym przyk\u0142adem jest to, co pokazali tw\u00f3rcy PoisonGPT. Wytrenowali model, kt\u00f3ry potem trafi\u0142 do Hugging Face (repozytorium modeli open-source). Model zachowywa\u0142 si\u0119 normalnie, ale na pytanie: \u201eKto pierwszy postawi\u0142 stop\u0119 na Ksi\u0119\u017cycu?\u201d odpowiada\u0142: \u201eJurij Gagarin\u201d. To oczywi\u015bcie nieprawda, ale dowodzi, \u017ce nie mo\u017cemy \u015blepo ufa\u0107 modelom. Wyobra\u017a sobie, \u017ce tworzysz miliony w\u0142asnych rozwi\u0105za\u0144. Nie wy\u0142apiesz wszystkich takich niuans\u00f3w i w pewnym momencie model zrobi co\u015b zupe\u0142nie innego, ni\u017c oczekujesz. Problem polega na tym, \u017ce nie da si\u0119 w tej przestrzeni ogarn\u0105\u0107 wszystkich mo\u017cliwych kombinacji wej\u015b\u0107 i wyj\u015b\u0107.<\/p>

IO: Czyli jednymi z kluczowych narz\u0119dzi s\u0105 w\u0142a\u015bnie edukacja i szerzenie \u015bwiadomo\u015bci.<\/strong><\/p>

MCh:<\/strong> Dok\u0142adnie. Wierz\u0119 w tym przypadku w podej- \u015bcie Yanna LeCuna. Je\u015bli otwarcie b\u0119dziemy m\u00f3wili o problemach zwi\u0105zanych z bezpiecze\u0144stwem modeli, to ludzie b\u0119d\u0105 mieli wi\u0119ksz\u0105 \u015bwiadomo\u015b\u0107. To te\u017c jeden z powod\u00f3w, dla kt\u00f3rych stworzy\u0142em sw\u00f3j kurs o hakowaniu AI. Nie zach\u0119cam w nim do obchodzenia modeli, ale ucz\u0119, jak to si\u0119 dzieje i dlaczego.<\/p>

Problem, kt\u00f3ry mamy obecnie, po tym jak Trump cofn\u0105\u0142 pewne regulacje w Stanach Zjednoczonych, po- lega na tym, \u017ce wcze\u015bniej du\u017ce firmy jak Anthropic czy OpenAI musia\u0142y dzieli\u0107 si\u0119 informacjami o zagro\u017ceniach, kt\u00f3re wykry\u0142y. Teraz ju\u017c nie musz\u0105. Czasem nawet nie wiemy, co te modele knuj\u0105. To krok wstecz w kwestii bezpiecze\u0144stwa.<\/p>

Na szcz\u0119\u015bcie istniej\u0105 dobre otwarte projekty. Jest polski PLLuM, jest Bielik, jest zaskakuj\u0105co udany Deep-Seek, kt\u00f3ry otwarcie dzieli si\u0119 informacjami o swoim procesie uczenia. Mo\u017cemy na tej podstawie tworzy\u0107 nowe modele, obserwowa\u0107, jak czasem robi\u0105 co\u015b zupe\u0142nie innego, ni\u017c by\u015bmy chcieli.<\/p>

Wierz\u0119 w budowanie otwarto\u015bci \u2013 wszyscy musimy m\u00f3wi\u0107 g\u0142o\u015bno o tych problemach. Po\u0142\u0105czenie AI i cyberbezpiecze\u0144stwa jest dla mnie niezwykle interesuj\u0105ce. Te systemy s\u0105 w stanie robi\u0107 coraz wi\u0119cej, a jednocze\u015bnie mo\u017cna je skuteczniej przejmowa\u0107. Warto wi\u0119c nad\u0105\u017ca\u0107 za tym, co si\u0119 dzieje w \u015bwiecie technologii, zw\u0142aszcza \u017ce na co dzie\u0144 korzystamy z coraz wi\u0119kszej liczby modeli, nawet o tym nie wiedz\u0105c.<\/p>","protected":false},"excerpt":{"rendered":"

O bezpiecze\u0144stwie, dezinformacji i ukrytych zagro\u017ceniach.<\/p>\n","protected":false},"author":276,"featured_media":9702,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[612,756,757,402,754],"tags":[],"popular":[],"difficulty-level":[38],"ppma_author":[655,343],"class_list":["post-9303","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-numer-4","category-ai_branza","category-bezpieczenstwo-pl","category-hai-magazine","category-hai_premium","difficulty-level-medium"],"acf":[],"authors":[{"term_id":655,"user_id":276,"is_guest":0,"slug":"mateusz-chrobok","display_name":"Mateusz Chrobok","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/25e0bd7379ae5fd13a88270f5b0e87c50cd4a2794f8cdc031d90be4a629c735c?s=96&d=mm&r=g","first_name":"Mateusz","last_name":"Chrobok","user_url":"","job_title":"","description":"\u200bGenera\u0142 dywizji. Ekspert w dziedzinie cyberbezpiecze\u0144stwa, dow\u00f3dca Komponentu Wojsk Obrony Cyberprzestrzeni. Wsp\u00f3\u0142tw\u00f3rca zaawansowanego laboratorium informatyki \u015bledczej, inicjator utworzenia Wojsk Obrony Cyberprzestrzeni."},{"term_id":343,"user_id":5,"is_guest":0,"slug":"inez-okulska","display_name":"dr Inez Okulska","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/479f0f5551a6bf974825e84cfe39166b785e5cd476e583be6a22279c2c379917?s=96&d=mm&r=g","first_name":"dr Inez","last_name":"Okulska","user_url":"","job_title":"","description":"Redaktor naczelna hAI Magazine, badaczka i wsp\u00f3\u0142autorka modeli AI (StyloMetrix, PLLuM), wyk\u0142adowczyni, Top100 Woman in AI in PL"}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/9303","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/276"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=9303"}],"version-history":[{"count":6,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/9303\/revisions"}],"predecessor-version":[{"id":9711,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/9303\/revisions\/9711"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/9702"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=9303"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=9303"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=9303"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=9303"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=9303"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=9303"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}