![\"\"](\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/straszne.png\")
<\/p>Od lat \u017cartujemy, \u017ce najwi\u0119kszym k\u0142amstwem internetu jest \u201eprzeczyta\u0142em regulamin serwisu i zgadzam si\u0119 z nim\u201d. Efekt? Pracownicy, kt\u00f3rzy wklejaj\u0105 poufne dane klient\u00f3w w r\u00f3\u017cne narz\u0119dzia, nie zdaj\u0105c sobie sprawy, \u017ce te dane w rzeczywisto\u015bci wysy\u0142ane s\u0105 przez API (interfejs programistyczny) do du\u017cych modeli j\u0119zykowych (LLM). Ryzyko? Dane mog\u0105 zosta\u0107 zwr\u00f3cone innemu u\u017cytkownikowi. I to nie tylko na skutek wykorzystania ich do szkolenia modelu, lecz tak\u017ce w wyniku typowych b\u0142\u0119d\u00f3w w aplikacjach przegl\u0105darkowych (ChatGPT mia\u0142 ju\u017c taki problem).<\/p>
Platformy spo\u0142eczno\u015bciowe s\u0105 pe\u0142ne tzw. u\u017cytecznych idiot\u00f3w, czyli prawdziwych ludzi, kt\u00f3rzy amplifikuj\u0105 tre\u015bci zmanipulowane, bo te w negatywnym \u015bwietle stawiaj\u0105 znienawidzonych przez nich polityk\u00f3w. Dzi\u0119ki du\u017cym modelom j\u0119zykowym, kt\u00f3re potrafi\u0105 szybko tworzy\u0107 tre\u015bci na zawo\u0142anie, i to w kilkunastu j\u0119zykach, \u0142atwiej mo\u017cna budowa\u0107 siatki bot\u00f3w, kt\u00f3re w czasie rzeczywistym \u2013 i co wa\u017cne, zupe\u0142nie bez udzia\u0142u cz\u0142owieka \u2013 potrafi\u0105 prowadzi\u0107 dyskusj\u0119, zachowuj\u0105c konkretn\u0105 narracj\u0119. Czasem tylko, na skutek b\u0142\u0119du lub braku ochrony przed atakami wstrzykiwania polece\u0144 (prompt injection), zamiast oczernia\u0107 jak\u0105\u015b grup\u0119 spo\u0142eczn\u0105, podadz\u0105 przepis na sernik. <\/p>
Cho\u0107 warto mie\u0107 na uwadze fakt, \u017ce powy\u017csze \u201eigranie z botami\u201d mo\u017ce by\u0107 mieczem obosiecznym. Da si\u0119 to bowiem wykorzysta\u0107 do sprytnej dywersji. Je\u015bli u\u017cytkownik, kt\u00f3ry nie jest botem, mimo wszystko odpowie na zaczepnego prompta, to druga strona zyska argument \u201eto nie cz\u0142owiek, to bot, bo przecie\u017c odpowiedzia\u0142!\u201d. W sieci rozniesie si\u0119, \u017ce zwolennicy konkretnego przekazu graj\u0105 nie fair, bo u\u017cywaj\u0105 bot\u00f3w do amplifikacji swoich tre\u015bci! Tymczasem to nie zwolennicy, a przeciwnicy upozorowali udany atak prompt injection, by o\u015bmieszy\u0107 swoich adwersarzy. I to w\u0142a\u015bnie dow\u00f3d na to, \u017ce kolejnym zagro\u017ceniem mo\u017ce by\u0107\u2026<\/p>
<\/p>
Do niedawna, gdy polityk zrobi\u0142 co\u015b g\u0142upiego i zosta\u0142 nagrany, by\u0142o jasne, \u017ce jest winny, \u017ce to on jest na nagraniu. Jednak teraz, w dobie AI, polityk mo\u017ce powiedzie\u0107, \u017ce na kompromituj\u0105cym go nagraniu to nie on, a jego deepfake (fa\u0142szywy materia\u0142 wygenerowany przy u\u017cyciu AI). Polityk mo\u017ce przekonywa\u0107, \u017ce to nie jego g\u0142os, i pokaza\u0107, jak \u0142atwo mo\u017cna sklonowa\u0107 g\u0142os dowolnej osoby na podstawie kilkusekundowej pr\u00f3bki prawdziwego g\u0142osu. <\/p>
Od teraz szokuj\u0105ce, ale prawdziwe materia\u0142y b\u0119d\u0105 nazywane fa\u0142szywkami. I wiele os\u00f3b w to uwierzy. B\u0119d\u0105 te\u017c pojawia\u0107 si\u0119 nieprawdziwe, ale wiarygodnie wygl\u0105daj\u0105ce nagrania, w kt\u00f3re tak\u017ce niekt\u00f3rzy b\u0119d\u0105 wierzy\u0107, mimo zaprzecze\u0144 os\u00f3b, kt\u00f3re w nich wyst\u0119puj\u0105. <\/p>
Zwyk\u0142emu cz\u0142owiekowi coraz ci\u0119\u017cej b\u0119dzie odr\u00f3\u017cni\u0107 prawd\u0119 od fa\u0142szu\u2026 Do weryfikacji potrzeba wiedzy technicznej, cz\u0119sto z zakresu kryminalistyki \u015bledczej (np. badania echa sieci elektrycznej). <\/p>
Przed zmanipulowanym nagraniem z \u201enaszym\u201d udzia\u0142em nie jeste\u015bmy w stanie si\u0119 ochroni\u0107, ale do pewnego stopnia jeste\u015bmy w stanie podwa\u017cy\u0107 prawdziwe nagrania, na kt\u00f3rych kto\u015b uwieczni\u0142 nas w kompromituj\u0105cej sytuacji. O ile skorzystamy z poni\u017cszego gad\u017cetu, kt\u00f3ry od lat pokazuj\u0119 na moich wyk\u0142adach, gdy opowiadam o ryzyku, jakie niesie za sob\u0105 nowy \u015bwiat \u2013 czyli do\u015b\u0107 realistycznie wygl\u0105daj\u0105cego pier\u015bcienia z dodatkowym palcem. <\/p>
Ka\u017cdy przecie\u017c wie, \u017ce \u201esztuczna inteligencja\u201d \u015brednio radzi sobie z palcami, wi\u0119c je\u015bli mamy ich sze\u015b\u0107, to na pewno materia\u0142 nie jest prawdziwy.<\/p>
O ile deepfake’i stanowi\u0105 bardzo widowiskowe zagro\u017cenie zwi\u0105zane z narz\u0119dziami AI, to dla normalnych ludzi wi\u0119kszym k\u0142opotem b\u0119dzie\u2026 brak normalnych ludzi. Na infoliniach, pod e-mailami, na komunikatorach firm, od kt\u00f3rych co\u015b kupili. <\/p> Zast\u0119powanie ludzi botami to marzenie ka\u017cdego dyrektora finansowego. Oszcz\u0119dno\u015bci s\u0105 ogromne, ale ogromna jest tak\u017ce frustracja, je\u015bli bot nie dzia\u0142a poprawnie. <\/p> Chatboty z typowymi i powtarzalnymi problemami nie maj\u0105 k\u0142opot\u00f3w. Ale biada tym, kt\u00f3rzy chc\u0105 im zg\u0142osi\u0107 nietypow\u0105 usterk\u0119 lub potrzebuj\u0105 rozwi\u0105za\u0107 niecodzienn\u0105 spraw\u0119. W najlepszym przypadku zmarnuj\u0105 czas, ale zostan\u0105 w ko\u0144cu prze\u0142\u0105czeni do \u017cywego konsultanta. W najgorszym, podpi\u0119ty pod bota model zap\u0119tli si\u0119 i b\u0119dzie w k\u00f3\u0142ko podawa\u0142 te same kuriozalne rozwi\u0105zania. <\/p> Pozostaje mie\u0107 nadziej\u0119, \u017ce ko\u0142o ratunkowe rzuc\u0105 nam politycy, przynajmniej w przypadku istotnych us\u0142ug. AI Act, kt\u00f3ry ju\u017c zacz\u0105\u0142 obowi\u0105zywa\u0107, wymaga, aby niekt\u00f3re z rozwi\u0105za\u0144 korzystaj\u0105cych ze sztucznej inteligencji by\u0142y w odpowiedni spos\u00f3b nadzorowane. Zobaczymy, jak b\u0119dzie z egzekwowaniem tych wymaga\u0144. <\/p> Warto te\u017c wspomnie\u0107, \u017ce do wymaga\u0144 zastosuj\u0105 si\u0119 etyczni gracze na tym rynku\u2026<\/p> Oszu\u015bci ju\u017c teraz korzystaj\u0105 z klonowania g\u0142osu i generowania awatar\u00f3w do okradania Polak\u00f3w. Co ciekawe, prezentowane na Facebooku i YouTube fa\u0142szywki ukazuj\u0105ce prezydenta zach\u0119caj\u0105cego do inwestycji w scamerski projekt finansowy nie s\u0105 najlepszej jako\u015bci. A i tak ofiar nie brakuje. <\/p> To prowadzi do wniosku, \u017ce cyberprzest\u0119pcy wcale nie potrzebuj\u0105 doskona\u0142ych narz\u0119dzi sztucznej inteligencji. W zasadzie to, jak wida\u0107 po tych kiepsko napisanych scamerskich e-mailach, kt\u00f3re dalej trafiaj\u0105 na nasze skrzynki pocztowe, w og\u00f3le nie potrzebuj\u0105 narz\u0119dzi AI. Nie korzystaj\u0105 nawet z darmowej wersji ChatGPT, kt\u00f3ra bez problemu zwi\u0119kszy\u0142aby wiarygodno\u015b\u0107 przekazu i poprawi\u0142a sk\u0142adni\u0119. A mimo to, ofiar nie brakuje. <\/p> Dlatego troch\u0119 \u015bmieszy mnie, \u017ce wielu z Niebezpiecznikowych klient\u00f3w, kt\u00f3rzy zamawiaj\u0105 u nas test penetracyjny, opowiada nam na pierwszym spotkaniu, jakie\u017c to problemy b\u0119dziemy mieli z w\u0142amaniem si\u0119 do nich. Bo wydali miliony na najnowsze, wspierane sztuczn\u0105 inteligencj\u0105 narz\u0119dzia do wykrywania w\u0142ama\u0144. A mimo to i tak nam si\u0119 udaje prze\u0142ama\u0107 te zabezpieczenia. Czasem przez internet, a czasem\u2026 po prostu wchodz\u0105c na teren ich biura w odblaskowej kamizelce z drabin\u0105.<\/p> Bo nawet te najnowocze\u015bniejsze, najdro\u017csze, najbardziej dopracowane narz\u0119dzia sztucznej inteligencji maj\u0105 braki i niekiedy s\u0105 bardziej sztuczne ni\u017c inteligentne. Co cz\u0142owiek stworzy\u0142, cz\u0142owiek omin\u0105\u0107 potrafi. Przynajmniej do tej pory.<\/p> <\/p>","protected":false},"excerpt":{"rendered":" Chocia\u017c korzystanie z narz\u0119dzi AI mo\u017ce stanowi\u0107 dla nas pewne zagro\u017cenia. Moim zdaniem najwa\u017cniejsze z nich to\u2026<\/p>\n","protected":false},"author":105,"featured_media":4533,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[402,756,757,754,404],"tags":[],"popular":[],"difficulty-level":[36],"ppma_author":[381],"class_list":["post-4532","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hai-magazine","category-ai_branza","category-bezpieczenstwo-pl","category-hai_premium","category-hai-magazine-2","difficulty-level-easy"],"acf":[],"authors":[{"term_id":381,"user_id":105,"is_guest":0,"slug":"piotr-konieczny","display_name":"Piotr Konieczny","avatar_url":{"url":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/pkonieczny.jpg","url2x":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/pkonieczny.jpg"},"first_name":"Piotr","last_name":"Konieczny","user_url":"","job_title":"","description":""}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4532","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/105"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=4532"}],"version-history":[{"count":5,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4532\/revisions"}],"predecessor-version":[{"id":5984,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4532\/revisions\/5984"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/4533"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=4532"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=4532"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=4532"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=4532"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=4532"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=4532"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Zrzut-ekranu-2024-08-2-o-20.15.03.png\")
\u0179r\u00f3d\u0142o: Nadja Buttendorf<\/em><\/p>Prawdziwych ludzi coraz mniej<\/h4>
A przest\u0119pcy?<\/h4>