Cho\u0107 sam akt mia\u017cd\u017cy r\u00f3wnie\u017c obj\u0119to\u015bci\u0105 \u2013 to a\u017c 459 stron (!) \u2013 to jednak w du\u017cej mierze kr\u0105\u017cy wok\u00f3\u0142 kolejnych wariant\u00f3w trzech podsta- wowych kwestii dotycz\u0105cych regulacji AI: systemy oparte na sztucznej inteligencji maj\u0105 by\u0107 bezpieczne, godne zaufania i odpowiednio wykorzystywane.<\/p>
Najwa\u017cniejszym elementem tej regulacji nie jest wi\u0119c regulowanie samej technologii (czyli ocena, w czym drzewa decyzyjne s\u0105 lepsze od sieci neuronowych, i wyznaczanie konkretnych typ\u00f3w architektury), tylko sposobu i ryzyka
jej zastosowa\u0144. A to cho\u0107by dlatego, \u017ce tech- nologia rozwija si\u0119 zbyt szybko, \u017ceby przewi- dzie\u0107 i z pe\u0142nym przekonaniem wpisa\u0107 do aktu wszystkie potencjalne nowe algorytmy, kt\u00f3re mog\u0105 si\u0119 kiedy\u015b pojawi\u0107 na rynku.<\/p>
AI Act dzieli wszystkie systemy sztucznej inteligencji na kategorie wed\u0142ug zwi\u0105zanego z tymi systemami ryzyka, kt\u00f3re podaj\u0119 tu w pewnym uproszczeniu:<\/p>
czyli m.in. systemy oceniaj\u0105ce, np. to, jak si\u0119 czuj\u0119 w pracy czy w szkole, jak bardzo si\u0119 skupiam przy pracy, wyko- rzystuj\u0105ce techniki podprogowe czy manipulacyjne lub dyskryminuj\u0105ce pod k\u0105tem rasowym, ekonomicznym czy orientacji seksualnej.<\/p>
Wymagania: u\u017cycie niedozwolone.<\/p>
czyli systemy generuj\u0105ce tre\u015bci (tekst, wideo, d\u017awi\u0119k, obraz), takie jak (dawniej Bard) i inne modele generatywne, oraz wszystkie systemy oparte na sztucznej inteligencji wchodz\u0105ce w interakcje z u\u017cytkownikiem, czyli np. oparte na modelach generatywnych chatboty i voiceboty.<\/p>
Wymagania: oznaczanie tre\u015bci generowa- nych przez AI, informowanie u\u017cytkownik\u00f3w, \u017ce maj\u0105 do czynienia ze sztuczn\u0105 inteligencj\u0105 (a nie z cz\u0142owiekiem) np. na infolinii (\u201eHej, to ja, tw\u00f3j elektroniczny asystent g\u0142osowy\u201d).<\/p>
Dodatkowo rekomendowane jest stosowanie si\u0119 do wymog\u00f3w AI Act z w\u0142asnej woli, nieza- le\u017cnie od prawnej klasyfikacji stopnia ryzyka generowanego przez nasz system \u2013 po to, by zapewni\u0107 u\u017cytkownikom transparentno\u015b\u0107 naszych system\u00f3w i zadba\u0107 o ich cyberbez- piecze\u0144stwo czy prywatno\u015b\u0107 danych. A \u017ce przy okazji, za jednym zamachem, spe\u0142ni\u0105 te\u017c wymagania AI Act \u2013 it\u2019s a win, right<\/em>?<\/p> m.in. takie systemy, kt\u00f3re dokonuj\u0105 profilowania os\u00f3b, wykorzystuj\u0105 biometri\u0119 (np. rozpoznawanie twarzy lub odcisku palca podczas logowania do aplikacji), oceniaj\u0105 moje wyniki w pracy czy w szkole (scoring<\/em>), decyduj\u0105 o tym, czy dostan\u0119 kredyt, miejsce w szpitalu, lub okre\u015blaj\u0105 wysoko\u015b\u0107 sk\u0142adki ubezpieczeniowej.<\/p> Wymagania: zarz\u0105dzanie ryzykiem przez ca\u0142y cykl \u017cycia systemu (Artyku\u0142 9), zarz\u0105dzanie danymi (proces zbierania, u\u017cycie w treningu i testowaniu, mo\u017cliwe skrzywienia, czyli tzw. bias <\/em>\u2013 Artyku\u0142 10), konieczno\u015b\u0107 wytwarzania dokumentacji technicznej (Artyku\u0142 11), monitorowania systemu (Artyku\u0142 12), zachowania przejrzysto\u015bci modelu (Artyku\u0142 13), nadzoru cz\u0142owieka nad systemem <\/strong>(Artyku\u0142 14), zapewnienie solidno\u015bci technicznej<\/p> i cyberbezpiecze\u0144stwa (Artyku\u0142 15), opra- cowanie planu dzia\u0142a\u0144 naprawczych oraz obowi\u0105zek informowania w przypadku wykrycia niezgodno\u015bci (Artyku\u0142 20). Powstanie specjalna baza system\u00f3w wysokiego ryzyka, w kt\u00f3rej trzeba b\u0119dzie zarejestrowa\u0107 sw\u00f3j system przed wypusz- czeniem go na rynek.<\/p> przypisywane jest wszystkim pozosta\u0142ym systemom, czyli zdecydowanej wi\u0119kszo\u015bci produkt\u00f3w opartych na sztucznej inteligencji.<\/p> Wymagania: je\u015bli nasz system nie wpada w \u017cadn\u0105 z trzech pierwszych kategorii ryzyka i jest jedynie \u201einnym systemem\u201d o minimalnym ryzyku, Od \u201ewej\u015bcia w \u017cycie\u201d aktu (czyli prawdopodobnie od czerwca 2024 roku) istotne s\u0105 trzy przedzia\u0142y czasowe, okre\u015blaj\u0105ce, od kiedy kolejne przepisy zaczn\u0105 obowi\u0105zywa\u0107:<\/p> AI Act nie stosuje si\u0119 do dzia\u0142alno\u015bci badawczej i rozwojowej – czyli do prototypowania system\u00f3w AI przed wprowadzeniem ich na rynek do u\u017cytku. Nale\u017cy pami\u0119ta\u0107, \u017ce wprowadzenie na rynek zak\u0142ada dzia\u0142alno\u015b\u0107 zar\u00f3wno odp\u0142atn\u0105, jak i nieodp\u0142atn\u0105 (publikacja darmo- wego systemu AI nadal jest wprowadzeniem go do u\u017cytku).<\/p> Systemy wysokiego ryzyka, kt\u00f3re zostan\u0105 wprowadzone na rynek przed dat\u0105 rozpocz\u0119cia stosowania odpowiednich przepis\u00f3w (najprawdopodobniej liczone do czerwca 2026 roku) nie b\u0119d\u0105 podlega\u0142y wstecznej regulacji, tzn. \u017ce trzeba je b\u0119dzie dostosowa\u0107 do nowych przepis\u00f3w dopiero podczas aktualizacji lub wprowadzania zmian technicznych, lub te\u017c rozszerzenia zakresu ich zastosowania. Nie trzeba wi\u0119c wy\u0142\u0105cza\u0107 wszystkich system\u00f3w wysokiego ryzyka w dniu rozpocz\u0119cia obowi\u0105zywania aktu. Cho\u0107 oczywi\u015bcie sugerowane wymogi transparencji czy wyt\u0142umaczalno\u015bci naszych modeli powinny by\u0107 dla nas wci\u0105\u017c priorytetowe, niezale\u017cnie od tego, czego wymaga AI Act.<\/p> Obecnie dost\u0119pne systemy og\u00f3lnego przeznaczenia lub te, kt\u00f3re powstan\u0105 jeszcze przed dat\u0105 rozpocz\u0119cia stosowania odpowiednich przepis\u00f3w (do oko\u0142o czerwca 2025 roku), b\u0119d\u0105 mia\u0142y \u0142\u0105cznie 36 miesi\u0119cy, aby si\u0119 dostosowa\u0107 (to ten przypadek najd\u0142u\u017cszej adaptacji, dozwolonej a\u017c do oko\u0142o czerwca 2027 roku \u2013 Artyku\u0142 111). R\u00f3wnie\u017c dla istniej\u0105cych ju\u017c na rynku modeli generatywnych to ca\u0142kiem sporo czasu.<\/p> Pewne wymagania dotyczy\u0107 b\u0119d\u0105 zar\u00f3wno tw\u00f3rc\u00f3w i dystrybutor\u00f3w system\u00f3w AI (dostawc\u00f3w), jak i tych, kt\u00f3rzy korzystaj\u0105 w swoich systemach z rozwi\u0105za\u0144 AI, ale sami ich nie tworz\u0105. Na przyk\u0142ad to dostawcy oprogramowania (System-as-a-Service, SaaS) b\u0119d\u0105 odpowiedzialni za jego dokumentacj\u0119 techniczn\u0105, a nie firma jedynie stosuj\u0105ca ich us\u0142ug\u0119. Natomiast monitoring stosowanego u siebie systemu AI, kt\u00f3ry obs\u0142uguje klient\u00f3w infolinii w oparciu o SaaS z zakresu rozpoznawania czy generowania g\u0142osu (speech-to-text, text-to-speech), b\u0119dzie wymagany zar\u00f3wno po stronie dostawcy, jak i po stronie firmy tak\u0105 us\u0142ug\u0119 stosuj\u0105cej. Korzystaj\u0105cy z AI b\u0119dzie musia\u0142 monitorowa\u0107 system w zakresie kompetencji personelu i u\u017cycia. To znaczy, \u017ce firma wdra\u017caj\u0105ca takiego voicebota b\u0119dzie mia\u0142a obowi\u0105zek informowania u\u017cytkownika, \u017ce rozmawia Nale\u017cy pami\u0119ta\u0107, \u017ce je\u015bli produkt pochodz\u0105cy od dostawcy spoza Unii Europejskiej jest wykorzystywany w UE, to dostawc\u0119 na tym rynku obowi\u0105zuj\u0105 przepisy AI Act. zyli, np. mimo i\u017c ChatGPT jest dostarczany przez OpenAI z siedzib\u0105 w Stanach Zjednoczonych, to w Polsce model ten (jego udost\u0119pniona do u\u017cytku wersja) b\u0119dzie musia\u0142 by\u0107 zgodny z przepisami AI Act.<\/p> Dodatkowo w rozporz\u0105dzeniu istnieje jeszcze jeden aspekt wychodz\u0105cy poza klasyfikacj\u0119 ryzyka, kt\u00f3ry swego czasu budzi\u0142 wiele emocji \u2013 modele og\u00f3lnego przeznaczenia (Artyku\u0142y 51, 52). Ze wzgl\u0119du na swoj\u0105 definicj\u0119 (Artyku\u0142 3) b\u0119d\u0105 one obejmowa\u0142y zar\u00f3wno modele bazowe (fundamental models), jak i generatywne, czyli np. ChatGPT, Gemini, Claude, Mistral, LLaMA czy Midjourney (wymienia\u0107 mo\u017cna d\u0142ugo).<\/strong><\/p> Tw\u00f3rcy takich modeli b\u0119d\u0105 musieli przygotowa\u0107 dokumentacj\u0119 techniczn\u0105 i instrukcj\u0119 u\u017cycia modelu, przestrzega\u0107 przepis\u00f3w prawa autorskiego oraz publikowa\u0107 pewne informacje o swoich zbiorach treningowych. Je\u017celi s\u0105 to modele publicznie dost\u0119pne \u2013 open-source \u2013 w\u00f3wczas trzeba spe\u0142ni\u0107 jedynie wymagania zwi\u0105zane z danymi i prawem autorskim.<\/p> Powstanie specjalna baza modeli og\u00f3lnego przeznaczenia, w kt\u00f3rej trzeba b\u0119dzie zarejestrowa\u0107 sw\u00f3j model przed wypuszczeniem go na rynek.<\/p> Modele og\u00f3lnego przeznaczenia, kt\u00f3rych \u0142\u0105czna ilo\u015b\u0107 oblicze\u0144 u\u017cytych do treningu przekracza 10^<\/sup>25 operacji zmiennoprzecinkowych (FLOPs), stanowi\u0105 dodatkowe systemowe ryzyko. W ich przypadku wymagane s\u0105 tak\u017ce dodatkowe testy, monitorowanie incydent\u00f3w oraz podwy\u017cszone cyberbezpiecze\u0144stwo.<\/p> Jakie wi\u0119c konsekwencje niesie ze sob\u0105 AI Act? Co w\u0142a\u015bciwie znacz\u0105 te terminy i jakie s\u0105 wymagane zakresy nadzoru? Na dok\u0142adne definicje przyjdzie jeszcze czas, poniewa\u017c wci\u0105\u017c czekamy na opubli- kowanie finalnej, uzgodnionej \u201eco do s\u0142owa\u201d wersji zar\u00f3wno angielskiej, jak i polskiej. Ale to nie znaczy, \u017ce nale\u017cy czeka\u0107 z za\u0142o\u017conymi r\u0119kami.<\/p> Zastan\u00f3wcie si\u0119:<\/strong><\/p> W zale\u017cno\u015bci od wyniku takiej wst\u0119pnej analizy zapoznajcie si\u0119 z wymaganiami zapisanymi w konkretnych podanych wy\u017cej artyku\u0142ach AI Act, by m\u00f3c z wyprzedzeniem przygotowa\u0107 si\u0119 na przysz\u0142o\u015b\u0107 i zacz\u0105\u0107 projektowa\u0107 swoje procesy w oczekiwaniu na dalsze konkrety.<\/p>","protected":false},"excerpt":{"rendered":" Parlament Europejski 13 marca 2024 roku przyj\u0105\u0142 rozporz\u0105dzenie w sprawie sztucznej inteligencji \u2013 tzw. AI Act. <\/p>\n","protected":false},"author":38,"featured_media":3394,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[402,756,403,761],"tags":[174,216,246,245],"popular":[],"difficulty-level":[36],"ppma_author":[356],"class_list":["post-3393","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hai-magazine","category-ai_branza","category-hai-magazine-1","category-prawo_etyka","tag-ai-act","tag-ai-ethics","tag-aiact","tag-law-ai","difficulty-level-easy"],"acf":[],"authors":[{"term_id":356,"user_id":38,"is_guest":0,"slug":"pamela-krzypkowska","display_name":"Pamela Krzypkowska","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/c5adbbdec67afcf35ec54cd4dc12c21bc71c002627b8ca93134b45d5f1abd364?s=96&d=mm&r=g","first_name":"Pamela","last_name":"Krzypkowska","user_url":"","job_title":"","description":"Dyrektorka Departamentu Bada\u0144 i Innowacji w Ministerstwie Cyfryzacji, specjalistka w zakresie architektur chmurowych i budowania modeli AI w zastosowaniach biznesowych"}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/3393","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/38"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=3393"}],"version-history":[{"count":4,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/3393\/revisions"}],"predecessor-version":[{"id":3846,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/3393\/revisions\/3846"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/3394"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=3393"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=3393"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=3393"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=3393"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=3393"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=3393"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
to i tak musimy zapewni\u0107, \u017ce osoby obs\u0142uguj\u0105ce system oraz jego u\u017cytkownicy maj\u0105 odpowiednie kompetencje w zakresie AI,
<\/strong>czyli np. przeprowadzi\u0107 szkolenia (Artyku\u0142 4).<\/p>Za\u0142o\u017cenia szczeg\u00f3\u0142owe<\/h3>
Od kiedy obowi\u0105zuje?<\/h4>
wymagania dotycz\u0105ce system\u00f3w zakazanych;
<\/li>\n\n
wymagania dotycz\u0105ce system\u00f3w og\u00f3lnego przeznaczenia;
<\/li>\n\n
ca\u0142o\u015b\u0107 rozporz\u0105dzenia (wraz z wymaganiami wobec system\u00f3w wysokiego ryzyka, aczkolwiek w przypadku wybranej cz\u0119\u015bci dopiero w czerwcu 2027 roku).<\/li><\/ul>Wykluczenie na badania<\/h4>
Prawo nie dzia\u0142a wstecz (w wi\u0119kszo\u015bci) <\/h4>
D\u0142u\u017cszy okres przystosowania modeli og\u00f3lnego przeznaczenia <\/h4>
Dotyczy tw\u00f3rc\u00f3w, dostawc\u00f3w i integrator\u00f3w AI<\/h4>
ze sztuczn\u0105 inteligencj\u0105, a nie z cz\u0142owiekiem.<\/p>Wykorzystanie na terenie UE <\/h4>
Modele og\u00f3lnego przeznaczenia<\/h4>
Co teraz?<\/h3>