W pozosta\u0142ym zakresie nie mamy ingerencji prawnej, cho\u0107 oczywi\u015bcie to, \u017ce system lub model nie jest kwalifikowany \u201epod\u201d AI Act, nie zwalnia z obowi\u0105zku dokonania oceny jego zgodno\u015bci z innymi aktami czy regulacjami. Ot, zrzucamy z siebie jedynie te obowi\u0105zki, kt\u00f3re unijny prawodawca postanowi\u0142 na\u0142o\u017cy\u0107 na konkretne podmioty \u2013 rola b\u0119dzie uzale\u017cniona od tego, co robimy w kontek\u015bcie danego systemu lub modelu (tu sprawa jest \u0142atwiejsza, bowiem bezpo\u015brednio nie zdecydowano si\u0119 na uregulowanie odpowiedzialno\u015bci podmiot\u00f3w stosuj\u0105cych modele og\u00f3lnego przeznaczenia). O rolach za chwil\u0119.<\/p>
Ale zanim o nich, zacznijmy od fundamentalnego dla AI Act poj\u0119cia, jakim jest system AI. Bo je\u015bli nie ma systemu AI, to nie ma obowi\u0105zk\u00f3w wynikaj\u0105cych z tego aktu prawnego. Proste? Niezupe\u0142nie, bo sama definicja systemu AI mo\u017ce przyprawi\u0107 o silne b\u00f3le g\u0142owy.<\/p>
UWAGA:<\/strong> Na boku zostawimy dzisiaj rozwa\u017cania na temat zakresu przedmiotowego i powi\u0105zanego z tym katalogu wy\u0142\u0105cze\u0144. Jest to istotna kwestia dla omawianego przez nas zagadnienia, ale nie starczy\u0142oby nam miejsca, aby om\u00f3wi\u0107 wszelkie niuanse, jednak warto zauwa\u017cy\u0107, \u017ce wy\u0142\u0105czenia mog\u0105 dotyczy\u0107 zar\u00f3wno charakteru podmiotu, jak i konkretnego zastosowania systemu (np. na potrzeby wewn\u0119trzne). Dlatego zawsze nale\u017cy zbada\u0107 wszystkie aspekty stosowalno\u015bci aktu prawnego \u2013 a nu\u017c jeste\u015bmy w stanie znale\u017a\u0107 si\u0119 w ekskluzywnym gronie \u201ewy\u0142\u0105czonych\u201d?<\/p> System AI zosta\u0142 tu zdefiniowany nast\u0119puj\u0105co (podaj\u0119 we w\u0142asnym t\u0142umaczeniu):<\/p> Definicja jest wi\u0119c powt\u00f3rzeniem tej opracowanej przez OECD i zawiera w sobie wiele niejasno\u015bci, poj\u0119\u0107 niedookre\u015blonych oraz \u201enadmiernie\u201d elastycznych. Dlatego warto, czytaj\u0105c j\u0105, si\u0119ga\u0107 do do\u015b\u0107 sk\u0105pych (ale jednak obecnych) wyja\u015bnie\u0144 zawartych w preambule aktu, a tak\u017ce do przysz\u0142ych wytycznych organ\u00f3w oraz instytucji.<\/p> Poniewa\u017c ograniczone ramy artyku\u0142u nie pozwalaj\u0105 nam na g\u0142\u0119bok\u0105 analiz\u0119, sugeruj\u0119, by definicj\u0119 t\u0119 roz\u0142o\u017cy\u0107 na czynniki pierwsze, stworzy\u0107 w\u0142asn\u0105 metodologi\u0119 oceny, a nast\u0119pnie stosowa\u0107 j\u0105 do oceny naszych proces\u00f3w, system\u00f3w, modeli czy rozwi\u0105za\u0144. Bez swoistej inwentaryzacji zasob\u00f3w si\u0119 nie obejdzie. No ale kiedy\u015b trzeba to w ko\u0144cu zrobi\u0107, prawda? Pami\u0119tajcie przy tym, \u017ce dla uznania, \u017ce mamy do czynienia z systemem sztucznej inteligencji, konieczne jest spe\u0142nienie WSZYSTKICH przes\u0142anek naraz, co zwi\u0119ksza ryzyko powstania wygodnie interpretacyjnej luki. Miejmy nadziej\u0119, \u017ce zostan\u0105 one ograniczone wraz z pojawieniem si\u0119 wytycznych organ\u00f3w regulacyjnych.<\/p> [Przyk\u0142ad systemu AI zgodnego z t\u0105 definicj\u0105: rozwi\u0105zanie, kt\u00f3re wykorzystuje model uczenia maszynowego do predykcji zachowa\u0144 klient\u00f3w i tworzy na tej podstawie rekomendacje zakupowe, a dane pozyskiwane w czasie rzeczywistym wykorzystuje do dostrajania si\u0119 i tym samym lepszego odzwierciedlenia \u015brodowiska, w kt\u00f3rym funkcjonuje rozwi\u0105zanie].<\/em><\/p> Odr\u0119bna definicja pojawia si\u0119 w kontek\u015bcie modeli og\u00f3lnego przeznaczenia, wi\u0119c w naszej analizie powinni\u015bmy (je\u017celi intuicyjnie czujemy, \u017ce np. tworzymy LLM \u2013 du\u017ce modele j\u0119zykowe) ten fakt uwzgl\u0119dni\u0107. <\/p> Je\u017celi z analizy wyjdzie nam, \u017ce mamy si\u0119 czym (potencjalnie) martwi\u0107, bo systemy u nas s\u0105 (zostawmy jeszcze na chwil\u0119 to, JAKIE one s\u0105), to warto okre\u015bli\u0107 rol\u0119, w jakiej b\u0119dziemy wyst\u0119powa\u0107. Tutaj zaczyna si\u0119 zabawa. AI Act zbiorczo okre\u015bla wszystkie podmioty nim obj\u0119te jako operator\u00f3w, do kt\u00f3rych zaliczamy dostawc\u0119, producenta produktu, podmiot wdra\u017caj\u0105cy, autoryzowanego przedstawiciela, importera lub dystrybutora. Tutaj wa\u017cne zastrze\u017cenie \u2013 art. 25 AI Act okre\u015bla dodatkowe obowi\u0105zki dla innych podmiot\u00f3w, kt\u00f3re wchodz\u0105 w tzw. \u0142a\u0144cuch warto\u015bci, a wi\u0119c zaliczymy do nich tak\u017ce dostawc\u00f3w tych rozwi\u0105za\u0144, kt\u00f3re \u201ewspieraj\u0105\u201d system AI, ale nie dotykaj\u0105 sfery system\u00f3w czy modeli AI. Tak czy inaczej naszym kolejnym zadaniem b\u0119dzie zweryfikowanie, \u201ekim\u201d jeste\u015bmy.<\/p> Intuicja mo\u017ce by\u0107 pomocna, ale nie zast\u0105pi nam drobiazgowej analizy. Dlaczego? Sp\u00f3jrzmy na definicj\u0119 \u201edostawcy\u201d, kt\u00f3ra wskazuje, \u017ce dostawca oznacza osob\u0119 fizyczn\u0105 lub prawn\u0105, organ publiczny, agencj\u0119 lub inny podmiot, kt\u00f3ry: <\/p> Wydaje si\u0119 to proste, ale okazuje si\u0119, \u017ce poj\u0119cia takie jak \u201ewprowadzenie do obrotu\u201d czy \u201eoddanie do u\u017cytku\u201d zosta\u0142y r\u00f3wnie\u017c zdefiniowane i znajdziemy je w s\u0142owniczku. Pr\u00f3buj\u0105c okre\u015bli\u0107 nasz\u0105 rol\u0119, musimy wi\u0119c te kwestie uwzgl\u0119dni\u0107, bo mo\u017ce si\u0119 okaza\u0107, \u017ce intuicja i potoczne rozumienie poj\u0119\u0107 nas zawiod\u0142y i jednak wcale dostawc\u0105 \u2013 w rozumieniu AI Act \u2013 nie jeste\u015bmy. Oczywi\u015bcie to nie jedyna \u201efunkcja\u201d, kt\u00f3r\u0105 mo\u017cemy pe\u0142ni\u0107 \u201epod\u201d AI Act, ale chcia\u0142em podkre\u015bli\u0107 tutaj znaczenie definicji.<\/p> Czy wi\u0119c przyk\u0142adowo software house (firma zajmuj\u0105ca si\u0119 wytwarzaniem oprogramowania) b\u0119dzie traktowany jako dostawca systemu wysokiego ryzyka? To zale\u017cy od jego realnej roli przy tworzeniu rozwi\u0105zania. Najpierw trzeba zweryfikowa\u0107, czy to, co ma wytworzy\u0107 ten podmiot, jest w og\u00f3le systemem sztucznej inteligencji (1) kwalifikowanym \u201epod\u201d AI Act (2), a nast\u0119pnie odnie\u015b\u0107 si\u0119 do definicji konkretnej \u201eroli\u201d (podmiotu).Sp\u00f3jrzmy wi\u0119c na definicj\u0119 dostawcy. Je\u017celi software house opracowuje taki system (3) i nast\u0119pnie wprowadza do obrotu, co rozumiemy jako pierwsze udost\u0119pnienie systemu AI lub modelu sztucznej inteligencji og\u00f3lnego przeznaczenia na rynku unijnym (4a), lub oddaje go do u\u017cytku, czyli dostarcza system do pierwszego u\u017cycia bezpo\u015brednio podmiotowi wdra\u017caj\u0105cemu lub do w\u0142asnego u\u017cytku w Unii zgodnie z jego przeznaczeniem (4b), na zasadach komercyjnych (lub nie) (5), to b\u0119dzie on traktowany jako dostawca systemu wysokiego ryzyka i b\u0119dzie podlega\u0142 szczeg\u00f3lnemu re\u017cimowi AI Act. Oczywi\u015bcie mo\u017ce okaza\u0107 si\u0119, \u017ce taki software house przygotowuje jaki\u015b element systemu, natomiast dopiero podmiot \u201eodbieraj\u0105cy\u201d b\u0119dzie tworzy\u0142 sam system wysokiego ryzyka, i w ten spos\u00f3b stanie si\u0119 zar\u00f3wno dostawc\u0105, jak i wdra\u017caj\u0105cym.<\/p> Ten ostatni przyk\u0142ad b\u0119dzie m\u00f3g\u0142 wyst\u0119powa\u0107 wtedy, kiedy dostrze\u017cemy praktyczne (i komercyjne) znaczenie naszego systemu i poza jego opracowaniem i wdro\u017ceniem udost\u0119pnimy go na rynku. Je\u017celi mamy te dwa aspekty ograne, to mo\u017cemy przej\u015b\u0107 dalej, czyli do klasyfikacji systemu lub modelu zgodnie z AI Act. Musimy zweryfikowa\u0107, czy taki system jest np. systemem wysokiego ryzyka, czy wr\u0119cz jest obj\u0119ty zakazem z art. 5. Taka weryfikacja da nam odpowied\u017a na pytanie o to, \u201eco w\u0142a\u015bciwie\u201d musimy zrobi\u0107.<\/p> UWAGA: <\/strong>AI Act wskazuje, \u017ce system AI uznaje si\u0119 za b\u0119d\u0105cy systemem wysokiego ryzyka zawsze wtedy, gdy system ten dokonuje profilowania os\u00f3b fizycznych. Je\u017celi wi\u0119c nawet nie znajdziemy naszego systemu w do\u015b\u0107 skomplikowanej klasyfikacji AI Act, ale jest on stosowany do profilowania (definicja zbli\u017cona do tego, co znajdziemy w RODO), to b\u0119dziemy traktowa\u0107 go jako system wysokiego ryzyka.<\/p> W zale\u017cno\u015bci od naszej roli wzgl\u0119dem konkretnego systemu czy modelu b\u0119dziemy mieli inne obowi\u0105zki, kt\u00f3re powinni\u015bmy dobrze zrozumie\u0107. Do\u015b\u0107 powiedzie\u0107, \u017ce najbardziej dolegliwe s\u0105 te zwi\u0105zane z praktykami zakazanymi (eliminacja rozwi\u0105zania z obrotu), a najbardziej kosztowne te dla system\u00f3w wysokiego ryzyka. Warto tutaj upewni\u0107 si\u0119, ile czasu potrzebujemy na dostosowanie, bo cho\u0107 cz\u0119\u015b\u0107 obowi\u0105zk\u00f3w jest relatywnie prosta \u2013 np. dodatkowe obowi\u0105zki informacyjne \u2013 to inne mog\u0105 wymaga\u0107 np. przebudowy istniej\u0105cych proces\u00f3w (data governance, system zarz\u0105dzania ryzykiem).<\/p> Weryfikuj\u0105c \u201estosowalno\u015b\u0107\u201d AI Act, powinni\u015bmy wi\u0119c drobiazgowo przejrze\u0107 sam dokument, bowiem znale\u017a\u0107 mo\u017cemy tam te\u017c pewne wy\u0142\u0105czenia. Przyk\u0142adowo w art. 6 ust. 3 znajdziemy nast\u0119puj\u0105ce \u201ewsparcie\u201d:<\/p> Na koniec pozostaje \u201eczas\u201d. Tutaj AI Act znowu wprowadza zamieszanie, bo cho\u0107 rozszerzenie wesz\u0142o w \u017cycie 1 sierpnia br., to stosowanie przepis\u00f3w jest roz\u0142o\u017cone na etapy w okresie od 6 miesi\u0119cy do nawet 8 lat, cho\u0107 zasad\u0105 s\u0105 24 miesi\u0105ce liczone od chwili wej\u015bcia w \u017cycie. Te 6 miesi\u0119cy to nieodleg\u0142a przysz\u0142o\u015b\u0107, a dotyczy praktyk zakazanych i dostosowania si\u0119 do tych zakaz\u00f3w. Wprawdzie przepisy \u201esankcyjne\u201d (nawet do 35 mln euro lub 7% globalnego obrotu) maj\u0105 wej\u015b\u0107 dopiero po 12 miesi\u0105cach, ale brak dostosowania mo\u017ce mie\u0107 wysok\u0105 cen\u0119 w postaci utraconej reputacji czy ewentualnych odszkodowa\u0144. <\/p> Wiemy ju\u017c co nieco wi\u0119cej o tym, kogo i w jaki spos\u00f3b (nie)obowi\u0105zuje AI Act \u2013 ale pami\u0119tajmy, diabe\u0142 tkwi w szczeg\u00f3\u0142ach. Czasem mo\u017ce nam si\u0119 wydawa\u0107, \u017ce system nie jest traktowany jako wysokiego ryzyka, ale poniewa\u017c obejmuje profilowanie, to tak w\u0142a\u015bnie b\u0119dzie. Innym razem nasze przeczucie, co do tego, \u017ce mamy pewne konkretne obowi\u0105zki, mo\u017ce zosta\u0107 zaprzeczone w zwi\u0105zku z wyst\u0119powaniem odpowiednich wy\u0142\u0105cze\u0144. Zalecam wi\u0119c ostro\u017cno\u015b\u0107 i skonsultowanie si\u0119 z farmaceut\u0105\u2026 lub prawnikiem. W zale\u017cno\u015bci od preferencji \ud83d\ude42<\/p> <\/p>","protected":false},"excerpt":{"rendered":" Na pocz\u0105tek zagadka \u2013 kogo najbardziej zaboli wej\u015bcie w \u017cycie przepis\u00f3w AI Act? <\/p>\n","protected":false},"author":43,"featured_media":4708,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[402,756,758,754,404],"tags":[],"popular":[],"difficulty-level":[36],"ppma_author":[370],"class_list":["post-4707","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hai-magazine","category-ai_branza","category-biznes","category-hai_premium","category-hai-magazine-2","difficulty-level-easy"],"acf":[],"authors":[{"term_id":370,"user_id":43,"is_guest":0,"slug":"dr-michal-nowakowski","display_name":"dr Micha\u0142 Nowakowski","avatar_url":{"url":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/08\/Michal-Nowakowski.jpeg","url2x":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/08\/Michal-Nowakowski.jpeg"},"first_name":"Micha\u0142","last_name":"Nowakowski","user_url":"","job_title":"","description":"Partner odpowiedzialny za AI & CyberSec w ZP Zackiewicz & Partners, CEO w GovernedAI. "}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4707","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/43"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=4707"}],"version-history":[{"count":3,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4707\/revisions"}],"predecessor-version":[{"id":5941,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4707\/revisions\/5941"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/4708"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=4707"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=4707"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=4707"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=4707"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=4707"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=4707"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\u201eSystem maszynowy, kt\u00f3ry zosta\u0142 zaprojektowany do dzia\u0142ania z r\u00f3\u017cnym poziomem autonomii i kt\u00f3ry mo\u017ce wykazywa\u0107 zdolno\u015b\u0107 adaptacji po wdro\u017ceniu oraz kt\u00f3ry, w celach jawnych lub ukrytych, wnioskuje na podstawie otrzymywanych danych wej\u015bciowych, w jaki spos\u00f3b generowa\u0107 dane wyj\u015bciowe, takie jak prognozy, tre\u015bci, zalecenia lub decyzje, kt\u00f3re mog\u0105 wp\u0142ywa\u0107 na \u015brodowisko fizyczne lub wirtualne\u201d.<\/code> <\/p>![\"\"](\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/aiact1.png\")
<\/p>\u201eNa zasadzie odst\u0119pstwa (\u2026) system sztucznej inteligencji, o kt\u00f3rym mowa w za\u0142\u0105czniku III (to te wskazane explicite jako wysokiego ryzyka), nie jest uznawany za system wysokiego ryzyka, je\u017celi nie stwarza znacz\u0105cego ryzyka szkody dla zdrowia, bezpiecze\u0144stwa lub praw podstawowych os\u00f3b fizycznych, w tym nie wp\u0142ywa w istotny spos\u00f3b na wynik procesu decyzyjnego\u201d. Musimy jednak w takiej sytuacji to w odpowiedni spos\u00f3b udokumentowa\u0107 i dokona\u0107 stosownej rejestracji.<\/code> <\/li>\n\nInnym wy\u0142\u0105czeniem b\u0119dzie to z art. 2 ust. 8, kt\u00f3re stanowi, \u017ce rozporz\u0105dzenie nie ma zastosowania do jakichkolwiek dzia\u0142a\u0144 badawczych, testowych lub rozwojowych dotycz\u0105cych system\u00f3w AI lub modeli AI przed ich wprowadzeniem do obrotu lub oddaniem do u\u017cytku. Takie dzia\u0142ania s\u0105 prowadzone zgodnie z obowi\u0105zuj\u0105cym prawem Unii. Testy w warunkach rzeczywistych nie s\u0105 obj\u0119te tym wy\u0142\u0105czeniem. Wyzwaniem, na kt\u00f3re tutaj natrafimy, b\u0119dzie jednak ocena, czy nasze dzia\u0142ania obejmuj\u0105 rzeczywi\u015bcie obszar badawczy, testowy i rozwojowy. Ale co do zasady tworzenie wewn\u0119trznych sandbox\u00f3w (piaskownic eksperymentalnych) nie b\u0119dzie obj\u0119te AI Act<\/code>.<\/li><\/ul>Naprawd\u0119 nie warto ryzykowa\u0107.<\/h4>