Najpierw pracownicy zaczynaj\u0105 korzysta\u0107 z publicznego chatbota. P\u00f3\u017aniej firma kupuje dost\u0119p zespo\u0142owy, pod\u0142\u0105cza w\u0142asne dokumenty albo dodaje narz\u0119dzie do obs\u0142ugi klient\u00f3w. Dopiero na kt\u00f3rym\u015b z kolejnych etap\u00f3w pojawia si\u0119 pytanie: jakie dane trafiaj\u0105 do systemu i czy wolno je w ten spos\u00f3b przetwarza\u0107?<\/p>
Nie jest to wy\u0142\u0105cznie hipotetyczny scenariusz. Urz\u0105d Ochrony Danych Osobowych przyznaje wprost<\/mark><\/a>, \u017ce pytanie o zgodno\u015b\u0107 z prawem zwykle pojawia si\u0119 wtedy, gdy narz\u0119dzie AI ju\u017c dzia\u0142a, a decyzje dotycz\u0105ce dostawcy i wykorzystywanych danych zosta\u0142y podj\u0119te wcze\u015bniej. Oznacza to, \u017ce analiza prawna nie poprzedza wdro\u017cenia. Pr\u00f3buje je dogoni\u0107.<\/p> Skal\u0119 problemu pokazuje badanie przeprowadzone przez UODO<\/mark><\/a> w\u015br\u00f3d 492 organizacji. Tylko 16,7 proc. respondent\u00f3w deklarowa\u0142o wykorzystywanie AI w codziennej dzia\u0142alno\u015bci. Kolejne podmioty prowadzi\u0142y testy, planowa\u0142y wdro\u017cenia albo by\u0142y zainteresowane technologi\u0105, lecz nie wiedzia\u0142y, od czego zacz\u0105\u0107.<\/p> Jednocze\u015bnie 38,2 proc. ankietowanych uzna\u0142o, \u017ce u\u017cywanie system\u00f3w AI nie wi\u0105\u017ce si\u0119 z przetwarzaniem danych osobowych. Nast\u0119pne 20,3 proc. nie potrafi\u0142o tego oceni\u0107. \u0141\u0105cznie daje to 58,5 proc. organizacji, kt\u00f3re nie dostrzega\u0142y zwi\u0105zku mi\u0119dzy korzystaniem z AI a danymi osobowymi albo nie by\u0142y pewne, czy taki zwi\u0105zek istnieje.<\/p> Jeszcze ciekawiej wygl\u0105daj\u0105 odpowiedzi dotycz\u0105ce przygotowania do stosowania RODO. Za bardzo dobrze przygotowane uzna\u0142o si\u0119 4,1 proc. organizacji. Odpowied\u017a \u201eraczej przygotowani\u201d wybra\u0142o 25 proc., natomiast 44,9 proc. nie potrafi\u0142o oceni\u0107 w\u0142asnej gotowo\u015bci. Pozostali respondenci uznali swoje organizacje za raczej lub zupe\u0142nie nieprzygotowane.<\/p> UODO podsumowa\u0142o te wyniki stwierdzeniem, \u017ce 95,9 proc. organizacji jest niegotowych lub niepewnych swojej gotowo\u015bci. To szeroka interpretacja, poniewa\u017c obejmuje r\u00f3wnie\u017c podmioty, kt\u00f3re okre\u015bli\u0142y si\u0119 jako raczej przygotowane. Znacznie bardziej wymowne pozostaj\u0105 jednak dwie inne liczby: tylko 4,1 proc. respondent\u00f3w by\u0142o pewnych dobrego przygotowania, a niemal po\u0142owa nie umia\u0142a go w og\u00f3le oceni\u0107.<\/p> Trzeba przy tym zachowa\u0107 ostro\u017cno\u015b\u0107. Badanie nie by\u0142o reprezentatywne, a jego cz\u0119\u015b\u0107 ilo\u015bciow\u0105 zdominowa\u0142 sektor publiczny. Wzi\u0119\u0142o w niej udzia\u0142 439 podmiot\u00f3w publicznych, 39 prywatnych oraz 19 organizacji spo\u0142ecznych i bran\u017cowych. Wynik\u00f3w nie mo\u017cna wi\u0119c automatycznie przenosi\u0107 na wszystkie polskie firmy. Pokazuj\u0105 jednak mechanizm, kt\u00f3ry mo\u017ce wyst\u0119powa\u0107 r\u00f3wnie\u017c w biznesie: narz\u0119dzia pojawiaj\u0105 si\u0119 szybciej ni\u017c wiedza o ich konsekwencjach prawnych.<\/p> Cz\u0119\u015b\u0107 problemu wynika prawdopodobnie z tego, \u017ce dane osobowe wci\u0105\u017c kojarz\u0105 si\u0119 przede wszystkim z nazwiskiem, numerem dokumentu albo adresem. Tymczasem do systemu AI mo\u017ce trafi\u0107 tre\u015b\u0107 e-maila, CV kandydata, reklamacja klienta, notatka ze spotkania, dokument medyczny, historia rozmowy albo fragment wewn\u0119trznego raportu. Nawet gdy u\u017cytkownik usuwa nazwisko, pozosta\u0142e informacje mog\u0105 pozwoli\u0107 na ustalenie, kogo dotycz\u0105.<\/p> Dane pojawiaj\u0105 si\u0119 tak\u017ce w wielu miejscach naraz. Mog\u0105 znajdowa\u0107 si\u0119 w poleceniu wpisywanym do modelu, za\u0142\u0105czonym pliku, historii rozmowy, logach technicznych, bazie wiedzy pod\u0142\u0105czonej do systemu i w odpowiedzi wygenerowanej przez AI. Sam fakt, \u017ce organizacja korzysta z gotowego narz\u0119dzia, nie usuwa jej odpowiedzialno\u015bci za spos\u00f3b wprowadzania i wykorzystywania informacji.<\/p> Europejska Rada Ochrony Danych<\/mark><\/a> zwraca uwag\u0119, \u017ce nie mo\u017cna z g\u00f3ry zak\u0142ada\u0107, \u017ce model AI jest z natury anonimowy i nie przetwarza danych osobowych. W praktyce trzeba sprawdzi\u0107, czy w jego dzia\u0142aniu mog\u0105 pojawia\u0107 si\u0119 dane osobowe \u2013 na przyk\u0142ad czy model zosta\u0142 wytrenowany na takich danych albo czy mo\u017ce je odtwarza\u0107 w odpowiedziach. Ocenia si\u0119 te\u017c, czy poprzez odpowiednio sformu\u0142owane zapytania da si\u0119 z niego wydoby\u0107 informacje dotycz\u0105ce konkretnych os\u00f3b. Nawet korzystanie z zewn\u0119trznego modelu nie oznacza automatycznie, \u017ce nie dochodzi do przetwarzania danych osobowych. Ka\u017cdy taki system nale\u017cy analizowa\u0107 osobno.<\/p> To oznacza, \u017ce wyb\u00f3r gotowego rozwi\u0105zania du\u017cego dostawcy nie zamyka sprawy. Organizacja nadal musi wiedzie\u0107, jakie dane przekazuje, w jakim celu, na jakiej podstawie prawnej, gdzie s\u0105 one przechowywane i kto mo\u017ce uzyska\u0107 do nich dost\u0119p.<\/p> Gdy narz\u0119dzie ju\u017c dzia\u0142a, cz\u0119\u015b\u0107 kluczowych decyzji zosta\u0142a podj\u0119ta. Wybrano dostawc\u0119, spos\u00f3b hostowania systemu, model licencyjny i zakres integracji. Niekiedy zaakceptowano r\u00f3wnie\u017c zasady przechowywania historii rozm\u00f3w, wykorzystywania danych do ulepszania us\u0142ugi oraz przekazywania ich poza Europejski Obszar Gospodarczy.<\/p> P\u00f3\u017aniejsze wezwanie prawnika lub inspektora ochrony danych nie zawsze pozwala \u0142atwo odwr\u00f3ci\u0107 te decyzje. Zmiana mo\u017ce wymaga\u0107 renegocjowania umowy, przeniesienia danych, rekonfiguracji narz\u0119dzia albo rezygnacji z funkcji, wok\u00f3\u0142 kt\u00f3rej zbudowano ju\u017c proces pracy.<\/p> Francuski organ ochrony danych CNIL \u2013 kt\u00f3ry chyba najbardziej konkretnie podszed\u0142 do tego problemu \u2013 zaleca przeprowadzenie analizy ryzyka oraz ustalenie zasad zarz\u0105dzania jeszcze przed wdro\u017ceniem generatywnej AI<\/mark><\/a>. Organizacja powinna okre\u015bli\u0107 swoj\u0105 rol\u0119 i rol\u0119 dostawcy, sprawdzi\u0107 warunki przekazywania danych oraz ustali\u0107, kto odpowiada za poszczeg\u00f3lne operacje. W przypadku us\u0142ug dzia\u0142aj\u0105cych w chmurze zakres odpowiedzialno\u015bci i dost\u0119p do danych powinny wynika\u0107 z umowy, nie z domys\u0142\u00f3w u\u017cytkownika.<\/p> W bardziej ryzykownych zastosowaniach konieczne mo\u017ce by\u0107 przeprowadzenie oceny skutk\u00f3w dla ochrony danych, czyli DPIA. Nie chodzi wy\u0142\u0105cznie o stworzenie dokumentu na wypadek kontroli. Taka analiza ma wykaza\u0107, jakie zagro\u017cenia powstaj\u0105, kogo mog\u0105 dotkn\u0105\u0107 i czy mo\u017cna je ograniczy\u0107 przed uruchomieniem systemu.<\/p> Nawet dobrze zaplanowane wdro\u017cenie nie rozwi\u0105zuje jeszcze jednego problemu. Organizacja mo\u017ce kontrolowa\u0107 zakupiony system, ale nie zawsze wie, z jakich narz\u0119dzi korzystaj\u0105 jej pracownicy.<\/p> W raporcie UODO pojawia si\u0119 poj\u0119cie shadow AI, czyli niekontrolowanego wykorzystywania sztucznej inteligencji poza oficjalnymi procedurami. Pracownik mo\u017ce wklei\u0107 dokument do publicznego chatbota, poniewa\u017c chce szybciej przygotowa\u0107 podsumowanie. Mo\u017ce przes\u0142a\u0107 dane klienta, aby wygenerowa\u0107 odpowied\u017a, albo u\u017cy\u0107 zewn\u0119trznego narz\u0119dzia do analizy kandydat\u00f3w, mimo \u017ce firma nigdy go formalnie nie zatwierdzi\u0142a.<\/p> W takiej sytuacji organizacja mo\u017ce nawet nie wiedzie\u0107, \u017ce dosz\u0142o do nowego sposobu przetwarzania danych. Nie zna dostawcy, nie sprawdzi\u0142a jego warunk\u00f3w, nie ustali\u0142a podstawy prawnej i nie wie, czy informacje s\u0105 przechowywane. Formalna polityka bezpiecze\u0144stwa obejmuje jedno \u015brodowisko, a rzeczywista praca odbywa si\u0119 w zupe\u0142nie innym.<\/p> Zakaz korzystania z AI zwykle nie rozwi\u0105zuje tego problemu. Mo\u017ce jedynie przenie\u015b\u0107 go g\u0142\u0119biej do szarej strefy. Potrzebne s\u0105 zatwierdzone narz\u0119dzia, jasne zasady dotycz\u0105ce danych oraz szkolenia pokazuj\u0105ce nie tylko, czego nie wolno robi\u0107, ale r\u00f3wnie\u017c dlaczego dane zastosowanie tworzy ryzyko.<\/p> Przyk\u0142adem odwr\u00f3conej kolejno\u015bci mo\u017ce by\u0107 sprawa chatbota My AI uruchomionego przez Snap. Us\u0142uga zosta\u0142a udost\u0119pniona p\u0142atnym u\u017cytkownikom Snapchata w lutym 2023 roku, a nieca\u0142e dwa miesi\u0105ce p\u00f3\u017aniej wszystkim u\u017cytkownikom platformy.<\/p>AI dzia\u0142a, ale nikt nie wie, czy przetwarza dane<\/h4>
Dane osobowe to nie tylko PESEL<\/h4>
Najwa\u017cniejsze decyzje zapadaj\u0105 podczas zakupu<\/h4>
Ryzyk, kt\u00f3re pozostaje w cieniu<\/h4>
Gdy analiza przychodzi za p\u00f3\u017ano<\/h4>