Najpierw wdrażają AI. Potem pytają, czy to legalne

Najpierw pracownicy zaczynają korzystać z publicznego chatbota. Później firma kupuje dostęp zespołowy, podłącza własne dokumenty albo dodaje narzędzie do obsługi klientów. Dopiero na którymś z kolejnych etapów pojawia się pytanie: jakie dane trafiają do systemu i czy wolno je w ten sposób przetwarzać?

Nie jest to wyłącznie hipotetyczny scenariusz. Urząd Ochrony Danych Osobowych przyznaje wprost, że pytanie o zgodność z prawem zwykle pojawia się wtedy, gdy narzędzie AI już działa, a decyzje dotyczące dostawcy i wykorzystywanych danych zostały podjęte wcześniej. Oznacza to, że analiza prawna nie poprzedza wdrożenia. Próbuje je dogonić.

AI działa, ale nikt nie wie, czy przetwarza dane

Skalę problemu pokazuje badanie przeprowadzone przez UODO wśród 492 organizacji. Tylko 16,7 proc. respondentów deklarowało wykorzystywanie AI w codziennej działalności. Kolejne podmioty prowadziły testy, planowały wdrożenia albo były zainteresowane technologią, lecz nie wiedziały, od czego zacząć.

Jednocześnie 38,2 proc. ankietowanych uznało, że używanie systemów AI nie wiąże się z przetwarzaniem danych osobowych. Następne 20,3 proc. nie potrafiło tego ocenić. Łącznie daje to 58,5 proc. organizacji, które nie dostrzegały związku między korzystaniem z AI a danymi osobowymi albo nie były pewne, czy taki związek istnieje.

Jeszcze ciekawiej wyglądają odpowiedzi dotyczące przygotowania do stosowania RODO. Za bardzo dobrze przygotowane uznało się 4,1 proc. organizacji. Odpowiedź „raczej przygotowani” wybrało 25 proc., natomiast 44,9 proc. nie potrafiło ocenić własnej gotowości. Pozostali respondenci uznali swoje organizacje za raczej lub zupełnie nieprzygotowane.

UODO podsumowało te wyniki stwierdzeniem, że 95,9 proc. organizacji jest niegotowych lub niepewnych swojej gotowości. To szeroka interpretacja, ponieważ obejmuje również podmioty, które określiły się jako raczej przygotowane. Znacznie bardziej wymowne pozostają jednak dwie inne liczby: tylko 4,1 proc. respondentów było pewnych dobrego przygotowania, a niemal połowa nie umiała go w ogóle ocenić.

Trzeba przy tym zachować ostrożność. Badanie nie było reprezentatywne, a jego część ilościową zdominował sektor publiczny. Wzięło w niej udział 439 podmiotów publicznych, 39 prywatnych oraz 19 organizacji społecznych i branżowych. Wyników nie można więc automatycznie przenosić na wszystkie polskie firmy. Pokazują jednak mechanizm, który może występować również w biznesie: narzędzia pojawiają się szybciej niż wiedza o ich konsekwencjach prawnych.

Dane osobowe to nie tylko PESEL

Część problemu wynika prawdopodobnie z tego, że dane osobowe wciąż kojarzą się przede wszystkim z nazwiskiem, numerem dokumentu albo adresem. Tymczasem do systemu AI może trafić treść e-maila, CV kandydata, reklamacja klienta, notatka ze spotkania, dokument medyczny, historia rozmowy albo fragment wewnętrznego raportu. Nawet gdy użytkownik usuwa nazwisko, pozostałe informacje mogą pozwolić na ustalenie, kogo dotyczą.

Dane pojawiają się także w wielu miejscach naraz. Mogą znajdować się w poleceniu wpisywanym do modelu, załączonym pliku, historii rozmowy, logach technicznych, bazie wiedzy podłączonej do systemu i w odpowiedzi wygenerowanej przez AI. Sam fakt, że organizacja korzysta z gotowego narzędzia, nie usuwa jej odpowiedzialności za sposób wprowadzania i wykorzystywania informacji.

Europejska Rada Ochrony Danych zwraca uwagę, że nie można z góry zakładać, że model AI jest z natury anonimowy i nie przetwarza danych osobowych. W praktyce trzeba sprawdzić, czy w jego działaniu mogą pojawiać się dane osobowe – na przykład czy model został wytrenowany na takich danych albo czy może je odtwarzać w odpowiedziach. Ocenia się też, czy poprzez odpowiednio sformułowane zapytania da się z niego wydobyć informacje dotyczące konkretnych osób. Nawet korzystanie z zewnętrznego modelu nie oznacza automatycznie, że nie dochodzi do przetwarzania danych osobowych. Każdy taki system należy analizować osobno.

To oznacza, że wybór gotowego rozwiązania dużego dostawcy nie zamyka sprawy. Organizacja nadal musi wiedzieć, jakie dane przekazuje, w jakim celu, na jakiej podstawie prawnej, gdzie są one przechowywane i kto może uzyskać do nich dostęp.

Najważniejsze decyzje zapadają podczas zakupu

Gdy narzędzie już działa, część kluczowych decyzji została podjęta. Wybrano dostawcę, sposób hostowania systemu, model licencyjny i zakres integracji. Niekiedy zaakceptowano również zasady przechowywania historii rozmów, wykorzystywania danych do ulepszania usługi oraz przekazywania ich poza Europejski Obszar Gospodarczy.

Późniejsze wezwanie prawnika lub inspektora ochrony danych nie zawsze pozwala łatwo odwrócić te decyzje. Zmiana może wymagać renegocjowania umowy, przeniesienia danych, rekonfiguracji narzędzia albo rezygnacji z funkcji, wokół której zbudowano już proces pracy.

Francuski organ ochrony danych CNIL – który chyba najbardziej konkretnie podszedł do tego problemu – zaleca przeprowadzenie analizy ryzyka oraz ustalenie zasad zarządzania jeszcze przed wdrożeniem generatywnej AI. Organizacja powinna określić swoją rolę i rolę dostawcy, sprawdzić warunki przekazywania danych oraz ustalić, kto odpowiada za poszczególne operacje. W przypadku usług działających w chmurze zakres odpowiedzialności i dostęp do danych powinny wynikać z umowy, nie z domysłów użytkownika.

W bardziej ryzykownych zastosowaniach konieczne może być przeprowadzenie oceny skutków dla ochrony danych, czyli DPIA. Nie chodzi wyłącznie o stworzenie dokumentu na wypadek kontroli. Taka analiza ma wykazać, jakie zagrożenia powstają, kogo mogą dotknąć i czy można je ograniczyć przed uruchomieniem systemu.

Ryzyk, które pozostaje w cieniu

Nawet dobrze zaplanowane wdrożenie nie rozwiązuje jeszcze jednego problemu. Organizacja może kontrolować zakupiony system, ale nie zawsze wie, z jakich narzędzi korzystają jej pracownicy.

W raporcie UODO pojawia się pojęcie shadow AI, czyli niekontrolowanego wykorzystywania sztucznej inteligencji poza oficjalnymi procedurami. Pracownik może wkleić dokument do publicznego chatbota, ponieważ chce szybciej przygotować podsumowanie. Może przesłać dane klienta, aby wygenerować odpowiedź, albo użyć zewnętrznego narzędzia do analizy kandydatów, mimo że firma nigdy go formalnie nie zatwierdziła.

W takiej sytuacji organizacja może nawet nie wiedzieć, że doszło do nowego sposobu przetwarzania danych. Nie zna dostawcy, nie sprawdziła jego warunków, nie ustaliła podstawy prawnej i nie wie, czy informacje są przechowywane. Formalna polityka bezpieczeństwa obejmuje jedno środowisko, a rzeczywista praca odbywa się w zupełnie innym.

Zakaz korzystania z AI zwykle nie rozwiązuje tego problemu. Może jedynie przenieść go głębiej do szarej strefy. Potrzebne są zatwierdzone narzędzia, jasne zasady dotyczące danych oraz szkolenia pokazujące nie tylko, czego nie wolno robić, ale również dlaczego dane zastosowanie tworzy ryzyko.

Gdy analiza przychodzi za późno

Przykładem odwróconej kolejności może być sprawa chatbota My AI uruchomionego przez Snap. Usługa została udostępniona płatnym użytkownikom Snapchata w lutym 2023 roku, a niecałe dwa miesiące później wszystkim użytkownikom platformy.

Brytyjski organ ochrony danych ICO wszczął postępowanie po uruchomieniu usługi, ponieważ miał zastrzeżenia do sposobu oceny zagrożeń dla prywatności, szczególnie w przypadku dzieci. Regulator wydał wstępne zawiadomienie dotyczące możliwego naruszenia przepisów, a Snap przeprowadził następnie pogłębioną analizę i wprowadził dodatkowe środki ograniczające ryzyko.

Ostatecznie ICO uznał zmienioną ocenę skutków za zgodną z wymaganiami brytyjskiego RODO. Nie stwierdził też naruszenia obowiązku konsultacji z regulatorem przed uruchomieniem usługi. Nie zmienia to jednak najważniejszego elementu tej historii: dokładniejsza ocena i dodatkowe zabezpieczenia pojawiły się dopiero po wejściu produktu na rynek i rozpoczęciu postępowania.

To nie jest bezpośredni precedens dla polskich organizacji. Pokazuje jednak, że analiza wykonana po wdrożeniu może prowadzić do konieczności przebudowania zasad działania systemu, gdy korzystają już z niego użytkownicy.

Co sprawdzić przed decyzją

W sierpniu UODO opublikował cztery zestawy pytań, które organizacje powinny zadać przed wdrożeniem AI. Oddzielne wersje przygotowano dla małych i średnich przedsiębiorstw, sektora publicznego oraz pozostałych podmiotów. Powstała również wersja rozszerzona, uwzględniająca między innymi klasyfikację ryzyka na podstawie AI Act i ocenę wpływu na prawa podstawowe.

Pytania dotyczą między innymi celu wdrożenia, kategorii wykorzystywanych danych, ich źródeł, zasad przechowywania, umowy z dostawcą, przekazywania informacji poza EOG, kontroli wyników oraz udziału człowieka w podejmowaniu decyzji. Organizacja powinna też ustalić, czy pracownik sprawdza wynik wygenerowany przez AI, zanim zostanie on wykorzystany wobec kandydata, klienta lub innej osoby.

Sama checklista nie przesądza jednak o zgodności. UODO wyraźnie zaznacza, że nie zastępuje ona analizy ryzyka, DPIA ani oceny wpływu na prawa podstawowe. Ma przede wszystkim uruchomić właściwy proces w odpowiednim momencie.

I właśnie moment jest tu kluczowy. Pytania o cel, dane, dostawcę i odpowiedzialność powinny paść przed zakupem i uruchomieniem systemu, ponieważ odpowiedzi mogą zdecydować o tym, czy narzędzie w ogóle powinno zostać wdrożone.

Dodaj ocenę zgodności do procesu

Wdrożenie AI bywa przedstawiane jako decyzja technologiczna: trzeba wybrać model, kupić licencje, podłączyć dane i przeszkolić pracowników. W rzeczywistości jest to także zaprojektowanie nowego procesu przetwarzania informacji.

Dlatego odpowiedzialność nie może zaczynać się w dziale prawnym dopiero po podpisaniu umowy. W analizie powinni uczestniczyć ludzie odpowiedzialni za technologię, bezpieczeństwo, dane, zakupy, konkretny proces biznesowy oraz ochronę danych osobowych. Każdy z nich widzi inny fragment ryzyka.

Najważniejsze pytanie nie brzmi więc, czy firma ma politykę korzystania z AI. Ważniejsze jest to, czy potrafi zatrzymać wdrożenie do czasu wyjaśnienia, jakie dane będą przetwarzane, na jakiej podstawie i z jakimi konsekwencjami.