Jeszcze niedawno najwa\u017cniejsze pytanie przy wyborze modelu AI brzmia\u0142o: kt\u00f3ry jest najlepszy? Kt\u00f3ry lepiej pisze kod, analizuje dokumenty, rozwi\u0105zuje problemy i radzi sobie z coraz bardziej z\u0142o\u017conymi zadaniami?<\/p>
Dzi\u015b niekt\u00f3re firmy zaczynaj\u0105 zadawa\u0107 inne pytanie: co dok\u0142adnie stanie si\u0119 z informacj\u0105, kt\u00f3r\u0105 przeka\u017cemy temu modelowi?<\/p>
Palantir nie chce udost\u0119pni\u0107 cz\u0119\u015bci najbardziej zaawansowanych modeli Anthropic swoim klientom bez dodatkowych gwarancji dotycz\u0105cych przechowywania danych. Nvidia ogranicza u\u017cywanie Claude przy bardziej wra\u017cliwych zadaniach. Booz Allen Hamilton zabroni\u0142 wykorzystywania komercyjnych wersji Claude przy cz\u0119\u015bci w\u0142asnych prac z obszaru cyberbezpiecze\u0144stwa. Jak poda\u0142 Reuters<\/mark><\/a>, wsp\u00f3lnym powodem s\u0105 obawy dotycz\u0105ce bezpiecze\u0144stwa danych i ochrony w\u0142asno\u015bci intelektualnej.<\/p> To nie oznacza nag\u0142ego kryzysu zaufania do sztucznej inteligencji. Pokazuje jednak problem, kt\u00f3ry wraz z rozwojem AI prawdopodobnie b\u0119dzie stawa\u0142 si\u0119 coraz wa\u017cniejszy.<\/p> Bo im wi\u0119cej AI potrafi zrobi\u0107 dla firmy, tym wi\u0119cej firma musi jej najpierw powiedzie\u0107.<\/p> Sp\u00f3r nabra\u0142 znaczenia po zmianie zasad dotycz\u0105cych najbardziej zaawansowanych modeli Anthropic. Firma wprowadzi\u0142a kategori\u0119 tzw. Covered Models. W ich przypadku prompty przesy\u0142ane przez u\u017cytkownik\u00f3w biznesowych i odpowiedzi modelu s\u0105 przechowywane przez 30 dni. Zasada obejmuje r\u00f3wnie\u017c organizacje, kt\u00f3re wcze\u015bniej korzysta\u0142y z rozwi\u0105zania Zero Data Retention, czyli ZDR. W takim trybie dane nie s\u0105 zachowywane przez dostawc\u0119 po obs\u0142u\u017ceniu zapytania.<\/p> Anthropic t\u0142umaczy w swojej dokumentacji dotycz\u0105cej Covered Models<\/a><\/mark>, \u017ce zmiana obejmuje organizacje korzystaj\u0105ce z ZDR bezpo\u015brednio przez Claude, ale tak\u017ce przez wybrane platformy chmurowe.<\/p> Dla wi\u0119kszo\u015bci u\u017cytkownik\u00f3w r\u00f3\u017cnica mo\u017ce wydawa\u0107 si\u0119 technicznym szczeg\u00f3\u0142em. Dla firmy pracuj\u0105cej z poufnymi informacjami jest jednak zasadnicza.<\/p> Je\u017celi pracownik prosi model o poprawienie zwyk\u0142ego maila, trzydziestodniowa retencja prawdopodobnie nie b\u0119dzie kluczowym problemem. Je\u017celi jednak programista przesy\u0142a fragment kodu projektowanego produktu, analityk pracuje na niepublicznych danych finansowych, a specjalista bezpiecze\u0144stwa przekazuje modelowi opis niewykrytej jeszcze podatno\u015bci, sytuacja wygl\u0105da zupe\u0142nie inaczej.<\/p> Prompt przestaje by\u0107 tylko pytaniem. Staje si\u0119 cz\u0119\u015bci\u0105 firmowej dokumentacji.<\/p> Wed\u0142ug Reutersa Nvidia w\u0142a\u015bnie dlatego ogranicza zastosowanie modeli Anthropic przy bardziej wra\u017cliwych zadaniach. Palantir poszed\u0142 dalej i oczekuje od Anthropic gwarancji ZDR, kt\u00f3rej dostawca nie m\u00f3g\u0142by p\u00f3\u017aniej jednostronnie wycofa\u0107. Booz Allen zakaza\u0142 natomiast stosowania komercyjnego Claude do cz\u0119\u015bci w\u0142asnych prac zwi\u0105zanych z cyberbezpiecze\u0144stwem.<\/p> Firmy nie rezygnuj\u0105 wi\u0119c z AI. Zaczynaj\u0105 natomiast okre\u015bla\u0107, czego AI nie mo\u017ce zobaczy\u0107.<\/p> Przez pierwsze lata boomu na generatywn\u0105 AI dyskusja o danych koncentrowa\u0142a si\u0119 przede wszystkim na ryzyku, \u017ce pracownik bez zastanowienia wklei do publicznego czata fragment umowy, dane klienta albo poufny dokument. Problem nie znikn\u0105\u0142, ale skala wykorzystania AI si\u0119 zmieni\u0142a.<\/p> Modele nie s\u0142u\u017c\u0105 ju\u017c tylko do pisania tekst\u00f3w czy podsumowywania dokument\u00f3w. Dostaj\u0105 kod \u017ar\u00f3d\u0142owy, projekty produkt\u00f3w, wyniki bada\u0144, dane finansowe, wewn\u0119trzne procedury i informacje o klientach. Coraz cz\u0119\u015bciej pod\u0142\u0105czane s\u0105 r\u00f3wnie\u017c do innych system\u00f3w firmy, a agenci AI otrzymuj\u0105 mo\u017cliwo\u015b\u0107 korzystania z baz danych, aplikacji czy repozytori\u00f3w kodu.<\/p> W takim uk\u0142adzie warto\u015b\u0107 informacji przekazywanych modelowi mo\u017ce by\u0107 znacznie wi\u0119ksza ni\u017c warto\u015b\u0107 jego odpowiedzi. Co istotne, przechowywanie danych nie jest tym samym, co wykorzystywanie ich do trenowania modelu.<\/p> Anthropic deklaruje w polityce dotycz\u0105cej produkt\u00f3w komercyjnych<\/a><\/mark>, \u017ce dane wej\u015bciowe i odpowiedzi pochodz\u0105ce z Claude for Work, API czy Claude Gov domy\u015blnie nie s\u0105 wykorzystywane do trenowania modeli. Mo\u017ce si\u0119 to zmieni\u0107, je\u017celi klient sam wyrazi zgod\u0119, mi\u0119dzy innymi przekazuj\u0105c rozmow\u0119 jako feedback. To rozr\u00f3\u017cnienie jest wa\u017cne, bo w publicznej dyskusji cz\u0119sto miesza si\u0119 kilka r\u00f3\u017cnych kwestii.<\/p> Pierwsza to retencja: czy dostawca zachowuje tre\u015b\u0107 promptu i odpowiedzi, a je\u015bli tak, to jak d\u0142ugo. Druga to trening: czy te dane mog\u0105 p\u00f3\u017aniej zosta\u0107 wykorzystane do ulepszania modeli. Trzecia to dost\u0119p: kto i w jakich okoliczno\u015bciach mo\u017ce zobaczy\u0107 przechowywan\u0105 tre\u015b\u0107. I wreszcie czwarta kwestia: monitoring bezpiecze\u0144stwa, czyli analiza sposobu korzystania z modeli w celu wykrywania nadu\u017cy\u0107.<\/p> Dopiero po rozdzieleniu tych element\u00f3w wida\u0107, gdzie naprawd\u0119 le\u017cy problem.<\/p> Najprostsze rozwi\u0105zanie brzmia\u0142aby: skoro firmy nie chc\u0105, \u017ceby ich dane by\u0142y przechowywane, dostawca powinien po prostu ich nie zapisywa\u0107. Tyle \u017ce z perspektywy Anthropic w\u0142a\u015bnie tutaj zaczyna si\u0119 problem.<\/p> Firma t\u0142umaczy, \u017ce powa\u017cne nadu\u017cycia mog\u0105 ujawnia\u0107 si\u0119 dopiero wtedy, gdy system bezpiecze\u0144stwa analizuje wiele kolejnych interakcji. Jako przyk\u0142ady podaje mi\u0119dzy innymi kampanie szpiegowskie i pr\u00f3by wymuszenia danych. Pojedynczy prompt mo\u017ce wygl\u0105da\u0107 niewinnie. Dopiero seria zapyta\u0144 pokazuje, co w\u0142a\u015bciwie pr\u00f3buje zrobi\u0107 u\u017cytkownik.<\/p> Dlatego Anthropic wymaga dla Covered Models trzydziestodniowej retencji prompt\u00f3w i odpowiedzi.<\/p> Wed\u0142ug firmy jej pracownicy domy\u015blnie nie mog\u0105 czyta\u0107 takich rozm\u00f3w. Dost\u0119p cz\u0142owieka ma nast\u0119powa\u0107 tylko kontrolowan\u0105 \u015bcie\u017ck\u0105, na przyk\u0142ad wtedy, gdy automatyczne systemy bezpiecze\u0144stwa oznacz\u0105 tre\u015b\u0107 jako potencjalnie niebezpieczn\u0105. Mog\u0105 j\u0105 przegl\u0105da\u0107 tylko zatwierdzeni pracownicy, a ka\u017cde uzyskanie dost\u0119pu jest rejestrowane. Po 30 dniach dane s\u0105 automatycznie usuwane, chyba \u017ce zosta\u0142y oznaczone w zwi\u0105zku z kwestiami bezpiecze\u0144stwa albo firma musi zachowa\u0107 je ze wzgl\u0119d\u00f3w prawnych.<\/p> Z perspektywy bezpiecze\u0144stwa modeli ma to sens. Problem polega na tym, \u017ce z perspektywy bezpiecze\u0144stwa klienta r\u00f3wnie logiczne mo\u017ce by\u0107 dok\u0142adnie przeciwne podej\u015bcie.<\/p> Wyobra\u017amy sobie firm\u0119, kt\u00f3ra opracowuje technologi\u0119 wart\u0105 miliardy dolar\u00f3w. Jej pracownicy chc\u0105 u\u017cy\u0107 najlepszego dost\u0119pnego modelu do analizy kodu. Dostawca AI m\u00f3wi: musz\u0119 przez pewien czas zachowa\u0107 te dane, poniewa\u017c tylko w ten spos\u00f3b mog\u0119 wykrywa\u0107 powa\u017cne nadu\u017cycia. Klient odpowiada: w\u0142a\u015bnie dlatego, \u017ce ten kod jest tak cenny, nie chc\u0119, \u017ceby istnia\u0142a jego dodatkowa kopia poza \u015brodowiskiem, nad kt\u00f3rym mam kontrol\u0119.<\/p> Obie strony pr\u00f3buj\u0105 zwi\u0119kszy\u0107 bezpiecze\u0144stwo. Ale nie tego samego.<\/p> Anthropic chce ogranicza\u0107 ryzyko niebezpiecznego wykorzystania swoich modeli. Przedsi\u0119biorstwo chroni w\u0142asno\u015b\u0107 intelektualn\u0105, tajemnice handlowe i dane klient\u00f3w przed utrat\u0105 kontroli. Ka\u017cde dodatkowe miejsce przechowywania informacji oznacza bowiem dodatkowy element infrastruktury, kt\u00f3ry trzeba zabezpieczy\u0107. Nawet je\u015bli dostawca deklaruje bardzo wysoki poziom ochrony, dla cz\u0119\u015bci organizacji mo\u017ce obowi\u0105zywa\u0107 prosta zasada: najbardziej wra\u017cliwej informacji najlepiej nie przechowywa\u0107 poza w\u0142asnym \u015brodowiskiem w og\u00f3le.<\/p> I w\u0142a\u015bnie dlatego ZDR przestaje by\u0107 niezrozumia\u0142ym skr\u00f3tem z umowy z dostawc\u0105 technologii a mo\u017ce sta\u0107 si\u0119 jednym z warunk\u00f3w wdro\u017cenia AI.<\/p> Paradoks jest tym wi\u0119kszy, \u017ce rozw\u00f3j sztucznej inteligencji zmierza w przeciwnym kierunku.<\/p> Modele maj\u0105 pami\u0119ta\u0107 kontekst, wykonywa\u0107 coraz d\u0142u\u017csze zadania, korzysta\u0107 z wielu narz\u0119dzi i obserwowa\u0107 kolejne etapy procesu. To w\u0142a\u015bnie dzi\u0119ki temu mog\u0105 przejmowa\u0107 bardziej skomplikowan\u0105 prac\u0119.<\/p> Jednocze\u015bnie najwi\u0119ksi klienci biznesowi mog\u0105 coraz cz\u0119\u015bciej oczekiwa\u0107, aby dostawca modelu pami\u0119ta\u0142 mo\u017cliwie najmniej.<\/p> Nie jest to problem wy\u0142\u0105cznie Anthropic. OpenAI og\u0142osi\u0142o w sierpniu rozszerzenie dost\u0119pu do Zero Data Retention dla najbardziej zaawansowanych modeli. Firma deklaruje, \u017ce w przypadku kwalifikuj\u0105cych si\u0119 klient\u00f3w API nie zachowuje prompt\u00f3w ani odpowiedzi po obs\u0142u\u017ceniu \u017c\u0105dania, a dane klient\u00f3w biznesowych nie s\u0105 u\u017cywane do treningu bez ich wyra\u017anej zgody. OpenAI zapowiedzia\u0142o r\u00f3wnie\u017c Private Safety Processing<\/a><\/mark>, czyli mechanizm pozwalaj\u0105cy wykrywa\u0107 niebezpieczne wzorce obejmuj\u0105ce wiele interakcji bez udost\u0119pniania ich tre\u015bci pracownikom firmy.<\/p> To interesuj\u0105cy kierunek, bo pr\u00f3buje pogodzi\u0107 dwa sprzeczne wymagania: analizowa\u0107 zachowanie u\u017cytkownika w czasie, a jednocze\u015bnie nie odbiera\u0107 przedsi\u0119biorstwu kontroli nad danymi.<\/p>AI, kt\u00f3rej nie mo\u017cna pokaza\u0107 wszystkiego<\/h4>
Prompt mo\u017ce by\u0107 wart wi\u0119cej ni\u017c odpowied\u017a<\/h4>
Dlaczego AI chce pami\u0119ta\u0107?<\/h4>
Bezpiecze\u0144stwo kontra bezpiecze\u0144stwo<\/h4>
Pami\u0119\u0107 jako problem, nie zaleta<\/h2>