{"id":4582,"date":"2024-11-08T08:53:26","date_gmt":"2024-11-08T07:53:26","guid":{"rendered":"https:\/\/haimagazine.com\/?p=4582"},"modified":"2025-06-26T11:37:30","modified_gmt":"2025-06-26T09:37:30","slug":"metoda-spadku-gradientu","status":"publish","type":"post","link":"https:\/\/haimagazine.com\/pl\/hai-magazine\/metoda-spadku-gradientu\/","title":{"rendered":"\ud83d\udd12 Metoda spadku gradientu"},"content":{"rendered":"

W szczeg\u00f3lno\u015bci modele j\u0119zykowe to narz\u0119dzia oparte na sztucznych sieciach neuronowych, kt\u00f3re, m\u00f3wi\u0105c w uproszczeniu, zosta\u0142y nauczone, jak generowa\u0107 tekst. Uczenie takich sieci polega na znajdowaniu konkretnych liczb \u2013 warto\u015bci wag (parametr\u00f3w) przypisanych do po\u0142\u0105cze\u0144 pomi\u0119dzy jej neuronami, dla kt\u00f3rych jako\u015b\u0107 wygenerowanych tekst\u00f3w, mierzona pewn\u0105 funkcj\u0105 straty (zob. artyku\u0142 Funkcja straty w nr 1 \u201ehAI Magazine\u201d), jest mo\u017cliwie najwi\u0119ksza. Jak znale\u017a\u0107 odpowiednie warto\u015bci? Czyli jak optymalizowa\u0107 t\u0119 funkcj\u0119 straty? No i tu k\u0142ania si\u0119 metoda spadku gradientu, kt\u00f3ra jest fundamentem uczenia wsp\u00f3\u0142czesnych sztucznych sieci neuronowych.<\/p>

Pochodna <\/mark><\/strong><\/h4>

Pochodna funkcji opisuje jej zmienno\u015b\u0107, a precyzuj\u0105c: pochodna w konkretnym punkcie to wielko\u015b\u0107 opisuj\u0105ca nachylenie wykresu funkcji w tym punkcie. Abstrahuj\u0105c od formalnego wzoru, pochodn\u0105 naj\u0142atwiej opisa\u0107 geometrycznie. Je\u017celi spojrzymy na wykres rozwa\u017canej funkcji, to pytanie, na kt\u00f3re musimy odpowiedzie\u0107, brzmi: jak opisa\u0107 nachylenie tej linii (tego wykresu) w konkretnym punkcie? Aby na nie odpowiedzie\u0107, pos\u0142u\u017cymy si\u0119 lini\u0105 prost\u0105 stykaj\u0105c\u0105 si\u0119 z wykresem funkcji w danym punkcie, kt\u00f3r\u0105 nazywa si\u0119 po prostu \u201estyczn\u0105\u201d. W\u00f3wczas nachylenie tej prostej odzwierciedla nachylenie ca\u0142ego wykresu w tym konkretnym punkcie styku i jest to po prostu wsp\u00f3\u0142czynnik kierunkowy tej linii (w r\u00f3wnaniu funkcji = ax+b jest to opisane liter\u0105 \u201ea\u201d).<\/p>

\"\"<\/figure>

Rys 1. Styczna do wykresu funkcji f w punkcie x0 to prosta, w kt\u00f3rej a = f\u2019(x0<\/sub>)<\/em><\/p>

Zaznaczmy, \u017ce powy\u017csze poj\u0119cie odnosi si\u0119 do konkretnego punktu na wykresie (konkretnej warto\u015bci argumentu x). Natomiast gdy m\u00f3wimy o pochodnej, nie precyzuj\u0105c konkretnego punktu, to mamy na my\u015bli funkcj\u0119 opisuj\u0105c\u0105 dowolne nachylenie, w zale\u017cno\u015bci od podanego argumentu funkcji. Przyk\u0142adowo dla funkcji f(x) = x2 + 2x + 1 jej pochodna to: f\u2019(x) = 2x + 2. St\u0105d mo\u017cemy dowiedzie\u0107 si\u0119, jaka jest pochodna tej funkcji w dowolnym punkcie, np. dla x = 3 to: f\u2019(3) = 2*3 + 2 = 8.<\/p>

Gradient<\/mark><\/strong><\/h4>

Przejdziemy teraz do sytuacji, gdy chcemy analizowa\u0107 zmienno\u015b\u0107 funkcji wielowymiarowej, czyli o wielu zmiennych. W tym scenariuszu nie mo\u017cna m\u00f3wi\u0107 o og\u00f3lnym nachyleniu wykresu funkcji w jakim\u015b punkcie, poniewa\u017c zale\u017cy ono od tego, w jakim kierunku z danego punktu \u201espojrzymy\u201d. Je\u017celi wykres funkcji by\u0142by stoj\u0105cym pionowo sto\u017ckiem i wybraliby\u015bmy jaki\u015b punkt na jego zboczu, to spojrzawszy w stron\u0119 szczytu sto\u017cka nachylenie b\u0119dzie mia\u0142o jak\u0105\u015b dodatni\u0105 warto\u015b\u0107 (zale\u017cn\u0105 od stromo\u015bci sto\u017cka), a je\u015bli spojrzymy \u201ew bok\u201d, to nachylenie b\u0119dzie zerowe, poniewa\u017c \u201eid\u0105c\u201d w lewo lub w prawo z danego punktu, b\u0119dziemy ca\u0142y czas na tej samej wysoko\u015bci.<\/p>

Natomiast w praktycznej matematyce (czyli w szczeg\u00f3lno\u015bci w obszarze sztucznej inteligencji), raczej interesuje nas nie tyle nachylenia w jakim\u015b konkretnym kierunku, ile okre\u015blenie kierunku, w kt\u00f3rym nachylenie jest najwi\u0119ksze. I ten kierunek jest czym\u015b, czego dostarcza nam gradient funkcji. A formalna definicja gradientu wygl\u0105da nast\u0119puj\u0105co:<\/p>

\"\"<\/figure>

gdzie ( fx<\/sub> ) to pochodna funkcji ( f ) wzgl\u0119dem parametru ( x ), a ( fy<\/sub> ) \u2013 wzgl\u0119dem y . S\u0105 to tzw. pochodne cz\u0105stkowe, kt\u00f3re opisuj\u0105 nachylenie wykresu funkcji w danym punkcie w kierunkach r\u00f3wnoleg\u0142ych do osi uk\u0142adu wsp\u00f3\u0142rz\u0119dnych (np. ( fx<\/sub> ) opisuje warto\u015b\u0107 nachylenia, gdyby\u015bmy \u201eszli\u201d z danego punktu w kierunku r\u00f3wnoleg\u0142ym do osi ( x ). Dodajmy jeszcze, \u017ce ta powy\u017csza definicja opiera si\u0119 na funkcji dw\u00f3ch zmiennych, ale wygl\u0105da analogicznie dla funkcji o dowolnej liczbie zmiennych.<\/p>

\"\"<\/figure>

Rys 2. We\u017amy za przyk\u0142ad prost\u0105 funkcj\u0119 f(x,y) = x^2+y^2. Zwr\u00f3\u0107my uwag\u0119, \u017ce jej warto\u015bci dla danej pary (x,y) opisuj\u0105 kwadrat odleg\u0142o\u015bci tego punktu od \u015brodka uk\u0142adu wsp\u00f3\u0142rz\u0119dnych, a poziomice tej funkcji (linie, na kt\u00f3rych funkcja ma t\u0119 sam\u0105 warto\u015b\u0107) to okr\u0119gi o \u015brodku w punkcie (0,0). Gradient tej funkcji ma posta\u0107 gradf<\/sub>(x,y) = [2x,2y] Geometrycznie b\u0119dzie to wektor, kt\u00f3ry w ka\u017cdym punkcie b\u0119dzie wskazywa\u0142 kierunek przeciwny do kierunku wskazuj\u0105cego \u015brodek uk\u0142adu wsp\u00f3\u0142rz\u0119dnych.<\/em><\/p>

Metoda spadku gradientu<\/mark><\/strong><\/h4>

Nadszed\u0142 zatem moment, w kt\u00f3rym mo\u017cemy przej\u015b\u0107 do sedna, czyli przedstawienia metody spadku gradientu, na kt\u00f3rej opiera si\u0119 uczenie sztucznych sieci neuronowych. Zaczniemy od przypadku uproszczonego, czyli sytuacji, w kt\u00f3rej chcieliby\u015bmy znale\u017a\u0107 argument, dla kt\u00f3rego funkcja przyjmuje warto\u015b\u0107 mo\u017cliwie najmniejsz\u0105, przy za\u0142o\u017ceniu, \u017ce mamy tylko jedn\u0105 zmienn\u0105. W\u00f3wczas metod\u0119 mo\u017cna opisa\u0107 nast\u0119puj\u0105co:<\/p>

  1. Wybierz losow\u0105 warto\u015b\u0107 argumentu, czyli geometrycznie dowolny punkt na osi x. Nazwijmy ten punkt ( x0<\/sub> ).
    W praktyce jest to warto\u015b\u0107 wylosowana z odg\u00f3rnie zdefiniowanego przedzia\u0142u, zazwyczaj w okolicy punktu zero. Jest to pocz\u0105tkowa warto\u015b\u0107, kt\u00f3r\u0105 b\u0119dziemy krokowo \u201epoprawia\u0107\u201d, aby otrzyma\u0107 jak najtrafniejsze rozwi\u0105zanie problemu.<\/li>\n\n
  2. Powt\u00f3rz wiele razy obliczenie wed\u0142ug wzoru: xi<\/sub> = xi<\/sub> – 1 – lr*f'(xi<\/sub>-1), dla i = 1, 2, …, n.<\/li><\/ol>
    • lr to hiperparametr zwany wsp\u00f3\u0142czynnikiem uczenia (ang. learning rate) odg\u00f3rnie zdefiniowany przez u\u017cytkownika \u2013 jest to liczba dodatnia (i z regu\u0142y mniejsza ni\u017c 1), a jego wielko\u015b\u0107 decyduje o wielko\u015bci zmian mi\u0119dzy poszczeg\u00f3lnymi krokami (im wi\u0119ksza warto\u015b\u0107, tym wi\u0119ksza zmiana mi\u0119dzy kolejnymi warto\u015bciami xi<\/sub>).<\/li>\n\n
    • Efekt dzia\u0142ania tego wzoru jest nast\u0119puj\u0105cy: je\u017celi w aktualnym punkcie xi<\/sub>-1 funkcja jest rosn\u0105ca, to pochodna b\u0119dzie dodatnia, wi\u0119c w rezultacie xi<\/sub> b\u0119dzie mniejsze od xi<\/sub>-1 (iloczyn lr i pochodnej jest dodatni, wi\u0119c odejmujemy co\u015b od ( xi<\/sub>-1). W przeciwnym przypadku, funkcja malej\u0105ca skutkuje ujemn\u0105 pochodn\u0105 i iloczyn pochodnej i lr staje si\u0119 ujemny, a w konsekwencji warto\u015bci xi<\/sub> wzgl\u0119dem xi<\/sub>-1 si\u0119 zwi\u0119kszy.<\/li>\n\n
    • Generalnie ka\u017cde wykonanie tego kroku przesuwa aktualnie rozwa\u017cany punkt w stron\u0119 mniejszych warto\u015bci funkcji. Zwr\u00f3\u0107my te\u017c uwag\u0119, \u017ce im funkcja bardziej stroma (im wi\u0119ksza warto\u015b\u0107 bezwzgl\u0119dna pochodnej), tym przesuni\u0119cie b\u0119dzie wi\u0119ksze. Wizualizacj\u0119 tego procesu przedstawia rysunek 3.<\/li><\/ul>

      3. Ostateczne rozwi\u0105zanie, czyli wytypowana warto\u015b\u0107 argumentu, to ostatnia otrzymana warto\u015b\u0107 w powy\u017cszej sekwencji oblicze\u0144 \u2013 xnx_nxn\u200b. Powtarzamy operacj\u0119 z punktu 2 do momentu uzyskania zadowalaj\u0105cych rezultat\u00f3w (zale\u017cne od kontekstu zewn\u0119trzne kryterium okre\u015blane przez u\u017cytkownika) i zwracamy ostatni\u0105 otrzyman\u0105 warto\u015b\u0107 jako wynik dzia\u0142ania metody. Zaznaczmy, \u017ce to nie musi (i praktycznie nigdy nie b\u0119dzie) perfekcyjne rozwi\u0105zanie problemu, czyli dok\u0142adnie ten argument, dla kt\u00f3rego funkcja przyjmuje warto\u015b\u0107 najmniejsz\u0105. Natomiast przy dobrze wybranej warto\u015bci wsp\u00f3\u0142czynnika uczenia lr zazwyczaj b\u0119dzie to wystarczaj\u0105co dobre przybli\u017cenie.<\/p>

      \"\"<\/figure>

      Rysunek 3 obrazuje dzia\u0142anie metody w przypadku tzw. funkcji wypuk\u0142ej. A jaki efekt da ta metoda w innych sytuacjach? Na rysunku 4 przedstawiona zosta\u0142a funkcja, kt\u00f3ra ma dwa minima lokalne, czyli miejsca, kt\u00f3re obrazowo mo\u017cemy nazwa\u0107 zag\u0142\u0119bieniami. W takim przypadku to, czy znajdziemy minimum globalne \u2013 najmniejsz\u0105 warto\u015b\u0107 przyjmowan\u0105 przez funkcj\u0119, zale\u017cy od losowego punktu startowego w dzia\u0142aniu metody (zob. Rys. 4a i 4b) oraz wsp\u00f3\u0142czynnika uczenia (zob. Rys. 4c i 4d) \u2013 jak du\u017cy b\u0119dzie nasz skok i czy tych minim\u00f3w nie ominie (\u201eprzeskoczy\u201d). Generalnie: metoda nie gwarantuje znalezienia globalnego minimum, a jedynie znalezienie minimum lokalnego (i to pod warunkiem dobrze dobranej warto\u015bci wsp\u00f3\u0142czynnika uczenia). A jak to jest, \u017ce tak, zdawa\u0142oby si\u0119, powa\u017cna wada nie dyskredytuje ca\u0142ej metody? Ot\u00f3\u017c po prostu nie istnieje \u017cadna metoda optymalizacji, kt\u00f3ra gwarantowa\u0142aby znalezienie globalnego minimum, a jednocze\u015bnie ta metoda \u2013 spadku gradientu \u2013 jest szybka i do\u015b\u0107 skutecznie znajduje minima lokalne, a to w praktyce jest wystarczaj\u0105ce.<\/p>

      \"\"<\/figure>

      Metoda ta ma r\u00f3wnie\u017c posta\u0107 og\u00f3ln\u0105 \u2013 wielowymiarow\u0105 (dla funkcji o wielu zmiennych) i wygl\u0105da nast\u0119puj\u0105co:<\/p>

      1. Wylosuj punkt pocz\u0105tkowy ( x0 ) (punkt w przestrzeni wielowymiarowej, czyli wektor).<\/li>\n\n
      2. Aktualizuj warto\u015bci wed\u0142ug wzoru ( xi = xi-1-lr*gradf<\/sub>(xi-1) dla i = 1, 2, \u2026, n , gdzie gradf<\/sub>(xi-1) to gradient funkcji f w punkcie xi-1, a lr to wsp\u00f3\u0142czynnik uczenia; wz\u00f3r opisuje operacj\u0119 na wektorach i skalarze (lr), gdzie pomno\u017cenie gradientu przez wsp\u00f3\u0142czynnik uczenia polega na przemno\u017ceniu ka\u017cdej wsp\u00f3\u0142rz\u0119dnej przez t\u0119 warto\u015b\u0107, a odejmowanie wektor\u00f3w to odejmowanie odpowiadaj\u0105cych sobie wsp\u00f3\u0142rz\u0119dnych.<\/li>\n\n
      3. Zwr\u00f3\u0107 ostatni\u0105 otrzyman\u0105 warto\u015b\u0107 xn po wykonaniu odpowiedniej liczby powt\u00f3rze\u0144.<\/li><\/ol>

        Jest to oczywi\u015bcie wielowymiarowy odpowiednik poprzedniego procesu. R\u00f3\u017cnica jest taka, \u017ce tym razem nie m\u00f3wimy o przesuwaniu si\u0119 w lewo lub prawo na osi ( x ), lecz o przesuwaniu punktu w przestrzeni wielowymiarowej w kierunku najwi\u0119kszego spadku funkcji, wskazywanego przez gradient. Czyli w kolejnych iteracjach \u201erobimy kroki\u201d w t\u0119 stron\u0119, gdzie funkcja najszybciej maleje, aby jak najszybciej doj\u015b\u0107 do minimum (lokalnego lub globalnego). Oczywi\u015bcie z tymi samymi ograniczeniami, \u017ce w zale\u017cno\u015bci od z\u0142o\u017cono\u015bci funkcji i warto\u015bci wsp\u00f3\u0142czynnika uczenia mo\u017cemy trafi\u0107 w r\u00f3\u017cne minima lokalne.<\/p>

        Tak jak wspomnieli\u015bmy na pocz\u0105tku, t\u0119 w\u0142a\u015bnie metod\u0119 (chocia\u017c w praktyce zazwyczaj w jeszcze dodatkowo zmodyfikowanej formie) stosuje si\u0119 wsp\u00f3\u0142cze\u015bnie do uczenia sieci neuronowych, czyli znajdowania wag w po\u0142\u0105czeniach, dla kt\u00f3rych sie\u0107 wykonuje zadania jak najskuteczniej (uzyskuje najmniejsz\u0105 warto\u015b\u0107 funkcji straty). Wynikaj\u0105 z tego dwie konsekwencje:<\/p>

        1. Wpadanie w minima lokalne skutkuje tym, \u017ce metoda nie gwarantuje znalezienia mo\u017cliwie najskuteczniejszej sieci podczas trenowania. Jednak\u017ce w praktyce jest akceptowalne, poniewa\u017c sieci uczone w ten spos\u00f3b i tak cz\u0119sto s\u0105 zadowalaj\u0105co skuteczne, wi\u0119c nie zwraca si\u0119 na to uwagi.<\/li>\n\n
        2. Znajdujemy przybli\u017cone optimum lokalne, a nie jego dok\u0142adn\u0105 warto\u015b\u0107, co akceptujemy z tego samego powodu, o kt\u00f3rym wspomnieli\u015bmy powy\u017cej.<\/li><\/ol>

          Uczenie sieci cechuje si\u0119 losowo\u015bci\u0105 wynikaj\u0105c\u0105 z losowych warto\u015bci pocz\u0105tkowych parametr\u00f3w. Oznacza to, \u017ce ucz\u0105c dwa razy sie\u0107 o tej samej strukturze na tych samych danych, sie\u0107 mo\u017ce (i praktycznie zawsze tak b\u0119dzie) znajdowa\u0107 r\u00f3\u017cne parametry, czyli otrzymamy dwa r\u00f3\u017cne mechanizmy generowania predykcji przez sie\u0107 (i mog\u0105 one skutkowa\u0107 r\u00f3\u017cn\u0105 trafno\u015bci\u0105 predykcji sieci). Z tym po prostu trzeba si\u0119 pogodzi\u0107. In\u017cynierowie uczenia maszynowego musz\u0105 mie\u0107 tego \u015bwiadomo\u015b\u0107, aby poprawnie realizowa\u0107 eksperymenty i poprawnie interpretowa\u0107 wyniki, bo ostatecznie do praktycznych zastosowa\u0144 potrzebna jest tylko jedna, najlepsza, sie\u0107, kt\u00f3ra b\u0119dzie wystarczaj\u0105co dobrze realizowa\u0142a powierzone jej zadania.<\/p>

          <\/p>","protected":false},"excerpt":{"rendered":"

          Wi\u0119kszo\u015b\u0107 wsp\u00f3\u0142cze\u015bnie stosowanych algorytm\u00f3w uczenia maszynowego trenuje si\u0119 na przyk\u0142adach ucz\u0105cych, na podstawie kt\u00f3rych algorytm stara si\u0119 wykry\u0107 zale\u017cno\u015bci (wzorce) w danych pozwalaj\u0105ce na wykonywanie okre\u015blonych zada\u0144. <\/p>\n","protected":false},"author":30,"featured_media":4583,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[402,763,754,404],"tags":[],"popular":[],"difficulty-level":[38],"ppma_author":[374],"class_list":["post-4582","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hai-magazine","category-ai_praktyka","category-hai_premium","category-hai-magazine-2","difficulty-level-medium"],"acf":[],"authors":[{"term_id":374,"user_id":30,"is_guest":0,"slug":"norbert-ryciak","display_name":"Norbert Ryciak","avatar_url":{"url":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/08\/Norbert-Ryciak.jpeg","url2x":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/08\/Norbert-Ryciak.jpeg"},"first_name":"Norbert","last_name":"Ryciak","user_url":"","job_title":"","description":"Data scientist z zawodu, pasji i wykszta\u0142cenia. Lubi dzieli\u0107 si\u0119 wiedz\u0105 i anga\u017cuje si\u0119 w r\u00f3\u017cnorodne formy nauczania"}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4582","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/30"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=4582"}],"version-history":[{"count":7,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4582\/revisions"}],"predecessor-version":[{"id":6307,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4582\/revisions\/6307"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/4583"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=4582"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=4582"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=4582"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=4582"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=4582"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=4582"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}