{"id":4754,"date":"2024-09-16T13:39:00","date_gmt":"2024-09-16T11:39:00","guid":{"rendered":"https:\/\/haimagazine.com\/?p=4754"},"modified":"2025-06-26T14:00:37","modified_gmt":"2025-06-26T12:00:37","slug":"wyjasnienia-modeli-ai-z-perspektywy-czlowieka","status":"publish","type":"post","link":"https:\/\/haimagazine.com\/pl\/hai-magazine\/wyjasnienia-modeli-ai-z-perspektywy-czlowieka\/","title":{"rendered":"\ud83d\udd12 Wyja\u015bnienia modeli AI z perspektywy cz\u0142owieka"},"content":{"rendered":"<p class=\"wp-block-paragraph\">Celem takich regulacji jest  zapewnienie, \u017ce decyzje podejmowane przez algorytmy s\u0105 zgodne z zasadami etyki, prawa oraz zawsze stawiaj\u0105 w centrum cz\u0142owieka.<\/p><p class=\"wp-block-paragraph\">Na poziomie in\u017cynierskim XAI jest niezb\u0119dna do zrozumienia, ulepszania i kontrolowania modeli AI, co pozwala na bardziej precyzyjn\u0105 optymalizacj\u0119 algorytm\u00f3w oraz zapewnienie ich bezpiecze\u0144stwa. Z drugiej strony dla u\u017cytkownik\u00f3w ko\u0144cowych wyja\u015bnialno\u015b\u0107 modeli AI buduje zaufanie i poprawia ich do\u015bwiadczenie. Szczeg\u00f3lnie istotne jest to w sytuacjach, gdy AI wspiera jedynie proces decyzyjny, ale ostateczna decyzja nale\u017cy do cz\u0142owieka. W takich przypadkach, aby cz\u0142owiek m\u00f3g\u0142 zdecydowa\u0107 \u015bwiadomie, musi rozumie\u0107, jakie wyniki dostarczy\u0142 model i na jakiej podstawie. Przyk\u0142adem takiego systemu s\u0105 narz\u0119dzia do moderacji tre\u015bci, kt\u00f3re pomagaj\u0105 w identyfikacji i zarz\u0105dzaniu potencjalnie szkodliwymi materia\u0142ami, takimi jak rasistowskie komentarze, mowa nienawi\u015bci czy tre\u015bci zwi\u0105zane z wykorzystywaniem seksualnym dzieci (CSAM). W\u00f3wczas, cho\u0107 AI mo\u017ce zidentyfikowa\u0107 podejrzane tre\u015bci, ostateczna decyzja o ich usuni\u0119ciu lub dalszym dzia\u0142aniu nale\u017cy do moderatora, kt\u00f3ry ocenia kontekst i bierze na siebie konsekwencje wybranej akcji. <\/p><p class=\"wp-block-paragraph\">Innym istotnym obszarem zastosowa\u0144 s\u0105 systemy wykrywaj\u0105ce choroby w medycynie. Modele AI mog\u0105 wspomaga\u0107 diagnostyk\u0119, identyfikuj\u0105c anomalie w obrazach medycznych czy sugeruj\u0105c potencjalne diagnozy na podstawie danych pacjent\u00f3w. Jednak\u017ce ko\u0144cow\u0105 decyzj\u0119 dotycz\u0105c\u0105 zar\u00f3wno diagnozy, jak i planu leczenia podejmuje lekarz, kt\u00f3ry musi zrozumie\u0107, jakie przes\u0142anki sta\u0142y za sugestiami AI, i oceni\u0107 je w kontek\u015bcie wiedzy medycznej oraz indywidualnych cech pacjenta. Dlatego wyja\u015bnianie AI musi by\u0107 dostosowane do jej u\u017cytkownik\u00f3w ko\u0144cowych, czyli ludzi. I w tym uk\u0142adzie trzeba m.in. wzi\u0105\u0107 pod uwag\u0119 to, kim jest odbiorca oraz jak odbiera i przetwarza informacje. Skuteczno\u015b\u0107 wyja\u015bnienia nie jest cech\u0105 modelu, ale le\u017cy w percepcji i odbiorze osoby otrzymuj\u0105cej to wyja\u015bnienie. Sprawienie, aby model by\u0142 ca\u0142kowicie transparentny w szczeg\u00f3\u0142ach technicznych, nie oznacza, \u017ce ko\u0144cowy u\u017cytkownik b\u0119dzie wiedzia\u0142, co z t\u0105 informacj\u0105 zrobi\u0107, a co za tym idzie, nie mamy gwarancji, \u017ce na podstawie takiej niekoniecznie przejrzy\u015bcie wyja\u015bnionej informacji z modelu u\u017cytkownik ten podejmie w\u0142a\u015bciw\u0105 decyzj\u0119. Badania w zakresie interakcji cz\u0142owiek\u2013komputer (HCI) i projektowanie do\u015bwiadcze\u0144 u\u017cytkownik\u00f3w (UX) w tej dziedzinie staj\u0105 si\u0119 coraz wa\u017cniejsze i daj\u0105 nam ogromne mo\u017cliwo\u015bci.<\/p><h4 class=\"wp-block-heading\">Czym jest wyja\u015bnialna AI i jakie s\u0105 techniki? <\/h4><p class=\"wp-block-paragraph\">Wyja\u015bnialna Sztuczna Inteligencja (ang. Explainable Artificial Intelligence) to obszar bada\u0144, kt\u00f3ry skupia si\u0119 na tworzeniu sposob\u00f3w pozwalaj\u0105cych lepiej zrozumie\u0107, jak dzia\u0142aj\u0105 algorytmy AI. Pocz\u0105tki tej dziedziny si\u0119gaj\u0105 lat osiemdziesi\u0105tych i dziewi\u0119\u0107dziesi\u0105tych ubieg\u0142ego wieku. Wtedy to naukowcy pracowali nad wyja\u015bnianiem prostszych modeli, takich jak drzewa decyzyjne czy systemy oparte na regu\u0142ach, kt\u00f3re by\u0142y stosunkowo \u0142atwe do zrozumienia. Jednak sytuacja si\u0119 skomplikowa\u0142a, gdy pojawi\u0142y si\u0119 bardziej zaawansowane techniki, zw\u0142aszcza g\u0142\u0119bokie sieci neuronowe. S\u0105 one z jednej strony bardzo skuteczne, ale trudniej zajrze\u0107 do ich \u201ewn\u0119trza\u201d. Cz\u0119sto dzia\u0142aj\u0105 jak tajemnicze czarne skrzynki \u2013 wiemy, co wchodzi i co wychodzi, ale nie wiemy dok\u0142adnie, co dzieje si\u0119 w \u015brodku. Tutaj najwi\u0119kszym wyzwaniem s\u0105 ju\u017c uniwersalne wielkie modele j\u0119zykowe, jak znane nam modele z rodziny GPT czy LLama. To sprawia, \u017ce zrozumienie, jak dok\u0142adnie podejmuj\u0105 decyzje, sta\u0142o si\u0119 prawdziwym wyzwaniem. Dlatego w\u0142a\u015bnie XAI jest teraz tak wa\u017cna \u2013 pomaga nam rzuci\u0107 \u015bwiat\u0142o na te skomplikowane procesy w \u015brodku. <\/p><p class=\"wp-block-paragraph\">W tej dziedzinie wyr\u00f3\u017cniamy dwa g\u0142\u00f3wne podej\u015bcia.<\/p><p class=\"wp-block-paragraph\"><strong>Pierwsze, szerokie,<\/strong> bierze pod uwag\u0119 ca\u0142y system AI \u2013 nie tylko sam model, ale te\u017c dane u\u017cyte do jego treningu, to, jak model dzia\u0142a, i w jakich sytuacjach jest u\u017cywany. To szersze spojrzenie cz\u0119sto jest bardziej praktyczne, szczeg\u00f3lnie dla specjalist\u00f3w z innych dziedzin, kt\u00f3rzy korzystaj\u0105 z AI w swojej pracy. Dlaczego? Bo u\u017cytkownicy zwykle chc\u0105 zrozumie\u0107 ca\u0142y system AI i to, jak si\u0119 zachowuje w r\u00f3\u017cnych sytuacjach, a nie techniczne szczeg\u00f3\u0142y jego wewn\u0119trznego dzia\u0142ania.<\/p><p class=\"wp-block-paragraph\"><strong>Drugie podej\u015bcie, nazywane w\u0105skim,<\/strong> koncentruje si\u0119 g\u0142\u00f3wnie na wyja\u015bnianiu wewn\u0119trznych mechanizm\u00f3w modelu \u2013 to jakby pr\u00f3ba zrozumienia, co dzieje si\u0119 w \u201em\u00f3zgu\u201d AI. G\u0142\u00f3wne wyzwania techniczne w XAI cz\u0119sto wi\u0105\u017c\u0105 si\u0119 z trudno\u015bciami w zrozumieniu wewn\u0119trznych mechanizm\u00f3w modelu. Dlatego wiele technik XAI koncentruje si\u0119 na tym w\u0119\u017cszym zakresie, pr\u00f3buj\u0105c wyja\u015bni\u0107, jak model dochodzi do swoich decyzji.<\/p><p class=\"wp-block-paragraph\">W praktyce, w zale\u017cno\u015bci od z\u0142o\u017cono\u015bci modelu, mo\u017cemy stosowa\u0107 dwie strategie: <\/p><ul class=\"wp-block-list\"><li>U\u017cywanie \u0142atwych modeli do zrozumienia (przybli\u017cenia dzia\u0142ania) tych bardziej z\u0142o\u017conych. To takie modele, w kt\u00f3rych mo\u017cemy \u0142atwo zobaczy\u0107, jak podejmuj\u0105 decyzje. Na przyk\u0142ad w regresji liniowej mo\u017cna prze\u015bledzi\u0107 istotno\u015b\u0107 cech \u2013 czyli to, jak dana cecha wp\u0142ywa na ostateczny wynik (np. czy je\u015bli j\u0105 pominiemy, to model zacznie dzia\u0142a\u0107 gorzej czy wynik b\u0119dzie podobny). W drzewach decyzyjnych mo\u017cemy natomiast prze\u015bledzi\u0107 \u015bcie\u017ck\u0119 prowadz\u0105c\u0105 do decyzji. <\/li>\n\n<li>Stosowanie metod wyja\u015bniaj\u0105cych do skomplikowanych modeli. Tu najpierw tworzymy zaawansowany model, a potem u\u017cywamy specjalnych technik, \u017ceby zrozumie\u0107 jego decyzje. Jest to przydatne dla g\u0142\u0119bokich sieci neuronowych, kt\u00f3rych nie da si\u0119 \u0142atwo przybli\u017cy\u0107 czym\u015b tak prostym jak regresja czy drzewo decyzyjne. <\/li><\/ul><p class=\"has-text-align-center wp-block-paragraph\">  <img loading=\"lazy\" decoding=\"async\" width=\"900\" height=\"377\" class=\"wp-image-5081\" style=\"width: 900px;\" src=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Sujecka.png\" alt=\"\" srcset=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Sujecka.png 1245w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Sujecka-300x126.png 300w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Sujecka-1024x429.png 1024w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Sujecka-768x322.png 768w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Sujecka-600x252.png 600w\" sizes=\"auto, (max-width: 900px) 100vw, 900px\" \/><\/p><p class=\"wp-block-paragraph\">Wyb\u00f3r mi\u0119dzy tymi podej\u015bciami cz\u0119sto zale\u017cy od tego, czy wa\u017cniejsza jest dla nas dok\u0142adno\u015b\u0107 modelu czy \u0142atwo\u015b\u0107 jego zrozumienia. Czasem jednak udaje si\u0119 osi\u0105gn\u0105\u0107 obie te rzeczy naraz. Niezale\u017cnie od wybranego podej\u015bcia kluczowe jest uwzgl\u0119dnienie szerszego kontekstu XAI, aby by\u0107 pewnym, \u017ce nasz model jest nie tylko skuteczny, ale te\u017c przejrzysty, etyczny i godny zaufania. <\/p><p class=\"wp-block-paragraph\">W praktyce cz\u0119sto stosuje si\u0119 z\u0142o\u017cone modele AI ze wzgl\u0119du na ich wysok\u0105 wydajno\u015b\u0107 i \u0142atwo\u015b\u0107 implementacji, w takich przypadkach wyb\u00f3r pada na techniki post-hoc, czyli wyja\u015bnienia zewn\u0119trznego (w przeciwie\u0144stwie do metod wyja\u015bnialno\u015bci zaszytych w modelu ju\u017c na etapie jego projektowania, dzia\u0142aj\u0105cych wraz z uczeniem si\u0119 modelu czy generowaniem przez niego wynik\u00f3w).<\/p><p class=\"wp-block-paragraph\">Metody post-hoc mo\u017cna podzieli\u0107 na trzy g\u0142\u00f3wne kategorie: <\/p><ul class=\"wp-block-list\"><li>Globalne wyja\u015bnienia modelu, kt\u00f3re maj\u0105 na celu przedstawienie og\u00f3lnego zachowania modelu, cz\u0119sto poprzez uproszczone reprezentacje, takie jak drzewa decyzyjne czy zestawy regu\u0142. <\/li>\n\n<li>Wyja\u015bnienia konkretnych wynik\u00f3w skupiaj\u0105 si\u0119 na zrozumieniu pojedynczych predykcji, wykorzystuj\u0105c metody takie jak LIME (Local Interpretable Model-Agnostic Explanations) czy SHAP (Shapley Additive Explanations), kt\u00f3ry przydziela wa\u017cno\u015b\u0107 cechom na podstawie warto\u015bci Shapleya (metoda wywodz\u0105ca si\u0119 z teorii gier kooperacyjnych). Pozosta\u0142e narz\u0119dzia warte wspomnienia to ELI5, AI Explainability 360, DrWhy, mlr3, iNNvestigate czy integruj\u0105ca wiele technik biblioteka Dalex. <\/li>\n\n<li>Analizy kontrfaktyczne, kt\u00f3re pozwalaj\u0105 na zbadanie, jak zmiany w danych wej\u015bciowych wp\u0142yn\u0119\u0142yby na predykcje modelu. Takie wyja\u015bnienia s\u0105 szczeg\u00f3lnie istotne w przypadku niepo\u017c\u0105danych wynik\u00f3w. Te metody cz\u0119sto bazuj\u0105 na przybli\u017ceniach, co mo\u017ce budzi\u0107 w\u0105tpliwo\u015bci co do ich precyzji. Kluczowe jest, by tw\u00f3rcy system\u00f3w AI zdawali sobie spraw\u0119 z ogranicze\u0144 przybli\u017conych wyja\u015bnie\u0144 i otwarcie o nich informowali wszystkie zainteresowane strony. W \u015brodowisku naukowym trwa dyskusja na temat ryzyka zwi\u0105zanego z u\u017cyciem przybli\u017conych technik. Dlaczego? Bo mog\u0105 one nie uwzgl\u0119dnia\u0107 szczeg\u00f3lnych, skrajnych przypadk\u00f3w lub nie by\u0107 w pe\u0142ni wierne oryginalnym obliczeniom modelu, czyli podobnie jak w przypadku modeli istnieje ryzyko ich skrzywienia (obci\u0105\u017cenia). Mimo to ich stosowanie ma uzasadnienie w praktycznych potrzebach komunikacyjnych i r\u00f3\u017cnorodnych celach, jakim s\u0142u\u017c\u0105 wyja\u015bnienia.<\/li><\/ul><h4 class=\"wp-block-heading\">Jak t\u0142umaczymy sobie nawzajem r\u00f3\u017cne rzeczy. Teoria<\/h4><p class=\"wp-block-paragraph\">Spos\u00f3b, w jaki my, ludzie, t\u0142umaczymy sobie r\u00f3\u017cne rzeczy i jakiego rodzaju wyja\u015bnie\u0144 u\u017cywamy, ma ogromne znaczenie dla naszej interakcji z systemami AI. Wp\u0142ywa to zar\u00f3wno na to, jak komunikujemy si\u0119 z tymi systemami, jak i na nasze oczekiwania wobec nich. W tej dziedzinie szczeg\u00f3lnie istotna jest praca Tima Millera z 2018 roku, zatytu\u0142owana Explanation in artificial intelligence: Insights from the social sciences (Wyja\u015bnienia w sztucznej inteligencji: Spostrze\u017cenia z nauk spo\u0142ecznych). To badanie stanowi kompleksow\u0105 analiz\u0119 wyzwa\u0144 i potencjalnych mo\u017cliwo\u015bci zwi\u0105zanych z wyja\u015bnianiem predykcji dokonywanych przez AI. Miller zg\u0142\u0119bia w nim to, jak nasze ludzkie sposoby rozumienia i wyja\u015bniania rzeczy mog\u0105 by\u0107 zastosowane do tworzenia bardziej zrozumia\u0142ych i przyst\u0119pnych wyja\u015bnie\u0144 dzia\u0142a\u0144 system\u00f3w AI. Praca ta ukazuje, jak wa\u017cne jest po\u0142\u0105czenie wiedzy z dziedziny sztucznej inteligencji z naukami spo\u0142ecznymi, by tworzy\u0107 wyja\u015bnienia, kt\u00f3re b\u0119d\u0105 nie tylko technicznie poprawne, lecz tak\u017ce intuicyjnie zrozumia\u0142e dla ludzi.<\/p><p class=\"has-text-align-center wp-block-paragraph\"> <img loading=\"lazy\" decoding=\"async\" width=\"500\" height=\"662\" class=\"wp-image-5083\" style=\"width: 500px;\" src=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/1_strona.jpg\" alt=\"\" srcset=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/1_strona.jpg 684w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/1_strona-226x300.jpg 226w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/1_strona-600x795.jpg 600w\" sizes=\"auto, (max-width: 500px) 100vw, 500px\" \/><br><em>Tim Miller, Explanation in artificial intelligence: Insights from the social sciences<\/em><\/p><p class=\"wp-block-paragraph\">Jednym z kluczowych odkry\u0107 w dziedzinie wyja\u015bnialnej sztucznej inteligencji jest to, \u017ce ludzkie wyja\u015bnienia maj\u0105 charakter kontrastowy. Oznacza to, \u017ce ludzie zazwyczaj nie zadaj\u0105 og\u00f3lnych pyta\u0144 typu \u201eDlaczego sta\u0142o si\u0119 P?\u201d, ale raczej pytaj\u0105 \u201eDlaczego sta\u0142o si\u0119 P, a nie Q?\u201d. To subtelne, ale istotne rozr\u00f3\u017cnienie pokazuje, \u017ce nasze wyja\u015bnienia zawsze odnosz\u0105 si\u0119 do alternatywnego scenariusza, kt\u00f3ry si\u0119 nie wydarzy\u0142. We\u017amy przyk\u0142ad z dziedziny rozpoznawania obraz\u00f3w przez AI. Za\u0142\u00f3\u017cmy, \u017ce system klasyfikuje obrazy owad\u00f3w. Je\u015bli u\u017cytkownik pyta: \u201eDlaczego ten obraz zosta\u0142 sklasyfikowany jako pszczo\u0142a, a nie osa?\u201d, skuteczne wyja\u015bnienie powinno skupi\u0107 si\u0119 na cechach odr\u00f3\u017cniaj\u0105cych te dwa owady. System m\u00f3g\u0142by odpowiedzie\u0107: \u201eObraz zosta\u0142 sklasyfikowany jako pszczo\u0142a, poniewa\u017c owad na nim widoczny ma bardziej ow\u0142osion\u0105 powierzchni\u0119 cia\u0142a, zw\u0142aszcza na nogach i tu\u0142owiu, co jest charakterystyczne dla pszcz\u00f3\u0142. Pszczo\u0142y maj\u0105 r\u00f3wnie\u017c bardziej zaokr\u0105glony i p\u0119katy kszta\u0142t cia\u0142a oraz mniej agresywne ubarwienie z bardziej stonowanymi pasami. Natomiast osy maj\u0105 g\u0142adsze cia\u0142a, smuklejsz\u0105 sylwetk\u0119, intensywniejsze \u017c\u00f3\u0142to-czarne pasy, a ich talia oddzielaj\u0105ca tu\u0142\u00f3w od odw\u0142oka jest wyra\u017anie zaznaczona\u201d. Takie kontrastowe wyja\u015bnienie jest bardziej intuicyjne i pomocne dla u\u017cytkownika, poniewa\u017c bezpo\u015brednio odnosi si\u0119 do r\u00f3\u017cnicy mi\u0119dzy oczekiwanym rezultatem (osa) a faktycznym wynikiem klasyfikacji (pszczo\u0142a). Podkre\u015bla to kluczowe cechy r\u00f3\u017cnicuj\u0105ce, co u\u0142atwia zrozumienie procesu decyzyjnego systemu AI. To podej\u015bcie do wyja\u015bnie\u0144 w AI, inspirowane ludzkimi procesami poznawczymi, mo\u017ce znacz\u0105co poprawi\u0107 interakcj\u0119 mi\u0119dzy cz\u0142owiekiem a maszyn\u0105, czyni\u0105c systemy AI bardziej przejrzystymi i zrozumia\u0142ymi dla u\u017cytkownik\u00f3w. <\/p><p class=\"has-text-align-center wp-block-paragraph\"> <img loading=\"lazy\" decoding=\"async\" width=\"300\" height=\"300\" class=\"wp-image-5085\" style=\"width: 300px;\" src=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072.jpg\" alt=\"\" srcset=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072.jpg 2048w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072-300x300.jpg 300w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072-1024x1024.jpg 1024w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072-150x150.jpg 150w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072-768x768.jpg 768w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072-1536x1536.jpg 1536w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072-600x600.jpg 600w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-bee-view-from-one-side-36072-100x100.jpg 100w\" sizes=\"auto, (max-width: 300px) 100vw, 300px\" \/>  <img loading=\"lazy\" decoding=\"async\" width=\"300\" height=\"300\" class=\"wp-image-5087\" style=\"width: 300px;\" src=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072.jpg\" alt=\"\" srcset=\"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072.jpg 2048w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072-300x300.jpg 300w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072-1024x1024.jpg 1024w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072-150x150.jpg 150w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072-768x768.jpg 768w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072-1536x1536.jpg 1536w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072-600x600.jpg 600w, https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/09\/Firefly-one-wasp-view-from-one-side-on-white-background-36072-100x100.jpg 100w\" sizes=\"auto, (max-width: 300px) 100vw, 300px\" \/><br><em>pszczo\u0142a                                                         osa<\/em><\/p><p class=\"wp-block-paragraph\">Kolejny wa\u017cny wniosek dotyczy selektywno\u015bci ludzkich wyja\u015bnie\u0144. Ludzie rzadko oczekuj\u0105 wyczerpuj\u0105cego wyja\u015bnienia, kt\u00f3re uwzgl\u0119dnia\u0142oby wszystkie mo\u017cliwe przyczyny danego zjawiska. Zamiast tego mamy tendencj\u0119 do wybierania jednej lub dw\u00f3ch przyczyn spo\u015br\u00f3d potencjalnie niesko\u0144czonej liczby mo\u017cliwo\u015bci. Ten proces selekcji jest cz\u0119sto subiektywny i stronniczy. Na nasze rozumienie rzeczywisto\u015bci wp\u0142ywa wiele czynnik\u00f3w, takich jak utrwalone schematy my\u015blowe, dotychczasowe do\u015bwiadczenia, posiadana wiedza, typ osobowo\u015bci i szereg innych zmiennych. Ta selektywno\u015b\u0107 i stronniczo\u015b\u0107 w wyja\u015bnieniach ma istotne implikacje dla projektowania system\u00f3w wyja\u015bnialnej AI. We\u017amy przyk\u0142ad z medycyny: gdy system AI stawia diagnoz\u0119, lekarze mog\u0105 preferowa\u0107 wyja\u015bnienia skupiaj\u0105ce si\u0119 na kilku kluczowych objawach, zamiast na kompleksowej analizie wszystkich mo\u017cliwych przyczyn. Takie podej\u015bcie, cho\u0107 nie wyczerpuj\u0105ce, mo\u017ce by\u0107 bardziej praktyczne i zgodne z ludzkim sposobem rozumowania. To zjawisko podkre\u015bla potrzeb\u0119 dostosowania wyja\u015bnie\u0144 generowanych przez systemy AI do indywidualnych preferencji i oczekiwa\u0144 u\u017cytkownik\u00f3w. Skuteczne systemy wyja\u015bnialne powinny umie\u0107 przedstawia\u0107 informacje w spos\u00f3b selektywny i ukierunkowany, koncentruj\u0105c si\u0119 na najbardziej istotnych lub interesuj\u0105cych dla u\u017cytkownika aspektach, zamiast prezentowa\u0107 pe\u0142ny, ale potencjalnie przyt\u0142aczaj\u0105cy zestaw danych. Jednocze\u015bnie wa\u017cne jest, aby system by\u0142 w stanie na \u017c\u0105danie dostarczy\u0107 bardziej szczeg\u00f3\u0142owych wyja\u015bnie\u0144, zachowuj\u0105c r\u00f3wnowag\u0119 mi\u0119dzy zwi\u0119z\u0142o\u015bci\u0105 a kompleksowo\u015bci\u0105 informacji. <\/p><p class=\"wp-block-paragraph\">Trzecie kluczowe spostrze\u017cenie w tym badaniu dotyczy roli prawdopodobie\u0144stwa. Cho\u0107 prawda i prawdopodobie\u0144stwo s\u0105 niew\u0105tpliwie istotne w kontek\u015bcie wyja\u015bnie\u0144, badania pokazuj\u0105, \u017ce odwo\u0142ywanie si\u0119 do statystycznych zale\u017cno\u015bci nie jest tak efektywne jak wskazywanie konkretnych przyczyn. Warto podkre\u015bli\u0107, \u017ce najbardziej prawdopodobne wyja\u015bnienie nie zawsze jest tym, kt\u00f3re u\u017cytkownik uzna za najbardziej satysfakcjonuj\u0105ce czy pomocne. Ludzie maj\u0105 tendencj\u0119 do preferowania wyja\u015bnie\u0144 opartych na przyczynowo\u015bci, nawet je\u015bli nie s\u0105 one statystycznie najbardziej prawdopodobne. Zobrazuj\u0119 to przyk\u0142adem z dziedziny medycyny. Stwierdzenie systemu AI, \u017ce \u201epacjent ma 80% ryzyka rozwoju choroby X\u201d, mo\u017ce by\u0107 precyzyjne z punktu widzenia statystyki, ale dla pacjenta czy lekarza mniej u\u017cyteczne ni\u017c wyja\u015bnienie, kt\u00f3re szczeg\u00f3\u0142owo opisuje mechanizmy biologiczne prowadz\u0105ce do tego podwy\u017cszonego ryzyka. Na przyk\u0142ad wyja\u015bnienie m\u00f3wi\u0105ce o konkretnych czynnikach genetycznych, stylu \u017cycia czy interakcjach mi\u0119dzy r\u00f3\u017cnymi uk\u0142adami organizmu mo\u017ce by\u0107 bardziej warto\u015bciowe, nawet je\u015bli nie da si\u0119 ich wyrazi\u0107 w precyzyjnych warto\u015bciach procentowych. <\/p><p class=\"wp-block-paragraph\">Skuteczne wyja\u015bnienia powinny skupia\u0107 si\u0119 na przedstawianiu przyczynowych relacji i mechanizm\u00f3w, a nie tylko na prezentacji statystycznych prawdopodobie\u0144stw. Oznacza to, \u017ce systemy AI powinny by\u0107 zdolne do generowania wyja\u015bnie\u0144, kt\u00f3re \u0142\u0105cz\u0105 dane statystyczne z narracj\u0105 przyczynowo-skutkow\u0105, co mo\u017ce znacz\u0105co zwi\u0119kszy\u0107 ich zrozumia\u0142o\u015b\u0107 i u\u017cyteczno\u015b\u0107 dla ko\u0144cowych u\u017cytkownik\u00f3w. Ostatni fundamentalny wniosek podkre\u015bla spo\u0142eczny charakter wyja\u015bnie\u0144. Wyja\u015bnienia nie funkcjonuj\u0105 w pr\u00f3\u017cni \u2013 s\u0105 form\u0105 transmisji wiedzy, kt\u00f3ra odbywa si\u0119 w kontek\u015bcie interakcji mi\u0119dzyludzkich. W procesie wyja\u015bniania osoba przekazuj\u0105ca informacje aktywnie uwzgl\u0119dnia to, co wie lub przypuszcza o wiedzy, przekonaniach i mo\u017cliwo\u015bciach poznawczych odbiorcy. Ten mechanizm, znany w psychologii poznawczej jako \u201eteoria umys\u0142u\u201d, pozwala dostosowa\u0107 przekaz do konkretnego s\u0142uchacza. We\u017amy pod uwag\u0119 sytuacj\u0119 konsultacji medycznej. Lekarz, wyja\u015bniaj\u0105c diagnoz\u0119 pacjentowi, dostosowuje sw\u00f3j przekaz do przypuszczalnego poziomu wiedzy medycznej pacjenta oraz jego zdolno\u015bci do przyswojenia skomplikowanych informacji. To samo wyja\u015bnienie mo\u017ce znacz\u0105co r\u00f3\u017cni\u0107 si\u0119 w zale\u017cno\u015bci od tego, czy jest kierowane do pacjenta bez wykszta\u0142cenia medycznego, czy do innego specjalisty w dziedzinie medycyny.&nbsp;Oznacza to, \u017ce systemy AI powinny umie\u0107 modelowa\u0107 wiedz\u0119 i oczekiwania u\u017cytkownika, a nast\u0119pnie dostosowywa\u0107 poziom szczeg\u00f3\u0142owo\u015bci, u\u017cyte s\u0142ownictwo i struktur\u0119 wyja\u015bnienia do tych parametr\u00f3w. Implementacja tego podej\u015bcia w systemach AI wymaga zaawansowanych technik z zakresu generowania spersonalizowanego stylu, przetwarzania j\u0119zyka naturalnego i adaptacyjnych interfejs\u00f3w u\u017cytkownika. Systemy takie mog\u0142yby na przyk\u0142ad dynamicznie dostosowywa\u0107 swoje wyja\u015bnienia w oparciu o interakcje z u\u017cytkownikiem, jego profil lub histori\u0119 zapyta\u0144, co znacz\u0105co zwi\u0119kszy\u0142oby ich u\u017cyteczno\u015b\u0107 oraz akceptacj\u0119 w r\u00f3\u017cnych kontekstach zawodowych i spo\u0142ecznych.<\/p>","protected":false},"excerpt":{"rendered":"<p>Wraz z rosn\u0105c\u0105 z\u0142o\u017cono\u015bci\u0105 system\u00f3w AI pojawia si\u0119 istotna potrzeba, aby by\u0142y one dla nas przejrzyste i wiarygodne. Zrozumienie<br \/>\nmechanizm\u00f3w dzia\u0142ania sztucznej inteligencji<br \/>\njest zar\u00f3wno kwesti\u0105 istotn\u0105 z punktu widzenia<br \/>\nrozwoju technologii, jak i kluczowym<br \/>\nelementem budowania zaufania po stronie u\u017cytkownika. Taki kierunek rozwoju AI jest wspierany przez regulacje prawne, np. AI Act.<\/p>\n","protected":false},"author":107,"featured_media":4755,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[402,763,754,404],"tags":[523,471],"popular":[],"difficulty-level":[36],"ppma_author":[353],"class_list":["post-4754","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hai-magazine","category-ai_praktyka","category-hai_premium","category-hai-magazine-2","tag-modele-ai","tag-wyjasnienia","difficulty-level-easy"],"acf":[],"authors":[{"term_id":353,"user_id":107,"is_guest":0,"slug":"sabina-sujecka","display_name":"Sabina Sujecka","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/58ab8268db9e61bb17bd59a0a8886c6d441a336c1bb6844852fd66277a4342d3?s=96&d=mm&r=g","first_name":"","last_name":"","user_url":"","job_title":"","description":"Projektantka produkt\u00f3w z AI w tle i z potrzebami u\u017cytkownik\u00f3w na pierwszym planie."}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4754","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/107"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=4754"}],"version-history":[{"count":6,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4754\/revisions"}],"predecessor-version":[{"id":7764,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/4754\/revisions\/7764"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/4755"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=4754"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=4754"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=4754"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=4754"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=4754"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=4754"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}