{"id":6781,"date":"2024-12-17T18:30:00","date_gmt":"2024-12-17T17:30:00","guid":{"rendered":"https:\/\/haimagazine.com\/?p=6781"},"modified":"2025-06-26T10:15:27","modified_gmt":"2025-06-26T08:15:27","slug":"dlaczego-wyjasnienia-ai-sa-nieskuteczne-praktyczne-wnioski-z-roznych-dziedzin","status":"publish","type":"post","link":"https:\/\/haimagazine.com\/pl\/hai-magazine\/dlaczego-wyjasnienia-ai-sa-nieskuteczne-praktyczne-wnioski-z-roznych-dziedzin\/","title":{"rendered":"\ud83d\udd12 Dlaczego wyja\u015bnienia AI s\u0105 nieskuteczne? Praktyczne wnioski z r\u00f3\u017cnych dziedzin"},"content":{"rendered":"

Zamiast tego mo\u017ce por\u00f3wna\u0107 j\u0105 do rozci\u0105gni\u0119tej w przestrzeni niewidzialnej siatki, kt\u00f3ra ugina si\u0119 pod wp\u0142ywem masywnych obiekt\u00f3w \u2013 jak pi\u0142ka le\u017c\u0105ca na napi\u0119tej tkaninie \u2013 tak te\u017c t\u0142umaczy si\u0119 grawitacj\u0119 dwulatkom (to nie \u017cart, zrobiono to w \u015bwietnej serii ksi\u0105\u017cek Chrisa Ferrie). Przek\u0142adanie skomplikowanych koncepcji na obrazowe analogie, odwo\u0142ywanie si\u0119 do naszego wsp\u00f3lnego do\u015bwiadczenia to bardzo ludzka i bardzo pomocna sk\u0142onno\u015b\u0107 naszych umys\u0142\u00f3w, kt\u00f3ra pomaga nam odnale\u017a\u0107 si\u0119 w \u015bwiecie lub przybli\u017cy\u0107 ten \u015bwiat innym. Nasze wyja\u015bnienia maj\u0105 okre\u015blon\u0105 struktur\u0119: wybieramy kluczowe informacje, uwzgl\u0119dniamy kontekst i dostosowujemy przekaz do odbiorcy. Czasem odwo\u0142ujemy si\u0119 przy tym do naszego wsp\u00f3lnego do\u015bwiadczenia.<\/p>

Tak samo jest z wyja\u015bnianiem sztucznej inteligencji \u2013 w teorii, explainable AI (XAI), czyli w\u0142a\u015bnie \u201ewyja\u015bnialna sztuczna inteligencja\u201d, powinna by\u0107 zrozumia\u0142a dla ka\u017cdego. Praktyka pokazuje jednak, \u017ce nie do ko\u0144ca tak jest. To, co dla jednego specjalisty jest przejrzystym wyja\u015bnieniem, dla innego mo\u017ce stanowi\u0107 niezrozumia\u0142y labirynt technicznych szczeg\u00f3\u0142\u00f3w. Sytuacja ta generuje wiele nowych w\u0105tpliwo\u015bci. Jakie formy wyja\u015bnie\u0144 sprawdzaj\u0105 si\u0119 najlepiej w poszczeg\u00f3lnych dziedzinach? Czy lepiej pokaza\u0107 konkretny wp\u0142yw czynnik\u00f3w, czy mo\u017ce bardziej pomocne jest por\u00f3wnanie z podobnymi przypadkami? A mo\u017ce kluczem s\u0105 symulacje typu \u201eco by by\u0142o, gdyby\u201d? Czy s\u0105 jeszcze inne sposoby zobrazowania decyzji systemu?<\/p>

Pojawia si\u0119 te\u017c pytanie o nasz\u0105 rol\u0119 jako u\u017cytkownik\u00f3w \u2013 czy wsp\u00f3\u0142czesne systemy AI wspieraj\u0105 nasze aktywne uczenie si\u0119, czy mo\u017ce niepostrze\u017cenie zamieniaj\u0105 nas w biernych odbiorc\u00f3w gotowych rozwi\u0105za\u0144? Aby odpowiedzie\u0107 na te pytania, musimy najpierw zrozumie\u0107.<\/p>

Przypadek system\u00f3w wspomagania decyzji klinicznych. Praktyka<\/h4>

Systemy wspomagania decyzji pomagaj\u0105 specjalistom rozwi\u0105zywa\u0107 skomplikowane problemy, analizuj\u0105c dane, symuluj\u0105c r\u00f3\u017cne scenariusze i pokazuj\u0105c mo\u017cliwe rozwi\u0105zania. Przyk\u0142adem, z kt\u00f3rym wi\u0119kszo\u015b\u0107 os\u00f3b si\u0119 spotka\u0142a, jest system analizy kredytowej, kt\u00f3rego banki u\u017cywaj\u0105, aby oceni\u0107, czy przyzna\u0107 klientowi kredyt. System ten sprawdza dane finansowe osoby sk\u0142adaj\u0105cej wniosek, takie jak historia kredytowa, dochody i zobowi\u0105zania, i na tej podstawie proponuje decyzj\u0119. Dzi\u0119ki dostarczonym informacjom analitycy mog\u0105 podejmowa\u0107 lepsze i bardziej obiektywne decyzje.<\/p>

Szpitale stanowi\u0105 szczeg\u00f3lnie wymagaj\u0105ce \u015brodowisko dla wdra\u017cania sztucznej inteligencji. Dobrze pokazuj\u0105 to badania zespo\u0142u Mohammada Naiseha nad stosowaniem AI w procesie przepisywania chemioterapii, gdzie precyzja i zrozumienie decyzji systemu s\u0105 kluczowe dla bezpiecze\u0144stwa pacjent\u00f3w. Mo\u017cemy zobaczy\u0107, jak narz\u0119dzia XAI sprawdzaj\u0105 si\u0119 w tej codziennej praktyce medycznej, pomagaj\u0105c lekarzom podejmowa\u0107 \u015bwiadome i kontrolowane decyzje.<\/p>

W badaniu wzi\u0119\u0142o udzia\u0142 41 pracownik\u00f3w medycznych z trzech r\u00f3\u017cnych organizacji w Wielkiej Brytanii. Wszyscy uczestnicy byli ekspertami rekrutowanymi na podstawie do\u015bwiadczenia w korzystaniu z system\u00f3w wspierania decyzji klinicznych.<\/p>

W prototypie badacze wykorzystali cztery typy wyja\u015bnie\u0144:<\/p>

  1. Wyja\u015bnienia lokalne: <\/strong>pokazuj\u0105, kt\u00f3re cechy danych wp\u0142yn\u0119\u0142y na decyzj\u0119 AI. Przydatne do analizowania indywidualnych przypadk\u00f3w, np. zrozumienia konkretnej rekomendacji leczenia.
    <\/li>\n\n
  2. Wyja\u015bnienia oparte na przyk\u0142adach:<\/strong> AI t\u0142umaczy decyzj\u0119, pokazuj\u0105c podobne przypadki z bazy danych. To przydatne, gdy potrzebujemy por\u00f3wna\u0107 obecn\u0105 sytuacj\u0119 z wcze\u015bniejszymi.
    <\/li>\n\n
  3. Wyja\u015bnienia kontrfaktyczne: <\/strong>odpowiadaj\u0105 na pytania \u201eco by by\u0142o, gdyby\u201d, pokazuj\u0105c wp\u0142yw zmiany danych na decyzj\u0119. U\u017cyteczne do rozwa\u017cania alternatywnych scenariuszy, np. w ocenie ryzyka zmiany leczenia.
    <\/li>\n\n
  4. Wyja\u015bnienia globalne:<\/strong> wyja\u015bniaj\u0105 og\u00f3ln\u0105 logik\u0119 dzia\u0142ania modelu, np. poprzez ranking wa\u017cno\u015bci cech. Idealne do og\u00f3lnego zrozumienia, jak AI podejmuje decyzje, np. w prezentacjach dla zespo\u0142\u00f3w projektowych.<\/li><\/ol>

    \"\"
    Mohammad Naiseh, How the different explanation classes impact trust calibration: The case of clinical decision support systems.<\/em><\/p>

    Badania pokaza\u0142y wa\u017cny problem zwi\u0105zany z u\u017cywaniem sztucznej inteligencji w codziennej pracy lekarzy. Ot\u00f3\u017c, g\u0142\u00f3wn\u0105 przeszkod\u0105 okaza\u0142 si\u0119 spos\u00f3b, w jaki systemy AI komunikuj\u0105 swoje wnioski. Spos\u00f3b zbyt abstrakcyjny i techniczny, co sprawi\u0142o, \u017ce lekarze mieli problem z szybkim wykorzystaniem tych informacji w praktyce. Dobrze obrazuje to komentarz jednego z badanych medyk\u00f3w \u2013 \u201eAI t\u0142umaczy to w taki spos\u00f3b, \u017ce nie wida\u0107 ca\u0142o\u015bci. Chcia\u0142bym wiedzie\u0107, co oznacza 35% wp\u0142ywu wieku pacjenta na decyzj\u0119 AI i jak to odnosi si\u0119 do konkretnej osoby\u201d. Systemy AI powinny dostarcza\u0107 nie tylko surowych danych statystycznych, ale tak\u017ce ich kontekstow\u0105 interpretacj\u0119, kt\u00f3ra uwzgl\u0119dnia\u0142aby zar\u00f3wno dane indywidualnego przypadku, jak i szerszy obraz kliniczny pacjenta.<\/p>

    \"\"
    Mohammad Naiseh, How the different explanation classes impact trust calibration: The case of clinical decision support systems.<\/em><\/p>

    Specjali\u015bci borykali si\u0119 r\u00f3wnie\u017c z nadmiarem szczeg\u00f3\u0142owych, z\u0142o\u017conych informacji. Co wi\u0119cej, lekarze zasugerowali, \u017ce system powinien dostosowywa\u0107 poziom szczeg\u00f3\u0142owo\u015bci do konkretnej specjalizacji medycznej lub indywidualnych preferencji u\u017cytkownika. Wed\u0142ug nich powinien podawa\u0107 najpierw kr\u00f3tk\u0105, esencjonaln\u0105 informacj\u0119, a nast\u0119pnie przedstawia\u0107 mo\u017cliwo\u015b\u0107 zg\u0142\u0119bienia szczeg\u00f3\u0142\u00f3w. Najbardziej obiecuj\u0105c\u0105 propozycj\u0105 okaza\u0142a si\u0119 mo\u017cliwo\u015b\u0107 prowadzenia \u201edialogu\u201d z systemem. Takie rozwi\u0105zanie nie tylko zwi\u0119kszy\u0142oby zrozumienie dzia\u0142ania systemu, ale te\u017c pozwoli\u0142oby lekarzom na aktywne uczestnictwo w procesie analizy danych, co przek\u0142ada\u0142oby si\u0119 z kolei na lepsz\u0105 jako\u015b\u0107 podejmowanych decyzji medycznych.<\/p>

    Uczestnicy badania podkre\u015blili, \u017ce aby zaufa\u0107 systemowi, musz\u0105 mie\u0107 jasno\u015b\u0107 co do \u017ar\u00f3de\u0142 danych i ich zgodno\u015bci z aktualnymi standardami medycznymi. Transparentno\u015b\u0107 procesu decyzyjnego AI okaza\u0142a si\u0119 r\u00f3wnie istotna co dok\u0142adno\u015b\u0107 samych rekomendacji \u2013 specjali\u015bci chc\u0105 nie tylko wiedzie\u0107, jak\u0105 decyzj\u0119 podj\u0105\u0142 system, ale tak\u017ce rozumie\u0107 mechanizm stoj\u0105cy za t\u0105 decyzj\u0105. To pozwala im zachowa\u0107 kontrol\u0119 nad procesem leczenia i szybko interweniowa\u0107 w przypadku wykrycia nie\u015bcis\u0142o\u015bci. Dodatkowo lekarze oczekuj\u0105 mo\u017cliwo\u015bci weryfikacji systemu przez ekspert\u00f3w oraz jasnych wska\u017anik\u00f3w potwierdzaj\u0105cych aktualno\u015b\u0107 i poprawno\u015b\u0107 wykorzystywanych danych.<\/p>

    Podsumowuj\u0105c, istnieje wyra\u017ana r\u00f3\u017cnica mi\u0119dzy podej\u015bciem lekarzy a in\u017cynier\u00f3w do procesu diagnostycznego. Lekarze spogl\u0105daj\u0105 na niego holistycznie, \u0142\u0105cz\u0105c do\u015bwiadczenie kliniczne z intuicj\u0105 i indywidualnym kontekstem pacjenta, z kolei tw\u00f3rcy AI koncentruj\u0105 si\u0119 na analizie statystycznej du\u017cych zbior\u00f3w danych. Kluczem do skutecznego po\u0142\u0105czenia tych dw\u00f3ch \u015bwiat\u00f3w jest interfejs, kt\u00f3rego zadaniem jest nie tylko przekazywanie informacji, ale r\u00f3wnie\u017c robienie tego w spos\u00f3b intuicyjny dla odbiorc\u00f3w, tj. przy pomocy ich j\u0119zyka, uwzgl\u0119dnienia ich sposobu my\u015blenia. A przede wszystkim: poprzez klarowne komunikaty dotycz\u0105ce zar\u00f3wno mo\u017cliwo\u015bci, jak i ogranicze\u0144 systemu AI.<\/p>

    Jak AI mo\u017ce wspiera\u0107 naturalny proces uczenia si\u0119 i g\u0142\u0119bokiego przetwarzania informacji.<\/h4>

    Pora odpowiedzie\u0107 na jedno z wa\u017cniejszych pyta\u0144. Czy gdy system AI podsuwa nam gotow\u0105 odpowied\u017a, to my si\u0119 uczymy? Szczeg\u00f3lnie interesuje mnie tu zjawisko incydentalnego uczenia si\u0119, tj. procesu, w kt\u00f3rym przyswajamy wiedz\u0119 mimochodem, podczas wykonywania innych czynno\u015bci. W\u0142a\u015bnie temu zagadnieniu przyjrza\u0142 si\u0119 bli\u017cej Krzysztof Gajos z Uniwersytetu Harvarda. W pracy Do People Engage Cognitively with AI? Impact of AI Assistance on Incidental Learning<\/em> Gajos prezentuje eksperyment badaj\u0105cy wp\u0142yw r\u00f3\u017cnych form komunikacji AI na przyswajanie wiedzy. Uczestnicy wzi\u0119li udzia\u0142 w quizie, kt\u00f3ry polega\u0142 na wybraniu posi\u0142k\u00f3w bogatych w okre\u015blone makrosk\u0142adniki (w\u0119glowodany, t\u0142uszcze, bia\u0142ka lub b\u0142onnik). Badanie podzielono na etapy i warianty.<\/p>

    Podczas eksperymentu najpierw przeprowadzono wst\u0119pny test, kt\u00f3ry sprawdzi\u0142 wiedz\u0119 uczestnik\u00f3w o od\u017cywianiu. Nast\u0119pnie, w drugim etapie prezentowano jeden z trzech wariant\u00f3w interakcji:<\/p>

    1. Kr\u00f3tka informacja zwrotna<\/strong> (warunek bazowy I, bez u\u017cycia AI). Po ka\u017cdej odpowiedzi uczestnicy dostawali jedynie kr\u00f3tkie potwierdzenie: \u201ePoprawnie\u201d lub \u201eNie ca\u0142kiem\u201d, bez dodatkowych wyja\u015bnie\u0144.

      \"\"<\/li>\n\n
    2. Podpowied\u017a<\/strong> (warunek bazowy II, bez u\u017cycia AI). Opr\u00f3cz prostego potwierdzenia system dodawa\u0142 kr\u00f3tkie, konkretne wyja\u015bnienie, na przyk\u0142ad: \u201eAwokado zawiera du\u017co t\u0142uszczu\u201d.

      \"\"<\/li>\n\n
    3. Rekomendacja AI i podpowied\u017a<\/strong>. Zanim osoby, kt\u00f3re bra\u0142y udzia\u0142 w badaniu, udzieli\u0142y odpowiedzi, otrzyma\u0142y od sztucznej inteligencji \u2013 programu nazwanego \u201eAsystentem Posi\u0142k\u00f3w\u201d \u2013 podpowiedzi. Do ka\u017cdej z nich do\u0142\u0105czone by\u0142o kr\u00f3tkie wyja\u015bnienie. Ten spos\u00f3b dzia\u0142ania mia\u0142 dwie zalety: pomaga\u0142 w podejmowaniu decyzji i jednocze\u015bnie uczy\u0142 poprzez praktyk\u0119. Uczestnicy nie otrzymywali od razu informacji, czy ich odpowied\u017a by\u0142a poprawna \u2013 tego dowiadywali si\u0119 dopiero po zako\u0144czeniu testu. Dzi\u0119ki takiemu uk\u0142adowi badania mo\u017cna by\u0142o sprawdzi\u0107 dwie rzeczy: jak sugestie sztucznej inteligencji wp\u0142ywaj\u0105 na to, czy ludzie samodzielnie podejmuj\u0105 decyzje, oraz jak dobrze si\u0119 przy tym ucz\u0105.

      W ostatnim etapie sprawdzano, ile uczestniczy si\u0119 nauczyli.

      \"\"
      \"\"<\/li><\/ol>

      Drugi wariant wprowadza\u0142 element autonomii \u2013 badani najpierw samodzielnie odpowiadali na pytania, a nast\u0119pnie otrzymywali sugestie od wirtualnego doradcy. Co istotne, mogli (ale nie musieli) modyfikowa\u0107 swoje pierwotne odpowiedzi, a wskaz\u00f3wki pojawia\u0142y si\u0119 losowo, niezale\u017cnie od poprawno\u015bci ich wybor\u00f3w. <\/p>

      Trzeci wariant stawia\u0142 na samodzielne my\u015blenie \u2013 system dostarcza\u0142 jedynie wyja\u015bnienia merytoryczne, jak na przyk\u0142ad informacj\u0119, \u017ce mleko jest znacz\u0105cym \u017ar\u00f3d\u0142em w\u0119glowodan\u00f3w. Na podstawie otrzymanych wyja\u015bnie\u0144 uczestnicy musieli samodzielnie wywnioskowa\u0107 i wybra\u0107 w\u0142a\u015bciw\u0105 odpowied\u017a, bez bezpo\u015brednich rekomendacji ze strony systemu. Podobnie jak w pozosta\u0142ych warunkach eksperymentalnych, uczestnicy nie otrzymywali informacji zwrotnej o poprawno\u015bci swoich odpowiedzi w pr\u00f3bach z pomoc\u0105 AI.<\/p>

      Wa\u017cnym ograniczeniem w tym badaniu by\u0142o to, \u017ce system AI dawa\u0142 tylko poprawne odpowiedzi. W rzeczywisto\u015bci AI nie zawsze dzia\u0142a tak idealnie.<\/p>

      \"\"
      Rysunek 1. Wyniki Eksperymentu 1: po lewej: bezpo\u015brednia korzy\u015b\u0107 w poszczeg\u00f3lnych warunkach. Po prawej: efektuczenia si\u0119 w poszczeg\u00f3lnych warunkach. Wszystkie wyniki przedstawiono jako \u015brednie znormalizowane zmiany wzgl\u0119dem testu wst\u0119pnego. S\u0142upki b\u0142\u0119d\u00f3w wskazuj\u0105 95% przedzia\u0142y ufno\u015bci<\/em><\/p>

      Badanie potwierdzi\u0142o to, co ju\u017c wiemy z innych bada\u0144: gdy ludzie u\u017cywaj\u0105 narz\u0119dzi AI do podejmowania decyzji, zwykle (cho\u0107 nie zawsze) wybieraj\u0105 lepiej, ni\u017c gdy decyduj\u0105 sami. Wyniki sugeruj\u0105 r\u00f3wnie\u017c, \u017ce nauka najbardziej skuteczna jest wtedy, gdy system AI nie dostarcza gotowych odpowiedzi, lecz wskaz\u00f3wki i wyja\u015bnienia, czym zach\u0119ca do samodzielnego my\u015blenia. Gdy aktywnie uczestniczymy w rozwi\u0105zywaniu problem\u00f3w z pomoc\u0105 AI, nie tylko wi\u0119cej si\u0119 uczymy, ale te\u017c bardziej ufamy tej technologii. Co wi\u0119cej, gdy system AI dostosowuje swoje wyja\u015bnienia do naszych indywidualnych potrzeb, \u0142atwiej nam przyswoi\u0107 now\u0105 wiedz\u0119 i wykorzysta\u0107 j\u0105 w r\u00f3\u017cnych sytuacjach.<\/p>

      \"\"<\/p>

      Przybli\u017cenie ludzkiego sposobu my\u015blenia. LingoQA w Autonomicznych Systemach Prowadzenia<\/h4>

      Wyobra\u017a sobie system komputerowy, kt\u00f3ry \u0142\u0105czy w sobie trzy wyj\u0105tkowe umiej\u0119tno\u015bci: widzenie, m\u00f3wienie i dzia\u0142anie. W\u0142a\u015bnie tym s\u0105 modele VLAM (Vision-Language-Action Models). Firma Wayve sw\u00f3j model tego typu nazwa\u0142a LINGO-2 i to on pierwszy na \u015bwiecie rzeczywi\u015bcie jest wykorzystywany w autonomicznych samochodach na ulicach. LINGO-2 nie tylko widzi otoczenie przez kamery, ale te\u017c potrafi o tym opowiada\u0107 ludzkim j\u0119zykiem, a podczas jazdy odpowiednio reagowa\u0107 na wydarzenia. Co ciekawe, system ten na bie\u017c\u0105co komunikuje swoje decyzje. Na przyk\u0142ad gdy widzi przechodnia na pasach, informuje nas, \u017ce dla bezpiecze\u0144stwa zwolni. Dzi\u0119ki temu, \u017ce LINGO-2 \u201et\u0142umaczy\u201d nam swoje zachowanie, \u0142atwiej jest zaufa\u0107 takiemu autonomicznemu pojazdowi, bowiem dok\u0142adnie wiemy, dlaczego podejmuje okre\u015blone decyzje podczas jazdy. <\/p>

      Z kolei LingoQA, znany r\u00f3wnie\u017c jako Video Question Answering, jest narz\u0119dziem s\u0142u\u017c\u0105cym do testowania i oceny system\u00f3w sztucznej inteligencji, takich jak LINGO-2. Pozwala sprawdzi\u0107, jak dobrze model AI rozumie i odpowiada na r\u00f3\u017cne pytania dotycz\u0105ce tego, co dzieje si\u0119 na drodze. Mog\u0105 to by\u0107 pytania o widoczne obiekty, zachodz\u0105ce wydarzenia czy uzasadnienie konkretnych decyzji podejmowanych przez pojazd. Szczeg\u00f3lnie istotne jest to, \u017ce system odpowiada w naturalny spos\u00f3b, przy pomocy zwyk\u0142ego codziennego j\u0119zyka.<\/p>

      LingoQA wprowadza kilka nowatorskich modu\u0142\u00f3w, kt\u00f3re maj\u0105 na celu zwi\u0119kszenie wyja\u015bnialno\u015bci system\u00f3w autonomicznych.<\/p>

      1. Benchmark LingoQA<\/strong>: narz\u0119dzie, kt\u00f3re s\u0142u\u017cy do testowania i oceny system\u00f3w autonomicznej jazdy poprzez analiz\u0119 materia\u0142\u00f3w wideo. System ten wykorzystuje innowacyjne podej\u015bcie polegaj\u0105ce na zadawaniu pyta\u0144 i analizie odpowiedzi dotycz\u0105cych tre\u015bci wideo. Jego g\u0142\u00f3wnym elementem jest specjalny klasyfikator tekstowy nazywany Lingo-Judge, kt\u00f3ry dzia\u0142a podobnie do tego, jak ludzie oceniaj\u0105 odpowiedzi w testach LingoQA (o czym \u015bwiadczy bardzo wysoki wsp\u00f3\u0142czynnik korelacji Spearmana r\u00f3wny 0,950). Wyniki pokazuj\u0105, \u017ce LingoQA radzi sobie wyj\u0105tkowo dobrze w por\u00f3wnaniu z dotychczasowymi metodami oceny, w tym nawet z zaawansowanym modelem GPT-4, co ma szczeg\u00f3lne znaczenie w kontek\u015bcie XAI.
        <\/li>\n\n
      2. Zbi\u00f3r danych LingoQA<\/strong>: dataset LingoQA to wyj\u0105tkowa kolekcja zawieraj\u0105ca prawie 420 tysi\u0119cy naturalnych konwersacji mi\u0119dzy pytaj\u0105cym a odpowiadaj\u0105cym. W przeciwie\u0144stwie do tradycyjnych zbior\u00f3w danych, kt\u00f3re skupiaj\u0105 si\u0119 g\u0142\u00f3wnie na tym, co pojazd \u201ewidzi\u201d, LingoQA zawiera rzeczywiste przemy\u015blenia i uzasadnienia kierowc\u00f3w dotycz\u0105ce ich decyzji na drodze. To bezcenne \u017ar\u00f3d\u0142o wiedzy pozwala systemom autonomicznym nie tylko rozpoznawa\u0107 obiekty i sytuacje na drodze, ale tak\u017ce rozumie\u0107 kontekst i logik\u0119 stoj\u0105c\u0105 za ludzkimi wyborami podczas jazdy. W rezultacie systemy AI, kt\u00f3re wykorzystuj\u0105 te dane, mog\u0105 lepiej wyja\u015bni\u0107 swoje decyzje u\u017cytkownikom, co zwi\u0119ksza zaufanie do pojazd\u00f3w autonomicznych.
        <\/li>\n\n
      3. Podstawowy model LingoQA<\/strong>: Podczas test\u00f3w r\u00f3\u017cnych element\u00f3w, kt\u00f3re przetwarzaj\u0105 obraz i tekst, naukowcy odkryli najbardziej skuteczne rozwi\u0105zanie. Polega ono na dostosowywaniu warstw odpowiedzialnych za uwag\u0119 w modelu \u0142\u0105cz\u0105cym widzenie maszynowe z przetwarzaniem j\u0119zyka (wykorzystuj\u0105cym Vicuna-1.5-7B), oraz na \u0142\u0105czeniu informacji z nagra\u0144 wideo na p\u00f3\u017anym etapie przetwarzania. System ten skuteczniej analizuje jednocze\u015bnie dane wizualne i tekstowe, co przek\u0142ada si\u0119 na trafniejsze decyzje podejmowane przez pojazdy autonomiczne.<\/li><\/ol>

        \"\" \"\"
        Rysunek 2. LingoQA to kompleksowy benchmark do Video Question Answering w autonomicznym prowadzeniu pojazd\u00f3w. Nasz bazowy model wizja-j\u0119zyk w ramach
        tego benchmarku jest w stanie odpowiada\u0107 na pytania zwi\u0105zane z rozumowaniem dotycz\u0105cym prowadzenia, rozpoznawaniem obiekt\u00f3w, uzasadnianiem dzia\u0142a\u0144 oraz opisem sceny<\/em><\/p>

        Kiedy\u015b elementy interfejsu na\u015bladowa\u0142y wygl\u0105d prawdziwych przedmiot\u00f3w (czyli stosowa\u0142y skeuomorfizm \u2013 gdzie np. ikona kosza na \u015bmieci w komputerze wygl\u0105da\u0142a jak prawdziwy kosz). Dzi\u015b podchodzi si\u0119 do tego inaczej \u2013 zamiast kopiowa\u0107 wygl\u0105d rzeczy, skupiamy si\u0119 na tym, by technologia na\u015bladowa\u0142a naturalne ludzkie zachowania i spos\u00f3b komunikacji. Ten nowy \u201ebehawioralny skeuomorfizm\u201d sprawia, \u017ce rozmowa z komputerem czy sztuczn\u0105 inteligencj\u0105 przypomina bardziej pogaw\u0119dk\u0119 ze znajomym. Dzi\u0119ki temu AI nie jest ju\u017c dla nas czym\u015b dziwnym czy strasznym, ale raczej pomocnym asystentem w codziennych sprawach.<\/p>

        \"\"
        \u0179r\u00f3dlo: https:\/\/x.com\/appledsignstatus\/1799370131677855776<\/em><\/p>

        Co na koniec?<\/h4>

        XAI nie jest tylko dodatkiem do system\u00f3w AI. Stanowi fundament, na kt\u00f3rym opiera si\u0119 zaufanie u\u017cytkownik\u00f3w i ich zdolno\u015b\u0107 do \u015bwiadomego podejmowania decyzji. Skuteczne wdro\u017cenie takich system\u00f3w wymaga g\u0142\u0119bokiego zrozumienia kontekstu ich u\u017cycia oraz dostosowania sposobu komunikacji do j\u0119zyka i potrzeb konkretnych odbiorc\u00f3w.<\/p>

        Projektujesz interfejs wyja\u015bnialnej AI, z kt\u00f3rego potem b\u0119d\u0105 korzysta\u0107 specjali\u015bci pracuj\u0105cy z Twoim modelem? Pami\u0119taj o kilku kluczowych kwestiach:<\/p>

        1. M\u00f3w j\u0119zykiem u\u017cytkownika<\/strong>
          Wyja\u015bnienia powinny przypomina\u0107 naturaln\u0105 rozmow\u0119 z ekspertem, kt\u00f3ry potrafi dostosowa\u0107 j\u0119zyk do rozm\u00f3wcy. Unikaj \u017cargonu technicznego, ale daj mo\u017cliwo\u015b\u0107 zg\u0142\u0119bienia tematu tym, kt\u00f3rzy tego potrzebuj\u0105.
          <\/li>\n\n
        2. Dostosuj si\u0119 i wchod\u017a w interakcj\u0119<\/strong>
          System powinien dynamicznie reagowa\u0107 na potrzeby u\u017cytkownika i oferowa\u0107 spersonalizowane wyja\u015bnienia, kt\u00f3re umo\u017cliwi\u0105 zadawanie pyta\u0144. Taka dwustronna komunikacja zwi\u0119ksza zrozumienie i buduje zaufanie do systemu.
          <\/li>\n\n
        3. Nie przeci\u0105\u017caj informacjami<\/strong>
          Wyja\u015bnienia musz\u0105 by\u0107 zwi\u0119z\u0142e i konkretne. Szczeg\u00f3lnie gdy liczy si\u0119 czas (jak w medycynie). Lepiej przekaza\u0107 najwa\u017cniejsze informacje kr\u00f3tko i jasno, ni\u017c zarzuci\u0107 u\u017cytkownika nadmiarem szczeg\u00f3\u0142\u00f3w.
          <\/li>\n\n
        4. Wspieraj, nie wyr\u0119czaj<\/strong>
          System powinien dostarcza\u0107 informacji wspieraj\u0105cych proces decyzyjny, zamiast przedstawia\u0107 gotowe rozwi\u0105zania. Takie podej\u015bcie zach\u0119ca do krytycznego my\u015blenia i g\u0142\u0119bszego zrozumienia problemu.
          <\/li>\n\n
        5. Buduj wiarygodno\u015b\u0107<\/strong>
          Przejrzyste informacje o \u017ar\u00f3d\u0142ach danych i weryfikacja przez ekspert\u00f3w to podstawa zaufania. U\u017cytkownik musi wiedzie\u0107, \u017ce mo\u017ce polega\u0107 na systemie.<\/li><\/ol>

          Na zako\u0144czenie warto przytoczy\u0107 s\u0142owa Richarda Feynmana, wybitnego fizyka i pedagoga, kt\u00f3ry mawia\u0142, \u017ce niemo\u017cno\u015b\u0107 wyt\u0142umaczenia czego\u015b w prosty spos\u00f3b \u015bwiadczy o braku w\u0142asnego zrozumienia tematu.<\/p>

          Sukces systemu AI zale\u017cy nie tylko od jego technicznych mo\u017cliwo\u015bci, ale r\u00f3wnie\u017c od tego, jak skutecznie potrafi komunikowa\u0107 si\u0119 z u\u017cytkownikiem. Warto przy tym zmieni\u0107 perspektyw\u0119 \u2013 podczas gdy tw\u00f3rcy system\u00f3w AI koncentruj\u0105 si\u0119 g\u0142\u00f3wnie na budowie modelu, po\u015bwi\u0119caj\u0105c jedynie 10% uwagi na interfejs, dla u\u017cytkownika to w\u0142a\u015bnie interfejs stanowi 90% do\u015bwiadczenia z systemem. To w\u0142a\u015bnie przez jego pryzmat oceniana jest warto\u015b\u0107 rozwi\u0105zania.<\/p>

          Dlatego te\u017c, niezale\u017cnie od tego, jak zaawansowany jest model AI, jego rzeczywista warto\u015b\u0107 objawia si\u0119 w intuicyjnym i zrozumia\u0142ym interfejsie. W \u015bwiecie XAI prostota i przejrzysto\u015b\u0107 wyja\u015bnie\u0144 nie s\u0105 wi\u0119c tylko dodatkiem. S\u0105 kluczem do praktycznego wykorzystania potencja\u0142u sztucznej inteligencji.<\/p>

          <\/p>","protected":false},"excerpt":{"rendered":"

          Kiedy wybitny fizyk staje przed wyzwaniem wyt\u0142umaczenia zjawiska grawitacji podczas popularnonaukowego wyk\u0142adu, nie si\u0119ga po zaawansowane r\u00f3wnania r\u00f3\u017cniczkowe.<\/p>\n","protected":false},"author":107,"featured_media":7121,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[402,763,754,405],"tags":[83,471],"popular":[],"difficulty-level":[38],"ppma_author":[353],"class_list":["post-6781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hai-magazine","category-ai_praktyka","category-hai_premium","category-hai-magazine-3","tag-ai","tag-wyjasnienia","difficulty-level-medium"],"acf":[],"authors":[{"term_id":353,"user_id":107,"is_guest":0,"slug":"sabina-sujecka","display_name":"Sabina Sujecka","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/58ab8268db9e61bb17bd59a0a8886c6d441a336c1bb6844852fd66277a4342d3?s=96&d=mm&r=g","first_name":"","last_name":"","user_url":"","job_title":"","description":"Projektantka produkt\u00f3w z AI w tle i z potrzebami u\u017cytkownik\u00f3w na pierwszym planie."}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/6781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/107"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=6781"}],"version-history":[{"count":7,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/6781\/revisions"}],"predecessor-version":[{"id":7785,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/6781\/revisions\/7785"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/7121"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=6781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=6781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=6781"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=6781"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=6781"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=6781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}