Twój koszyk jest obecnie pusty!
🔒 Macierz pojęcie, jak to wyjaśnić? Zabawa w superpozycje
Wiele wskazuje na to, że kluczem do rozwiązania zagadek języka i logicznego myślenia jest interpretowalność modeli AI. Tak, interpretowalność modeli sztucznej inteligencji, a nie ludzkiego mózgu.
„…mać, nie teraz!", zdążył jeszcze pomyśleć, zanim bezwładnie osunął się na podłogę. Doprowadził ich przecież dokładnie do miejsca, do którego chciał ich doprowadzić. Byli o krok od zauważenia czegoś naprawdę ważnego. Widział emocje na ich twarzach. Uwielbiał to, tak jak uwielbiał swoich uczniów. – Paul Broca. – Kilkanaście minut wcześniej zapisał na tablicy imię słynnego neurologa, o którym z wypiekami na twarzy dyskutowali już od kilku kwadransów. – Miał dużo szczęścia, to prawda, i gdyby nie trafił mu się tak unikalny pacjent, nie dokonałby wielkiego odkrycia, ale możemy też powiedzieć, że przypadkowe odkrycia przytrafiają się dobrze przygotowanym. – To ja mam pytanie – usłyszał głos za plecami. – Ten pacjent rozumiał innych, ale sam potrafił powiedzieć tylko jedno słowo, tak? I jak Broca odkrył, że Leborgne ma uszkodzony pewien obszar w mózgu, to uznał, że to ten obszar produkuje słowa. No i super, ale co ze słowami pisanymi? – A jak myślicie? – Ja myślę, że wtedy pisanie też wysiada. I jeśli to prawda, to z tego wynikałoby, że obszar Broki generuje cały język. Uśmiechnął się i napisał na tablicy imię i nazwisko drugiego słynnego lekarza: „Carl Wernicke". – Bynajmniej. Kontrprzykład, obszar Wernickego. Uszkodzenie tego obszaru mózgu, znajdującego się tuż obok obszaru Broki, nie odbiera zdolności budowania wypowiedzi, ale odbiera zdolność rozumienia języka. Po jego uszkodzeniu można potrafić skonstruować wypowiedź, ale nie będzie ona miała sensu. Czyli pojawi się struktura gramatyczna, ale wypełniona słowami, które nie będą składały się na spójny przekaz. Na przykład na pytanie „co dzisiaj robisz?" mogłaby paść odpowiedź: „zostaliśmy tutaj z wodą w tej chwili i rozmawiamy z ludźmi tam dla nich. Oni nurkują dla nich teraz, ale zaraz będą trzymali wodę, z odrobiną szczęścia, dla niego". – A czy wtedy oprócz rozumienia wysiada też logiczne rozumowanie? – Ano nie – inne zdolności zostają bez szwanku. I co może z tego wynikać? – Że w tych dwóch obszarach – i Broki, i Wernickego – musi być zainstalowany język – dołączył ktoś z tyłu – w jednym mamy mechaniczne składanie myśli w słowa, a w drugim rozumienie pojęć i relacji pomiędzy nimi. I obstawiam, że inne stworzenia tego nie mają i właśnie dlatego nie mają matematyki, co należało dowieść. Oklaski, kurtyna, dziękuję, Nobla odbiorę w paczkomacie. – Wyborne! – uśmiechnął się. – Wspaniała hipoteza, którą z przyjemnością obalę. Obszary Broki i Wernickego funkcjonują doskonale na przykład w głowach szympansów. Ich uszkodzenie nie wpływa ani trochę na ich zdolność porozumiewania się. A uwierzcie mi, że robią to naprawdę wspaniale. I tak, ich mózgi są prawie takie same jak nasze. – Zatrzymał się na moment. – Właśnie wpadliście na trop tego, skąd biorą się język i umiejętność logicznego myślenia. Jak rodzi się matematyka? – Ponownie zrobił pauzę, ale tym razem o wiele za długą. Najpierw poczuł dziwne mrowienie w nogach, potem w szczęce, usta odmówiły współpracy i zdołał już tylko prychnąć, zabulgotać bez treści. |
Wiele wskazuje na to, że kluczem do rozwiązania zagadek języka i logicznego myślenia jest interpretowalność modeli AI. Tak, interpretowalność modeli sztucznej inteligencji, a nie ludzkiego mózgu. Zinterpretować to znaczy wyjaśnić relacje pomiędzy sygnałami, które zmuszają model do odpowiedzi, czyli np. promptami a sygnałami generowanymi przez model, np. tekstami odpowiedzi na prompt. Chodzi o to, aby w zrozumiały i przekonujący dla nas sposób pokazać, czego model się nauczył i w jaki sposób tę wiedzę wykorzystuje.
Podziel się
Może Cię zainteresować
Uczenie ze wzmocnieniem, czyli jak ograć mistrza
Na czym polega jeden z najpotężniejszych sposobów uczenia i kiedy ujawnił swój potencjał?
