„Sterowani algorytmami?” – czyli kto naprawdę rządzi w cyfrowej rzeczywistości

Kiedy Marek Kowalkiewicz pisze o algorytmach jako o „cyfrowych minionkach”, nie tylko używa efektownej metafory. Udowadnia, że działa one identycznie jak te małe postacie, które z zapałem wykonują polecenia, ale jeśli na chwilę się odwrócimy, potrafią zamienić świat w chaos. I może właśnie dlatego jego książkę „Sterowani algorytmami?” czyta się tak dobrze – bo nie jest kolejnym technologicznym manifestem ani katastroficzną przepowiednią, lecz opowieścią o relacji człowieka z tymi cichymi pomocnikami, którzy już dawno wymknęli się z laboratoriów i zamieszkali w naszych telefonach, komputerach, samochodach czy domach.

Algorytmy poza kontrolą

Kowalkiewicz, profesor Queensland University of Technology i były menedżer w Dolinie Krzemowej, widzi w algorytmach coś więcej niż linijki kodu. To uczestnicy życia gospodarczego – zarządzają pracą kierowców, rekomendują lekarstwa, przydzielają kredyty i – coraz częściej – uczą nasze dzieci. Wkraczają do firm, gdzie często są istotnym elementem na drodze do sukcesu, ale bywają też przekleństwem – kiedy zamiast pomagać tworzą zatory, koszty albo są wykorzystywane przez człowieka w sposób, zupełnie odwrotny od ich pierwotnego przeznaczenia…

Nie bez przyczyny książka ma podtytuł: „Nie pytaj, czy AI rządzi biznesem, pytaj, jak bardzo”.

Autor przyznaje, że sam długo uważał algorytmy za narzędzia, które tylko wykonują ludzkie instrukcje. Aż do momentu, gdy zrozumiał, że działają już na tyle autonomicznie, że potrafią wywołać skutki, których ich twórcy ani nie planowali, ani nie kontrolują.

Niektóre z opisanych w książce historii są zabawne, jak chocby algorytm, który próbował sprzedać książkę o muchach za 23 miliony dolarów. Inne – przerażające: jak te, w których algorytmy decydowały o przyznaniu kredytu, odrzucały kandydatów na studia lub – jak w Australii – błędnie wysyłały do obywateli wiadomości o konieczności zwrotu niesłusznie (wg. algorytmu) otrzymanych świadczeń socjalnych.

… ciąg dalszy pod materiałem video

Zobacz rozmowę z Markiem Kowalkiewiczem:

Algorytmy są jak ludzie?

Kowalkiewicz jednak nie moralizuje, pokazuje tyko, że świat algorytmów nie jest neutralny. Jest tak samo pełen błędów, uprzedzeń i nonsensów, jak ludzie, którzy je tworzą. Tyle że w ich przypadku błędy rozprzestrzeniają się szybciej niż plotki w sieci.

W przeciwieństwie do wielu autorów piszących o sztucznej inteligencji, Kowalkiewicz nie uprawia też technoentuzjazmu, nie rozsiewa też technopaniki. W jego narracji jest odczuwalny dystans profesora, który wie, że nowoczesność ma w sobie zarówno potencjał, jak i może stwarzać sytuacja absurdalne. Potrafi pisać o algorytmach z humorem – ale za tym humorem kryje się poważna myśl: im bardziej złożone systemy tworzymy, tym większej świadomości potrzebujemy, by z nimi współistnieć. Nie chodzi o to, by wyłączyć algorytmy, tylko by panować nad tym, co robią w naszym imieniu – i zareagować, jeśli robią coś nie tak, jak chcemy.

I to jest istotna tej książki. „Sterowani algorytmami?” nie jest bowiem o tym, jak działają algorytmy, tylko jak działamy my – w ich świecie.

Trzy zasady przetrwania

Książka dzieli się na trzy części – od historii algorytmów, przez ich współczesne zastosowania, po praktyczne wskazówki dla firm i menedżerów. Znajdziemy tu też trzy przesłania:

• Bądź mistrzem Minionków – czyli ucz się zarządzać technologią, zanim technologia zacznie cię przygniatać.
• Ucz się szybko – bo zrozumienie świata algorytmów wymaga ciągłej nauki i eksperymentu.
• Bądź odważny – bo przyszłość wciąż zależy od wizjonerów, nie od kodu.

Brzmi jak poradnik? Trochę tak jest (i dobrze!), ale Kowalkiewicz broni się przed dydaktyzmem. Zamiast suchych modeli zarządzania serwuje historie – o programiście, który przez sześć lat miał zautomatyzowaną własną pracę (o czym jego manager nie miał pojęcia), o kierowcach Ubera, którzy nauczyli się oszukiwać system, by wywołać sztuczne skoki cen.

Czego uczy ta książka?

Najciekawsze w „Sterowanych algorytmami?” nie są opisy przypadków, lecz sposób, w jaki autor łączy naukową precyzję z codziennym doświadczeniem. Pokazuje, że nie jesteśmy ofiarami algorytmów, tylko współtwórcami świata, w którym one działają. To nie maszyny decydują, lecz my (także wtedy, gdy oddajemy im pełną kontrolę nad jakimś wycinkiem rzeczywistości). I często ponosimy bolesne konsekwencje – przez brak refleksji, automatyzmy myślenia i wygodę.

„Sterowani algorytmami?” to książka, którą można czytać na dwa sposoby. Jako inspirujący przewodnik po świecie, w którym technologia nie jest już dodatkiem, lecz tłem naszej egzystencji. Albo jako ostrzeżenie, że jeśli przestaniemy patrzeć jej na ręce, obudzimy się w rzeczywistości zaprogramowanej przez kogoś innego. Tym bardziej że – o czym Kowalkiewicz wspomina na samym początku – na świecie jest tylko garstka ludzi, która wie, jak działają współczesne algorytmy.

Jedno jest pewne – po tej lekturze inaczej spojrzysz na otaczający Cię świat. Nie tylko ten cyfrowy.