Recenzja – „Broń matematycznej zagłady. Jak algorytmy zwiększają nierówności i zagrażają demokracji” Cathy O’Neil

Mimo wszystko przeczytałem tę książkę. I nie żałuję, bo była ona zarówno horrorem jaki i miejscami groteskową komedią.

Autorka…

Dr Cathy O’Neil, jest akademicką matematyczką, która zawodowo zajmuje się audytem algorytmów. Ma za sobą solidny bagaż doświadczeń, bo podczas kryzysu w 2008 r., pracowała jako analityczka dla jednego z funduszy hedgingowych. To spowodowało, że przeszła na „drugą stronę barykady”.

Informacja zarządza cyfrową gospodarką…

Dewiza epoki informacji brzmi: im więcej danych, tym lepiej. Dane napędzają modele i powiązane z nimi algorytmy, a te z kolei są silnikami gospodarki wkraczającej w kolejną, tym razem  cyfrową rewolucję. Rewolucję powinno utrzymać w ryzach prawo, ale to niestety reaguje zbyt wolno i niekoniecznie sensownie. Powstaje masa nieporozumień, z którymi próbujemy sobie poradzić sięgając po rozwiązania, które przypominają przypadek faceta biegnącego przed automobilem z chorągiewką.

Posiadanie danych niepokoi…

Ogromna liczba zgromadzonych danych rodzi pokusę, by znaleźć powiązania między nimi i na tej podstawie przewidywać nasze zachowania. Lub nawet sterować nimi. Pojawiły się modele, które za pomocą języka matematyki opisują te zależności. Stworzone na ich podstawie algorytmy, mają nas ocenić lub zasugerować sposób postępowania.

Źródła problemów…

Niestety modele są z natury uproszczeniami. Ta natura sprawia z kolei, że generują błędy w algorytmach. Rozwiązaniem byłoby zastosowanie sprzężenia zwrotnego, które po zauważeniu błędnych wyników modyfikuje model lub chociaż alarmuje użytkownika o tym, że pojawiły się nieprawidłowości. Kolejnym problemem jest jakość danych, na których pracują modele. Wykorzystywanie drugorzędnych danych sprawia, że generowane wyniki są zniekształcone.

Algorytm jako broń masowego rażenia…

Cathy O’Neil opisuje przypadki zastosowania algorytmów do oceny jakości pracy, wiarygodności kredytowej, ryzyka recydywy skazanych i ich wpływ na pracę wymiaru sprawiedliwości. Pisze o trzech cechach algorytmizacji: działaniu na dużą skalę, nieprzejrzystości i szkodliwości. Klimat opisywanego przez nią „algorytmicznego cyfrowego ekoświata” przypomina chwilami środowisko, z którym się zetknął tajemniczy K. w „Zamku” Franza Kafki. 

Polecam…

Książka powstała w 2016 roku i sięgając po nią obawiałem się, że będzie zdezaktualizowanym „starociem”, lecz okazało się, że ciągle jest aktualna. Niestety.
Autorka sugeruje szereg rozwiązań, których nie będę tutaj opisywał, by nie zdradzać treści książki. Pozwolę tylko sobie zacytować jedno zdanie: „Technologia już istnieje. Brakuje nam tylko woli”.

Jeśli dalej będzie nam jej brakowało, to demokratyczne mechanizmy wypracowane przez dziesiątki lat będą erodowały jeszcze bardziej niż obecnie.