AI jest skutecznym narz\u0119dziem, kt\u00f3re zwielokrotnia nasze mo\u017cliwo\u015bci i sugeruje optymalne rozwi\u0105zania. Ale musimy pami\u0119ta\u0107, \u017ce to tylko narz\u0119dzie. Oznacza to, \u017ce ostateczn\u0105 decyzj\u0119 o samym jego u\u017cyciu, ale te\u017c sposobie tego u\u017cycia, powinien podj\u0105\u0107 cz\u0142owiek.<\/p>
A z tym bywa r\u00f3\u017cnie.<\/p>
Ostatnio \u015bwiat obieg\u0142y wiadomo\u015bci o przypadkach b\u0142\u0119dnego zastosowania AI przez ameryka\u0144ski resort sprawiedliwo\u015bci.<\/p>
Stany Zjednoczone zmagaj\u0105 si\u0119 z problemem du\u017cej liczby obywateli obj\u0119tych r\u00f3\u017cnymi formami nadzoru penitencjarnego. W 2016 roku dotyczy\u0142o to prawie 7 milion\u00f3w Amerykan\u00f3w. To sprawia, \u017ce pojawia si\u0119 presja, aby zmniejszy\u0107 liczb\u0119 wi\u0119\u017ani\u00f3w, oczywi\u015bcie bez stwarzania ryzyka wzrostu przest\u0119pczo\u015bci. To z kolei doprowadzi\u0142o do pojawienia si\u0119 pomys\u0142u, by organy \u015bcigania u\u017cywa\u0142y zautomatyzowanych narz\u0119dzi, w tym system\u00f3w rozpoznawania twarzy. Wykorzystuj\u0105 je, by sprawniej identyfikowa\u0107 podejrzanych.<\/p>
Praktyki te prawie od razu spotka\u0142y si\u0119 z krytyk\u0105. Pytano o to, czy faktycznie poprawiaj\u0105 bezpiecze\u0144stwo, czy te\u017c utrwalaj\u0105 istniej\u0105ce nier\u00f3wno\u015bci?<\/p>
Badacze i obro\u0144cy praw obywatelskich wielokrotnie wykazywali, \u017ce systemy rozpoznawania twarzy zawodz\u0105 w przypadku os\u00f3b o ciemniejszej karnacji – zdarza\u0142o si\u0119, \u017ce system myli\u0142 cz\u0142onk\u00f3w kongresu ze skazanymi przest\u0119pcami. Dodatkowo b\u0142\u0119dy algorytm\u00f3w bywa\u0142y zwielokrotniane przez z\u0142\u0105 jako\u015b\u0107 danych. Nierzadko zdj\u0119cia wykorzystywane do analizy by\u0142y niskiej rozdzielczo\u015bci lub wykonane w s\u0142abych warunkach o\u015bwietleniowych. Wszystko to prowadzi\u0142o do nies\u0142usznych zatrzyma\u0144.<\/p>
Po aresztowaniu wprowadzane jest najbardziej kontrowersyjne narz\u0119dzie – algorytmy oceny ryzyka przest\u0119pczego. Badaj\u0105 one profil oskar\u017conego i przewiduj\u0105 tzw. wynik recydywy – czyli pojedyncz\u0105 liczb\u0119 okre\u015blaj\u0105c\u0105 prawdopodobie\u0144stwo, \u017ce dana osoba ponownie pope\u0142ni przest\u0119pstwo. S\u0119dzia uwzgl\u0119dnia ten wynik przy podejmowaniu decyzji, kt\u00f3re mog\u0105 okre\u015bli\u0107, czy dana osoba powinna zosta\u0107 osadzona w wi\u0119zieniu przed rozpraw\u0105 i jak surowy powinna dosta\u0107 wyrok.<\/p>
Logika u\u017cywania takich narz\u0119dzi opiera si\u0119 na tym, \u017ce je\u015bli mo\u017cesz dok\u0142adnie przewidzie\u0107 zachowanie przest\u0119pcy, mo\u017cesz lepiej zaplanowa\u0107, czy przeznaczy\u0107 \u015brodki na resocjalizacj\u0119, czy na kary wi\u0119zienia. Teoretycznie zmniejsza to r\u00f3wnie\u017c uprzedzenia, poniewa\u017c s\u0119dziowie podejmuj\u0105 decyzje na podstawie rekomendacji opartych na danych, a nie na intuicji.<\/p>
Ale tutaj pojawia si\u0119 problem.<\/p>
Rekomendacje generuje algorytm trenowany na historycznych statystycznych danych o przest\u0119pczo\u015bci. Tworzy on wzorce – korelacje statystyczne, kt\u00f3re nie wi\u0105\u017c\u0105 przyczyn ze skutkami. Je\u015bli na przyk\u0142ad algorytm odkryje, \u017ce niski doch\u00f3d koreluje z wysokim wska\u017anikiem recydywy to go podwy\u017cszy. Niezale\u017cnie od tego, czy pomi\u0119dzy niskim dochodem a ryzykiem pope\u0142nienia kolejnego przest\u0119pstwa wyst\u0119puje faktyczna kauzacja. To przecie\u017c jedynie informacja, \u017ce w konkretnym czasie wyst\u0105pi\u0142y razem dwa zjawiska: niski doch\u00f3d i wzrost przest\u0119pczo\u015bci. Nie oznacza to, \u017ce jedno spowodowa\u0142o drugie. Niestety narz\u0119dzia do oceny ryzyka przekszta\u0142caj\u0105 korelacje w pozorne zwi\u0105zki przyczynowe.<\/p>
To powoduje, \u017ce populacje, kt\u00f3re historycznie by\u0142y nieproporcjonalnie cz\u0119sto atakowane przez organy \u015bcigania \u2013 jak mniejszo\u015bci i spo\u0142eczno\u015bci o niskich dochodach \u2013 s\u0105 nara\u017cone na wysokie oceny prawdopodobie\u0144stwa recydywy. W rezultacie otrzymujemy b\u0142\u0119dne ko\u0142o: algorytm zamiast zapobiega\u0107, wzmacnia i utrwala zakorzenione uprzedzenia.<\/p>
Na szcz\u0119\u015bcie debata nad tymi narz\u0119dziami wci\u0105\u017c trwa. W 2018 roku w Stanach Zjednoczonych ponad 100 organizacji zajmuj\u0105cych si\u0119 prawami obywatelskimi podpisa\u0142o o\u015bwiadczenie wzywaj\u0105ce do zaprzestania stosowania oceny ryzyka. W odpowiedzi niekt\u00f3re s\u0105dy i w\u0142adze stanowe zaproponowa\u0142y im wsp\u00f3\u0142prac\u0119 nad popraw\u0105 sytuacji przepe\u0142nionych wi\u0119zie\u0144 i areszt\u00f3w. <\/p>
Marbre Stahly-Butts z organizacji Law for Black Lives powiedzia\u0142a: \u201eOcena ryzyka oparta na danych to spos\u00f3b na oczyszczenie i zalegalizowanie opresyjnych system\u00f3w\u201d. Doda\u0142a r\u00f3wnie\u017c: \u201eNie jeste\u015bmy ryzykiem. Jeste\u015bmy potrzebami\u201d.<\/p>
Brytyjski rz\u0105d planuje umo\u017cliwi\u0107 policji dost\u0119p do bazy danych zawieraj\u0105cej zdj\u0119cia 50 milion\u00f3w posiadaczy prawa jazdy. Brytyjczycy traktuj\u0105 to jako naruszenie swojej prywatno\u015bci, wi\u0119c protestuj\u0105.<\/p>
Unia Europejska rozwa\u017ca\u0142a udost\u0119pnienie zdj\u0119\u0107 z rejestr\u00f3w praw jazdy pa\u0144stw cz\u0142onkowskich w bazie danych Pr\u00fcm do walki z przest\u0119pczo\u015bci\u0105. Propozycja ta jednak zosta\u0142a wycofana na pocz\u0105tku tego roku. Uznano j\u0105 za nieproporcjonalne naruszenie prywatno\u015bci.<\/p>","protected":false},"excerpt":{"rendered":"
Czy AI mo\u017ce naprawd\u0119 przewidzie\u0107 przysz\u0142e przest\u0119pstwa? Kontrowersje wok\u00f3\u0142 algorytm\u00f3w ryzyka i system\u00f3w rozpoznawania twarzy w wymiarze sprawiedliwo\u015bci.<\/p>\n","protected":false},"author":57,"featured_media":6021,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"rank_math_lock_modified_date":false,"footnotes":""},"categories":[755],"tags":[83,216],"popular":[],"difficulty-level":[36],"ppma_author":[345],"class_list":["post-6007","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai_news","tag-ai","tag-ai-ethics","difficulty-level-easy"],"acf":[],"authors":[{"term_id":345,"user_id":57,"is_guest":0,"slug":"adam-jedrusyna","display_name":"Adam J\u0119drusyna","avatar_url":{"url":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/10\/profile.jpg","url2x":"https:\/\/haimagazine.com\/wp-content\/uploads\/2024\/10\/profile.jpg"},"first_name":"Adam","last_name":"J\u0119drusyna","user_url":"","job_title":"","description":"Fan nowych technologii i historii. Z natury stoik i minimalista."}],"_links":{"self":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/6007","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/users\/57"}],"replies":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/comments?post=6007"}],"version-history":[{"count":2,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/6007\/revisions"}],"predecessor-version":[{"id":6174,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/posts\/6007\/revisions\/6174"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media\/6021"}],"wp:attachment":[{"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/media?parent=6007"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/categories?post=6007"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/tags?post=6007"},{"taxonomy":"popular","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/popular?post=6007"},{"taxonomy":"difficulty-level","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/difficulty-level?post=6007"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/haimagazine.com\/pl\/wp-json\/wp\/v2\/ppma_author?post=6007"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}