Cathy O’Neil – Broń matematycznej zagłady. Jak algorytmy zwiększają nierówności i zagrażają demokracji, Wydawnictwo PWN, Warszawa 2017.

23.07.2018 7 minuty na przeczytanie artykułu

Cathy O’Neil z wykształcenia jest matematyczką, uzyskała ona tytuł PhD na Harvardzie. Kiedy w 2007 roku odeszła z Uniwersytetu rozpoczęła pracę w sektorze finansowym i po kilku latach ze sceptycyzmem zaczęła wypowiadać się o roli różnego rodzaju systemów, które mają wpływ na życie obywateli.

 

Broń Matematycznej Zagłady jest jej trzecią książką, która porusza tego typu zagadnienia.  Autorka we wstępie wskazuje, że jej zauroczenie liczbami sięga wczesnego dzieciństwa, matematykę uznawała za swoistą ucieczkę od świata realnego, w którym panował chaos, jednak, jak mówi, praca w wielkiej instytucji finansowej, uświadomiła jej, że cyferki, które miały tworzyć uporządkowaną rzeczywistość, tak naprawdę wchodziły w dość bliskie relacje ze światem realnym, wywołując skutki w postaci bezrobocia, czy ubóstwa, a nawet napędzały te zjawiska.

Książka podzielona jest na 10 rozdziałów, zawiera ona także Wstęp i Podsumowanie. We Wstępie czytelnik ma szansę zapoznać się z kontekstem, który zainspirował autorkę do podjęcia się badań nad tym tematem. Dwa pierwsze rozdziały, czyli: „Konstrukcja bomby: Czym jest model?” oraz „Zespół stresu pourazowego: utrata złudzeń” poświęcone są charakterystyce zjawiska, wyjaśnieniu czytelnikowi na czym opierają się systemy, w jaki sposób są konstruowane, a także jakie zagrożenia mogą za sobą nieść. Kolejne rozdziały dotyczą konkretnych kwestii: edukacji wyższej, rynku reklamowego, sprawiedliwości, pracy, rynków kredytowych i ubezpieczeń, czy społeczeństwa obywatelskiego w obliczu Big Data. W podsumowaniu autorka odnosi się do przedstawionych problemów oraz danych, jednocześnie wskazując rekomendacje, jakie mogą być istotne, dla ulepszenia funkcjonowania systemów.

To, że systemy zdominowały nasze życie nie jest niczym zdumiewającym, wydaje się wręcz być koniecznością, skoro co sekundę w internecie pojawia się ok. 30 gigabajtów nowych danych. To, co niegdyś stanowiło dorobek informacyjny całej cywilizacji, równa się zawartości informacyjnej produkowanej przez użytkowników sieci w ciągu zaledwie dnia, czy dwóch. Dochodzi do tego również tempo, w jakim funkcjonuje dzisiejszy świat, co niejako wymusza tworzenie systemów ułatwiających porządkowanie wszelkich danych. Podobnie jak człowiek w swoim myśleniu stosuje uproszczenia, tak i większe podmioty muszą się na nich opierać.  Jeśli jakaś światowa korporacja zdecydowała się odcinać od wszystkich automatyzacji procesów, zostałaby daleko w tyle za konkurencją, pozostając mniej efektywną, a co za tym idzie, prawdopodobnie zgasła by szybciej, niż ktokolwiek by o niej usłyszał. Autorka książki jest świadoma konieczności funkcjonowania systemów, które upraszczają i wprowadzają względny ład, ułatwiając ludziom poruszanie się po świecie. Zresztą zauważa, że funkcjonowanie człowieka, jako jednostki, samo oparte jest na pewnym systemie, jednak jednostka ma do dyspozycji ułamek tego, czym zarządzają firmy, do tego wyposażona jest w świadomość, dzięki czemu na bieżąco aktualizuje swoje algorytmy, nanosi poprawki, jest w stanie reagować elastycznie, w odpowiednim momencie, na zmiany w jej otoczeniu. To, co próbuje przedstawić Cathy O’Neil na przykładzie amerykańskich korporacji, systemu penitencjarnego, czy szkolnictwa, to przede wszystkim nieprzystawalność funkcjonujących systemów do rzeczywistości, a czasem wręcz przeciwskuteczność, w odniesieniu do tego, czemu miały służyć, bo jeśli system miał być lekarstwem na dyskryminacje, a jedynie ją reprodukuje, wówczas okazuje się nie tylko nieefektywny, ale też szkodliwy.

Dzięki zaangażowaniu w analizowanie systemów, swojej wiedzy z zakresu matematyki, pasji, a także własnemu doświadczeniu, autorce udało się zebrać bardzo szeroką gamę materiałów, przykładów, danych, za pomocą których przedstawia tytułowy problem. Ponadto warto wskazać, że w tej książce konkretny przykład nie jest przedstawiony jako abstrakcyjny przypadek. Ludzie w narracji mają imiona, nazwiska, własną historię oraz emocje. W przypadku analizy pracy systemów te historie wydają się być bardzo ważne, gdyż właśnie one są częścią tego, czego system zazwyczaj nie potrafi wziąć pod uwagę. Między obrazowymi opisami konkretnych sytuacji czytelnik może jednak znaleźć dane, które mają stanowić dowód na to, że owe sytuacje faktycznie występują, a także na częstotliwość ich występowania.

Istotnym, wskazywanym przez autorkę, problemem, jest też nieprzejrzystość, nieświadomość i tajemnica, jaką są owiane standardy, przy pomocy których systemu porządkują ludzi. Systemy oceny kompetencji, zdolności kredytowych, zdolności do pracy (nawet w firmach, gdzie pracownicy są nisko opłacani, a rotacja jest wysoka), predyspozycji finansowych, są często tworzone przez firmy zewnętrzne, chronione tajemnicą przedsiębiorstwa, a jednocześnie otrzymanie odpowiedzi zwrotnej o czynniki brane pod uwagę przy ocenie, jest niezwykle trudne, często wręcz niemożliwe. Wydaje się, że jest to istotny problem, nad którym już dziś możemy zastanawiać się również w Polsce. W naukach o zarządzaniu, czy psychologii organizacji, niejednokrotnie wspomina się o tym, że pracownicy powinni znać kryteria na podstawie których są oceniani, a także otrzymywać informację zwrotną odnośnie postępów w pracy, czy realizacji określonych zadań. Jest to zresztą praktykowane w wielu korporacjach, na lepszym lub gorszym poziomie. Prawdopodobnie dyrektorzy w placówkach, o których pisała autorka, również konsultowali się z nauczycielami, jednak ocena została przeprowadzona przez system, była więc bezosobowa, dzięki czemu nie miała być narażona na subiektywizm, jednak gdy okazywało się, że wyniki ewaluacji stoją w całkowitej sprzeczności z obserwowalnymi rezultatami działań, trudno nie myśleć nad tym, dlaczego ocena wygląda tak, a nie inaczej.

Należy również zwrócić uwagę na styl pisania, jakim posługuje się Cathy O’Neil w swojej pozycji. Ta pozycja jest zaadresowana do każdego, kto byłby zainteresowany tym zjawiskiem, nie trzeba mieć nawet podstawowej wiedzy w tym zakresie, gdyż autorka przedstawia te wszystkie zjawiska językiem przystępnym, obrazując sytuacjami, które wszyscy znamy z codziennego życia. Być może sama rzeczywistość, zdominowana przez systemy, może okazać się dla czytelnika swoistą abstrakcją, jednak, jeśli przyjrzeć się przestrzeni internetowej, rynkowi pożyczek, reklamie i handlowi, czy ubezpieczeniom, z pewnością można dostrzec, że każdy z nas jest w pewnym systemie numerem telefonu, adresem, kodem składającym się z kilku cyfr. Możliwe, że nie odczuwamy tego na własnej skórze. Należałoby też zauważyć, że w Polsce, choć zarówno edukacja, jak i system penitencjarny posiadają własne modele, to wiele wciąż jednak zależy od jednostek, które w ich ramach funkcjonują, stąd też być może przykłady opisywane przez autorkę w odniesieniu do niektórych działań, w naszej aktualnej rzeczywistości prędzej wynikać będą z ludzkich uprzedzeń i schematów myślowych (czyli też pewnego rodzaju systemów, jednak prywatnych, osobistych), aniżeli ze stworzonego modelu warunkującego ich postępowanie. Tu jednak należałoby za autorką poczynić zastrzeżenie, że to właśnie czynnik ludzki często stoi za tym, że systemy nie spełniają swojej roli, gdyż projektantami modeli są jednostki. Ponadto systemy takie często uwzględniają dane zebrane na przestrzeni lat – jeśli te dane obarczone były zakrzywieniami w postaci przekonań i uprzedzeń jednostek, wówczas system uczy się reprodukować owe uprzedzenia, które zapamiętuje na podstawie różnych przesłanek.

Zarzutem, jaki można postawić książce, jest fakt, że autorka czuje się silnie związana ze swoją myślą, w związku z czym, część przykładów może u niektórych czytelników powodować wzburzenie, bądź też zaskoczenie, co nie znaczy, że nie są one swoistym potwierdzeniem tezy, jaka przedstawiana jest w książce. Tym grozi również emocjonalność opisów – z jednej strony burzą one ścianę stworzoną ze statystyki, która nie wzbudza emocji, a z drugiej strony narażają autorkę na zarzut, że książka oparta jest na dowodach anegdotycznych. Biorąc jednak poprawkę na fakt, że konkretne sytuacje nie są całkowitym odzwierciedleniem wszystkich występujących przypadków, warto mimo wszystko samemu zapoznać się z pozycją, gdyż pomaga ona zrozumieć czym może grozić bezgraniczne zaufanie wobec systemów, a także dlaczego tak ważne jest, by mieć tego świadomość.

A dlaczego ta świadomość jest ważna w codziennym życiu? Tego też możemy dowiedzieć się z tej pozycji, a jednocześnie przekonać się dlaczego trudności wynikające z konfliktu danych mogą narastać i kumulować się. Autorka wskazuje na przykład na funkcjonowanie wyszukiwarek internetowych – jeśli użytkownik najczęściej sięga do badań naukowych, źródeł wiarygodnych, to wyszukiwarka częściej będzie mu je podpowiadać, zupełnie inaczej wynik wyszukiwania będzie wyglądał u kogoś, kto zwykł korzystać z portali o znikomej wiarygodności. Tym samym, nawet w zakresie korzystania z tego samego narzędzia, dwie osoby mogą uzyskiwać całkowicie różne wyniki. Jest to tym trudniejsze, gdy zastanowimy się nad funkcjonowaniem baniek informacyjnych w mediach społecznościowych, czy niejednokrotnie przytaczanej przez autorkę, pętli sprzężeń zwrotnych, która powoduje, że ci, którzy znaleźli się w trudnej sytuacji, dostają mniejsze szanse na wydostanie się z niej.

Kilka opisanych wyżej przypadków to zaledwie zasygnalizowanie problemów, jakimi w swojej pozycji zajmuje się Cathy O’Neil. Należy również zwrócić uwagę na powiązanie funkcjonowania opisywanych modeli z równością, również w rozumieniu równości wobec prawa, czy z szeroko pojmowaną wolnością jednostki. Poza wymienionymi problemami ciekawe spojrzenie prezentuje autorka w odniesieniu do osób, które znajdują się na wyższych pozycjach w hierarchii społecznej, oni również nie są w stanie uniknąć wpływu systemów na własne życie. Jednocześnie otaczające ich bańki informacyjne i profilowanie reklam, ofert, sprawia, że trudniej im dotrzeć tych, którzy zostali zepchnięci na margines. Co istotne – algorytmy, systemy, dane, którymi dysponują korporacje, organy rządowe, portale społecznościowe, wymykają się często regulacjom prawnym, przez co trudno również je kontrolować.

Książkę można polecić każdemu, kogo ciekawi tego rodzaju spojrzenie na systemy, a także problemy, jakie idą z nimi w parze. Należy tu zwrócić uwagę, że skierowana jest przede wszystkim dla ludzi, którzy nie są ekspertami w ich zakresie, ze względu na język, a także raczej popularnonaukowy wydźwięk. Nawet jeśli część przykładów może wydać się czytelnikowi nieadekwatna, to nie niweczy to wysiłku, jaki autorka włożyła w zarysowanie samej idei, a także zagrożeń, jakie za sobą niesie. Cała idea opiera się o przekonanie, które wyraziła również w niedawnym wystąpieniu w ramach Ted Talks. Chodzi o zburzenie ślepej wiary w algorytmy, które nie zawsze spełniają założoną przez projektantów rolę, a czasem spełniają ją, jednocześnie burząc założenia równości, czy przekraczając pewne granice wolności jednostki, zagrażając również demokracji. Zaprezentowane nowe spojrzenie na kwestie tak aktualne wydaje się być bardzo potrzebne. Prosty i zrozumiały język służą również popularyzacji wiedzy w tym zakresie. Autorka zgrabnie przeplata wątki teoretyczne z rzeczywistym ich odzwierciedleniem, tworząc pewną historię od której miejscami trudno się oderwać, zmuszając również czytelnika do zastanowienia się nad swoim miejscem w wirtualnej rzeczywistości.

Publikacja finansowana w ramach programu Ministra Nauki i Szkolnictwa Wyższego pod nazwą „DIALOG” na lata 2018-2019