Algorytmy rządzą naszym życiem

Opublikowano: 28.09.2017 | Kategorie: Prawo, Publicystyka

Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych, czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym). Oto dwie takie przykre historie z życia pana Jakuba.

Historia pierwsza pochodzi z USA. Luty roku 2001, zostałem parę dni po delegacji, żeby przejechać przepiękną Highway 1 z Los Angeles do San Francisco. Po całym dniu jazdy zajeżdżam do miejscowości Capitola na wybrzeżu Pacyfiku i idę do motelu. Miejsca są, pięćdziesiąt dolarów, OK, chcę płacić. Wyciągam kartę kredytową, recepcjonistka, pani Yrma, przeciąga ją paskiem magnetycznym i oddaje mi. Chwytam kartę i wtedy maszyna zaczyna piszczeć i kątem oka łowię napis „Risk of credit card fraud. Cut the card, call the police”.

Na szczęście już trzymam kartę, ale wtedy robię głupstwo: sięgam do wewnętrznej kieszeni marynarki. Chcę wyciągnąć paszport, ale recepcjonistka wpada w panikę. Robi trzy kroki do tyłu i nerwowo zaczyna szperać po szufladzie. Ale zanim wyciągnie gnata i wyceluje go we mnie, wydobywam paszport. Spokojnie, łagodnym głosem mówię: „Look, to ja. Zdjęcie i moja twarz – to ja. Moje nazwisko i nazwisko na karcie to samo? No więc to ja. To jakieś misunderstanding. Just a misunderstanding”. Ona w międzyczasie znalazła pistolet, ale nie wyciąga go z szuflady. Otrząsa się z emocji, mówi, że ona musi to wyjaśnić. Chce wziąć kartę, ale ja jej nie daję – to jedyna moja karta, gotówki mam tyle, żeby zapłacić za jedzenie, spanie albo samochód – ale nawet nie dwie z tych rzeczy. Uzgadniamy, że pójdę coś zjeść, a ona w tym czasie wyjaśni sprawę. Spisuje dane z karty.

Do dzisiaj widzę siebie siedzącego nad hamburgerem z myślą: czy to ostatni posiłek, jaki jem na amerykańskiej ziemi za własne pieniądze? Czy następny będzie za kratkami na koszt podatnika? Jak wyjaśnię, że nie jestem karcianym oszustem? Jak z Kalifornii, 9 godzin przesunięcia czasu, sprawdzić ważność karty wydanej przez polski bank? Z czego zapłacę za samochód? Do motelu wracam jak skazaniec, widząc samochód policyjny przed wejściem.

Na szczęście okazało się, że z kartą wszystko jest OK. Pani Yrma wita mnie uśmiechem i mówi, że kiedy „z palca” wpisała dane mojej karty do maszyny, wszystko przeszło (dzisiaj zapewne byłoby to niemożliwe). Policjanci krótko i przyjaźnie mnie przesłuchują. Dzisiaj rozumiem, że dali mi spokój także dlatego, że byłem biały, mówiłem dobrym angielskim i jechałem na umówione spotkanie do Krzemowej Doliny. Gdybym był czarny, kaleczył język i nie miał umówionego spotkania w Cupertino, pewnie rozmowa potoczyłaby się inaczej.

Miesiąc później do mojej firmy przychodzą czytniki pasków magnetycznych. Przeciągam moją kartę przez niego i widzę przyczynę: data ważności mojej karty była zapisana jako 01-09-2001, 1 września 2001. Ale Amerykanie piszą datę w postaci miesiąc-dzień-rok. W lutym 2001 dla czytnika karta była więc od miesiąca nieważna. Dobrze, że pani Yrma nie zdążyła wyciągnąć tego pistoletu.

Druga historia pochodzi sprzed dwóch miesięcy. W 2010 r. podpisałem z bankiem umowę kredytu na dom. Jako zabezpieczenie przedstawiłem dwie nieruchomości: kredytowany dom oraz mieszkanie, którego nie sprzedawałem. Jednak wiedząc, że mieszkanie po paru latach sprzedam, w umowie zawarliśmy zobowiązanie banku do zwolnienia zabezpieczenia na mieszkaniu, gdy pozostająca nieruchomość (dom) będzie wystarczającym zabezpieczeniem.

Na początku tego roku udało mi się wreszcie znaleźć kupca na mieszkanie, poszedłem więc do banku, żeby zwolnił zabezpieczenie. Bank odpowiedział na to, że może podjąć taką decyzję dopiero wtedy, gdy będzie miał umowę przedwstępną sprzedaży. Podpisałem więc taką umowę, a kupujący wpłacił mi zadatek, 30 tys. złotych. Sądziłem, że to czysta formalność: kredyt spłacany był wzorowo (ani jednego dnia opóźnienia, ani złotówki niedopłaty), spłacony znacząco ponad wymagane 80% wartości domu (tzw. LTV), nasza zdolność kredytowa znacząco powyżej tej, którą mieliśmy występując o kredyt.

Jakież było nasze zdziwienie, gdy bank zażądał dodatkowej spłaty kredytu (do prawie 60% wartości nieruchomości) oraz dodatkowych zabezpieczeń, a także chciał podwyższyć marżę. Na nasz argument, że przecież w umowie zobowiązali się do zdjęcia zabezpieczenia, odpowiedzieli, że zobowiązanie zapisali, ale ono nie jest wiążące, bo muszą przestrzegać zaleceń własnych modeli matematycznych oceny ryzyka. A także, że Komisja Nadzoru Finansowego wydaje zalecenia, które zobowiązują ich do utrzymania zabezpieczeń, itd. I co prawda nie ujawnią mi ani tych metod, ani tych algorytmów, ani tych regulacji, ale arbitralnie podjęli decyzję o dodatkowych zabezpieczeniach, zaniżeniu wymaganej wartości kredytu do zabezpieczenia oraz o zaniżeniu wyceny mojego domu względem przedstawionej przez rzeczoznawcę. Również na podstawie własnych modeli.

Stanąłem przed alternatywą: albo przyjmę te nowe, gorsze dla mnie warunki, albo nie będę mógł sprzedać mieszkania. A to oznaczałoby konieczność zwrotu zadatku w podwójnej wysokości (60 tysięcy złotych). Złożyłem jedna i drugą reklamację, ale bank pozostał nieugięty. W efekcie musiałem spełnić ich wymagania, ponosząc konkretne straty finansowe. Sprawa w tej chwili jest u Rzecznika Finansowego, staram się uzyskać jego wsparcie; jeśli mi się uda, skieruję sprawę do sądu.

Może nie są to jakieś spektakularne historie, nikt nie wyrzucił mnie z samolotu, nikt nie odesłał mojego dziecka ze szkoły, nikt nie zablokował mi konta bankowego, uniemożliwiając wypłatę pensji pracownikom, ale mam świadomość, że powierzając decyzje algorytmom, wystawiamy się na pewne ryzyko. Sam, jako informatyk, żyję w dużej mierze z automatyzacji pewnych powtarzalnych czynności – więc mój stosunek do algorytmizacji procesu decyzyjnego jest zasadniczo pozytywny. Wątpliwość może dotyczyć skali i charakteru decyzji, które komputery podejmuję. Pytanie, czy ryzyko błędnych decyzji jest to większe, czy mniejsze ryzyko niż kiedy te same decyzje były powierzane ludziom, uznaję za otwarte. Nie ma twardych danych, które by to potwierdzały lub temu zaprzeczały.

Autorstwo: Jakub
Zdjęcie: fancycrave1 (CC0)
Źródło: Panoptykon.org

TAGI: , ,

OD ADMINISTRATORA PORTALU: Hej! Cieszę się, że odwiedziłeś naszą stronę! Naprawdę! Jeśli zależy Ci na dalszym rozpowszechnianiu niezależnych informacji, ujawnianiu tego co przemilczane, niewygodne lub ukrywane, możesz dołożyć swoją cegiełkę i wesprzeć "Wolne Media" finansowo. Darowizna jest też pewną formą „pozytywnej energii” – podziękowaniem za wiedzę, którą tutaj zdobywasz. Media obywatelskie, jak nasz portal, nie mają dochodów z prenumerat ani nie są sponsorowane przez bogate korporacje by realizowały ich ukryte cele. Musimy radzić sobie sami. Jak możesz pomóc? Dowiesz się TUTAJ. Z góry dziękuję za wsparcie i nieobojętność!

Poglądy wyrażane przez autorów i komentujących użytkowników są ich prywatnymi poglądami i nie muszą odzwierciedlać poglądów administracji "Wolnych Mediów". Jeżeli materiał narusza Twoje prawa autorskie, przeczytaj informacje dostępne tutaj, a następnie (jeśli wciąż tak uważasz) skontaktuj się z nami! Jeśli artykuł lub komentarz łamie prawo lub regulamin, powiadom nas o tym formularzem kontaktowym.

Dodaj komentarz

Zaloguj się aby dodać komentarz.
Jeśli już się logowałeś - odśwież stronę.