Krwiozercze algorytmy forum_iab_2015_wersja z komentarzami
•Descargar como PPTX, PDF•
3 recomendaciones•587 vistas
Wystąpienie z Forum IAB 2015 Algorytmy decydują o coraz większej części naszego życia - coraz rzadziej my podejmujemy decyzje, coraz częściej robi to za nas program. Jakie są tego skutki i co robić, aby nie wpaść w pułapkę "ogłupiania człowieka przez otoczenie go algorytmami"?
Recomendados
Recomendados
Más contenido relacionado
Destacado
Destacado (20)
Krwiozercze algorytmy forum_iab_2015_wersja z komentarzami
- 1. Krwiożercze algorytmy Mikołaj Machowczyk, Jacek Karolak K2
- 2. Algorytmy…
- 3. „Mądre” algorytmy tworzą głupiego konsumenta
- 7. • (jakoś pokazać ekstremizm)
- 9. Decydują, ile zapłacimy „Orbitz was found to be steering Mac users towards more expensive hotels.” „Non-black and black hosts receive strikingly different rents: roughly $144 versus $107 per night, on average.” „Home Depot shoppers on mobile devices saw higher prices than users browsing on desktops.”
- 12. Flash Crash - 1 000 000 000 000 USD
- 14. Człowiek staje się „userem” traktowanym bezrefleksyjnie
- 15. Jesteśmy tylko rekordem w bazie
- 18. Czy algorytmy muszą tworzyć głupiego konsumenta?
- 19. Otwieranie okna na inne poglądy
- 20. Czynnik ludzki może być przewagą
- 23. Psychologia i etyka w IT
Notas del editor
- W K2 w pracy nad projektami mamy dwa podejścia: dział strategii pracuje nad „klasycznymi” briefami szukając prawd o konsumencie, insightów i ewentualnie zastanawiając się, jaką technologię zastosować w dotarciu do konsumenta. Dział strategii technologicznej z kolei pracuje nad rozwiązaniami technologicznymi, ale aby je dobrze przygotować, musi zrobić ”krok wstecz” i zastanowić się nad tym, kim jest człowiek który z takiej technologii będzie korzystać. Tak więc regularnie pracujemy razem. W wyniku takich spotkań i rozmów wpadliśmy na pomysł tej prezentacji.
- Dziś pewnie prawie każdy z nas skorzystał z pomocy jakiegoś algorytmu. Od tych najprostszych działających jak serwis „if this then that” – czyli „jeśli temperatura wzrosła powyżej 22 stopni, włącz klimatyzację”. Do tak skomplikowanych algorytmów, jak nawigacja samochodowa czy wzywanie najbliższego środka transportu. I dobrze, bo algorytmy są potrzebne i mocno ułatwiają nam życie – nawet się nie zastanawiamy czy są i jak działają.
- Jeśli jednak przyjrzymy się algorytmom bliżej, to okaże się, że nie tylko ułatwiają nam życie – one na nie bardzo mocno wpływają, a czasem wręcz za nas decydują. I niestety – jak na razie grozi nam z tego powodu ogłupienie. Dlaczego uważamy, że te algorytmy kształtują głupiego konsumenta i człowieka?
- Rosnąca siła algorytmów może doprowadzać do regresu ludzkości jako społeczeństwa, które się rozwija, chętnie się ze sobą komunikuje i współpracuje. Dlaczego tak myślimy?
- Jesteśmy otoczeni zbyt dużą ilością treści. Algorytmy ją dla nas przesiewają, dobierają i wskazują rekomendacje według naszych upodobań. Na pierwszy rzut oka jest to świetne – skoro lubię koty, a nienawidzę psów, algorytm to rozpozna, będę oglądał tylko koty i żył w błogiej szczęśliwości. Przy czym efekt jest taki, że przez to zostajemy zamknięci w złotej klatce swoich upodobań – podobnych treści, znajomych, miejsc. Granica moich upodobań wytycza tą klatkę, w której będę tkwić – to zjawisko zostało nazwane „filter bubble”.
- Efektem „filter bubble” jest zamykanie nas na różnorodność i skomplikowanie świata. Internet, z założenia stworzony po to, aby dawać równy dostęp do różnorodnych treści wraz z budowaniem się profilu zaczynamy oglądać przez ciągle zawężające się okno naszych upodobań. Wielokrotnie potwierdzam już to co wiem, a przestaję mieć dostęp do nowych informacji i bodźców, zjawisk których istnienia nawet nie potrafię sobie wyobrazić. Nie jestem pobudzany do radzenia sobie z nowością i odmiennością – mój horyzont się zawęża. W rezultacie realizujący się scenariusz o którym wspominał Mark Zuckerberg mówiąc, że wiewiórka umierająca w moim ogródku powinna być dla mnie ważniejsza niż ludzie umierający w Afryce powoduje, że niska częstotliwość niektórych informacji spowoduje, że nie będą dla użytkownika ważne, bądź nigdy nie dotrą do jego świadomości. O tym wszystkim zadecyduje algorytm.
- Co więcej będąc zamkniętym na tylko podobnych mi ludzi moje poglądy i postawy, choćby były najdziwniejsze na świecie są dodatkowo potwierdzane, co jest dobrą drogą do wszelkiego rodzaju postaw radykalnych, ekstremalnych, może niedorzecznych. Zastanówmy się ile w ile teorii wierzymy tylko dlatego, że były nam wielokrotnie powtarzane przez otaczających nas ludzi. W warunkach masowej komunikacji digitalowej bańki upodobań są świetnym narzędziem do utwierdzania całych grup ludzi, że nawet najgłupsza teoria jest prawdą. Warto zadać sobie pytanie, czy algorytmy dobierające treści i znajomych w mediach społecznościowych nie mają swojego udziału w przekonywaniu całych grup młodych ludzi z oświeconych, zachodnich krajów, aby decydować się na walkę ramię w ramię z Państwem Islamskim z, w ich mniemaniu, Imperium Zła.
- Po drugie, algorytmy nas ogłupiają, bo nie wiemy że z nami coś robią. Zupełnie nieświadomi jesteśmy, jakie elementy naszej rzeczywistości są kontrolowane przez algorytmy, a jeśli jesteśmy już świadomi to nie wiemy jak taki algorytm działa.
- Nawet w prostych decyzjach konsumenckich jesteśmy wbrew pozorom coraz bardziej ograniczeni. Korzystając z platform online niby możemy kupić sobie wszystko, co chcemy – ale wybór jest tak duży, że jakiś system jednak nam podpowiada. Oczywiście to dobrze, że sklepy podpowiadają nam, co jeszcze dokupić. Ale niestety coraz częściej jesteśmy „wyciskani z kasy” przez algorytmy. Jest to tzw zjawisko discriminative pricing, na temat którego powstają regularne raporty.
- Nawet gospodarką mocno rządzą już algorytmy. Giełda to bardzo ważna część rozwiniętych gospodarek, a giełdami nie rządzą już na co dzień ludzie. Maklerzy NYSE którzy wymieniają na parkiecie zlecenia utrzymywani są tylko z uwagi na PR i budowanie wizerunku. Zresztą cały fizyczny parkiet tylko po to jest utrzymywany. Obrotów tam już za dużo nie ma. Kilkukrotnie więcej obrotów generują maklerzy przed komputerami, ale jest coś więcej.
- Większość transakcji na NYSE generują algorytmy. Algorytmy, których nikt regularnie nie kontroluje – są pisane i uruchamiane, aby generować gigantyczne ilości transakcji i zarobić na nich ułamki centa – jednak w masie siła. Są algorytmy która szukają trendów, inne robią ruchy pozorowane aby nie pokazać że sprzedają lub kupują duże ilości jakichś aktywów, inne z kolei próbują je zdemaskować. Istna wojna. Gra toczy się o mikrosekundy. Serwery HFT stoją w takiej samej odległości od serwera NYSE, aby wyrównać szanse, bo prędkość światła przy ich szybkości działania musi zostać uwzględniona! Tylko na Wall Street programuje te algorytmy ponad 2000 fizyków, bo podobno fizycy potrafią obrabiać sprawnie ogromne ilości danych.
- Niby dobrze, że takie automatyczne decyzje podejmuje program. Tak, ale algorytmom brakuje ważnych rzeczy: wyczucia i zdrowego rozsądku. Do czego to prowadzi? 6 maja 2010 – przed około 30 minut główne indeksy w USA spadły drastycznie (w granicach 10%). Jeden z najbardziej niespokojnych momentów na giełdzie w historii. Na szczęście było to o takiej godzinie, że nie wpłynęło na rynek światowy. Co się stało? Jeden z algorytmów zaczął składać i szybko odwoływać ogromne ilości zleceń (nawet 19 000 zleceń na sekundę) i obracał w ten sposób ponad 200 milionami USD. Niestety, inne algorytmy zaczęły na to szaleńczo reagować. W efekcie przez chwilę wartość rynku skurczyła się o bilion dolarów – dwuletnie PKB Polski. Na szczęście giełdy pilnują jeszcze ludzie i widząc, że coś jest nie tak wyłączyli algorytmy, ratując gospodarkę światową. https://en.wikipedia.org/wiki/2010_Flash_Crash
- Naszymi nastrojami też mogą rządzić różne algorytmy doboru treści. Na razie była jedna duża „wpadka” ale pokazująca, jak wielkie są to możliwości. No i nie gwarantuje to, że takie praktyki nadal się nie odbywają. Jakiś czas temu odbył się słynny eksperyment, w którym FB wyświetlał kilkuset tysiącom osób tylko wybrane statusy znajomych (o konkretnych emocjach) aby sprawdzić, jak wpłynie to na emocje innych ludzi. Oczywiście wpływ był widoczny – widząc pozytywne informacje od innych, sami też zaczynamy wypuszczać pozytywne informacje. Tak można przecież podbijać każdy temat – poparcie dla interwencji zbrojnej, wybranego kandydata, konkretnego światopoglądu… http://wyborcza.pl/1,75477,16244545,Facebook_manipuluje_naszymi_emocjami__Przeprowadzili.html
- Trzecim zagrożeniem jest fakt, że człowiek w rękach algorytmów staje się bezrefleksyjnie traktowanym „userem”.
- Algorytmy jako mechanizmy deterministyczne, zero-jedynkowe podejmują decyzję tylko w ramach scenariuszy, które zostały przewidziane i danych, które mają. Traktują nas chłodno jako zbiór informacji wejściowych, nie biorąc pod uwagę złożoności ludzkiego świata – moralności, relacji międzyludzkich, czy emocji. Na przykład – amerykańska sieć handlowa Target zbudowała algorytm rozpoznający nawyki zakupowe klientek i obliczający prawdopodobieństwo, że kobieta jest w ciąży. Chcąc pomóc swoim klientkom w tym wrażliwym finansowo okresie życia wysyłali pocztą kupony zniżkowe na zakup najpotrzebniejszego wyposażenia – łóżeczek, wanienek, oliwek itp. Wszystko było dobrze, dopóki takiego listu nie odebrał ojciec małoletniej córki. Wybrał się do najbliższego sklepu sieci i zrobił awanturę kierownikowi, że namawiają jego córkę na macierzyństwo w tak młodym wieku. Po kilku dniach wrócił do sklepu z przeprosinami - okazało się, że to on był w błędzie. Jego córka faktycznie była w ciąży, tylko nie powiedziała o tym fakcie rodzicom… http://www.businessinsider.com/the-incredible-story-of-how-target-exposed-a-teen-girls-pregnancy-2012-2
- Kolejny przykład pokazał profesor Stanfordu Chris Gerdes, który brał udział w programowania autonomicznych samochodów i doszedł do problemu, kiedy to algorytm musi podejmować decyzję wymiaru moralnego do tej pory zastrzeżoną dla ludzi. W sytuacji awaryjnej, w której dziecko nagle wyskakuje na środek drogi samochód nie mogąc uniknąć wypadku musi podjąć decyzję, czy wjechać w dziecko, czy w stojącą na przystanku grupkę emerytów. Na podstawie jakich kryteriów podejmie tą decyzję? Ilości osób, wieku? Kluczowym elementem w tym problemie jest to, że dzisiaj nie rozliczamy ludzi z takich decyzji – wiemy, że człowiek reaguje w takiej sytuacji instynktownie, bez wszystkich informacji, nielogicznie. Taka sytuacja jest traktowana w kategoriach wypadku, nie dało się inaczej. Algorytm działa w sposób skalkulowany, nie można rozwiązania takiej sytuacji traktować w kategoriach wypadku. Czy ktoś będzie odpowiadał za takie a nie inne decyzje algorytmu? Zaczyna się mówić, że tylko ten problem może przyhamować rozwój autonomicznych pojazdów na dobre kilka lat. Nie problemy technologiczne, tylko właśnie moralno-prawne. http://www.cnet.com/news/self-driving-car-advocates-tangle-with-messy-morality/
- Umówiliśmy się przed składaniem prezentacji, że nie będziemy wrzucać zdjęć z Raportu Mniejszości bo to będzie zbyt duże science-fiction. Ale jednak to, co zrobiła policja w Chicago w zeszłym roku to prawdziwy „pre-crime department” i musieliśmy… Przygotowali algorytm, który używając analizy powiązań pomiędzy ludźmi bazującej na raportach policyjnych oraz ilości przestępstw w danym regionie zamieszkania wytypował 400 osób, które są według programu są na najlepszej drodze do popełnienia poważnego przestępstwa – morderstwa lub ciężkiego pobicia. Odwiedzili 60 osób z tej listy patrząc im głęboko w oczy i mówiąc: „nic nie kombinuj, obserwujemy Cię”. Pojawiają się pytania jakimi dokładnie kryteriami kierują się takie algorytmy? Czy działają etycznie, zachowują wszystkie prawa człowieka i domniemanie niewinności? Czy skoro działają w instytucjach publicznych ich mechanika nie powinna być jawna? http://www.theverge.com/2014/2/19/5419854/the-minority-report-this-computer-predicts-crime-but-is-it-racist
- Oczywiście tak źle nie musi być. Trzeba tylko już teraz wyciągać wnioski z wpadek, które się zdarzają. My na co dzień w Polsce też się do tego przyczyniamy. Może nie robimy FB, czy Yahoo News, to nie ten poziom zaawansowania i skali. Ale jednak wprowadzamy różnego typu automatyzację w serwisach i aplikacjach, nawet jeśli korzysta z nich kilka tysięcy osób, to znaczy że mamy na te kilka tysięcy jakiś wyraźny wpływ. Co zatem robić, by nie dać się zapędzić w takie ekstremalne, sytuacje, które pokazaliśmy?
- Po pierwsze, pomyślmy czy nasze ułatwianie życie nie zamyka ludzi w coraz ciaśniejszej bańce – produktów, informacji, ofert. Zastanówmy się, co zrobić aby za szybko ludzi nie szufladkować i jak podsuwać im nowe rzeczy, aby starać się ich nie tyle „zamknąć w bańce” co raczej „dać bańkę z oknem na świat”.
- Może nas nie być stać na super algorytmy, ale możemy za to świadomie użyć czynnika ludzkiego jako przewagi produktowej. Tak jak z nurtem rękodzieła obecnie, czy slow foodu – za chwilę nastąpi powrót do mody na wybór treści przez ludzi. Ludzie potrafią inspirować i otwierać na nowości innych ludzi, a algorytmy jednak są w tym bardzo ograniczone i nie są kreatywne. Przykład? Radio internetowe Slacker konkurując ze Spotify czy Pandora.com stworzyło stacje online’owe zarządzanie przez DJów i są one słuchane 20% dłużej, niż inne.
- Wiedzę o użytkownikach możemy wykorzystywać nie tylko, aby dobierać treści wg ich upodobań. Możemy ją również stosować do „anty-personalizacji”, kiedy świadomie dajemy użytkownikom treści, które będą go zmuszać do myślenia, inspirować, wypychać ze strefy komfortu. Oczywiście nie może to być treść dominująca, tylko dodatek, ale można wyobrazić sobie całe grupy użytkowników, które tego poszukują i dla których będzie to wartość.
- Dajmy użytkownikom poczucie kontroli. Poinformujmy w jakich miejscach stosujemy zaawansowane algorytmy i jakimi danymi o użytkowniku są zasilane. Pozwólmy użytkownikom podglądać na bieżąco te dane, pozwólmy je aktualizować, wyzerować, a może zrezygnować z użytkowania algorytmu. Dobrym przykładem może być Google, które w ostatnich tygodniach integruje nową funkcjonalność prywatności do „mojego konta Google” i pozwala na podgląd zebranych przez Google informacji o nas. Anty-przykładem może być Facebook i Apple, które gromadzą o nas bardzo dużo informacji, a dla nas jest to zupełnie czarna, zamknięta skrzynka, do której nie możemy zaglądnąć.
- Od dawna znane są prawa Asimova stosowane do robotów. Jednak to w sumie dość prosty problem do zdefiniowania – jak mają się zachować człekokształtne roboty (czyt.: duże namacalne obiekty) w obliczu zagrożenia ludzkiego życia. Problem z algorytmami jest poważniejszy, bo ich nie widać, a ich działalność też nie jest tak namacalnie zauważalna. Pojawia się pytanie o kodeks algorytmów? Czy nie powinien powstać? A wtedy tysiące pytań technicznych – kto go zdefiniuje, kto będzie weryfikował, czy jest realizowany, itp.? A może tymczasowa odpowiedź jest gdzie indziej? Możemy sobie wyobrazić, że za kilka lat normalnością stanie się coś co powoli wkracza już do najbardziej zaawansowanych algorytmicznie firm. W zespołach tworzących zaawansowane systemy IT obok analityka systemowego i programisty zobaczymy psychologów IT, którzy będą modelować wpływ algorytmu na zachowanie użytkownika po drugiej stronie. Co tylko potwierdza, że znajomość czystej technologii IT nie zawsze będzie wystarczać – znajomość człowieka w świecie IT będzie miało coraz większą wartość…
- Mamy nadzieję, że agendę kolejnego Forum IAB ułoży znów rada programowa, a nie algorytm szukający ciekawych słów kluczowych w przesłanych planach wystąpień.