Jak powiedzieć „algorytm” w języku kiswahili?

Ten post jest współautorem Mercy Musya i Grace Kamau z Busara Center for Behavioural Economics w Nairobi w Kenii, przy udziale Dana Bjorkegrena z Brown University i Joshua Blumenstock z UC Berkeley i CEGA.

Źródło: Busara Center for Behavioural Economics

Decyzje podejmowane kiedyś przez ludzi są coraz częściej podejmowane przez algorytmy, czy to w celu udzielenia pożyczki, zdiagnozowania choroby, a nawet przyjęcia zamówienia w restauracji. Chociaż niektóre z tych decyzji są trywialne, inne nie są finansami osobistymi, co budzi obawy, że jeśli algorytmy są wykorzystywane do podejmowania ważnych decyzji, powinny wyjaśnić, w jaki sposób są one podejmowane. Na przykład Unia Europejska naciska na „prawo do wyjaśnienia” w przypadku decyzji cyfrowych. Ale jak wyjaśnić decyzje na podstawie złożonych modeli? Czy możliwe jest wyjaśnienie decyzji wszystkim tym, których to dotyczy, nawet tym, którzy mają bardzo małe doświadczenie z technologią i algorytmami?

Zbadaliśmy te pytania w kontekście pożyczek cyfrowych, jednego z najbardziej udanych zastosowań uczenia maszynowego w krajach rozwijających się.

Co to jest pożyczka cyfrowa?

Co czwarty Kenijczyk wziął pożyczkę cyfrową (Gubbins i Totolo, 2018). Kredyt cyfrowy zapewnił ponad 6 milionom Kenijczyków ocenę kredytową na podstawie tego, jak korzystają z telefonów (Björkegren i Grissen 2015), tym samym zapewniając im dostęp do kredytu.

Zazwyczaj użytkownicy pobierają cyfrową aplikację kredytową ze sklepu Google Play, włączają uprawnienia aplikacji do dostępu do swoich danych w mediach społecznościowych, danych GPS, list kontaktów, SMS-ów, dzienników połączeń i tak dalej. Następnie aplikacja analizuje dane i wykorzystuje algorytmy do ustalenia zdolności kredytowej i wielkości pożyczki.

Źródło: M-Pesa

Czy ludzie rozumieją pojęcie „algorytmu”?

Ten proces nasuwa jednak pytanie: czy ci użytkownicy naprawdę rozumieją, jak działają te algorytmy i jak ich działalność może je zakwalifikować lub zdyskwalifikować z pożyczek? A jeśli nie, to czy można przekazać biedakom naturę algorytmów? W ten sposób, ile informacji należy podać?

Seria sześciu dyskusji w grupach fokusowych (FGD) badała ogólne rozumienie przez Kenijczyków algorytmów cyfrowych kredytu, które określają uprawnienia do kredytu. FGD odbyły się w Busara Center for Behavioural Economics w Nairobi, gdzie zaproszono 50 osób: zróżnicowany zestaw mieszkańców Kibera i Kawangware z puli respondentów o niskich dochodach w Busara, którzy posiadali smartfony i mieli przynajmniej pewne wcześniejsze doświadczenie z jakąś formą cyfrową kredyt. Tylko 64% uczestników miało wykształcenie średnie. Następnie uczestnicy zostali poproszeni o wyjaśnienie swojego zrozumienia procesu cyfrowego zatwierdzania kredytu, wyjaśniono im prosty proces algorytmiczny, a następnie przedstawiono zestaw hipotetycznych ćwiczeń w celu oceny, czy rozumieli algorytmy.

Prawie wszyscy uczestnicy mieli niewielką wiedzę lub zrozumienie algorytmów wykorzystywanych przez cyfrowe narzędzia kredytowe.

Wiele osób odroczyło się do bardziej tradycyjnych procedur formalnych, aby sprecyzować proces, który według nich stosują te platformy do oceny ich kwalifikowalności do pożyczek, tj. Oszczędności, głównych źródeł dochodów, poręczycieli pożyczek i / lub transakcji MPESA. Uczestnicy mniej zaznajomieni z podejściami algorytmicznymi założyli, że doszło do większej zmowy między wszystkimi instytucjami finansowymi w celu wymiany informacji na temat wniosków, które zostaną wykorzystane zbiorowo do oceny kwalifikowalności.

„Uważam, że oni [na przykład pożyczkodawca cyfrowy] udają się i sprawdzają z innymi instytucjami pożyczającymi [telekomunikacją, na przykład Safaricom i biurem informacji kredytowej CRB], aby uzyskać więcej informacji na temat tego, czy jestem dobrym pożyczkobiorcą, czy nie. ”

Jednak uczestnicy ogólnie uważali, że możliwe jest określenie niektórych cech ludzi na podstawie korzystania z telefonu.

Dane o użytkowaniu telefonu w połączeniach, wiadomościach SMS, zainstalowanych aplikacjach, wzorcach ładowania baterii i połączeniach WiFi, między innymi czynnościami, mogą w sposób zgodny określać różne cechy demograficzne. Ogólnie rzecz biorąc, respondenci w FGD byli w stanie zrozumieć, w jaki sposób niektóre dane mogą zidentyfikować dobrych lub złych kredytobiorców. Niektóre nawet podzieliły zachowania, koncentrując się na codziennych interakcjach zawodowych:

„Ludzie biznesu częściej odbierają więcej połączeń z tych samych numerów telefonów, a ich GPS pokazuje, że poruszają się dość często, ponieważ muszą kontaktować się z klientami online lub osobiście”.

Prywatność ma znaczenie, ale anonimizacja rozwiązuje wiele problemów.

Większość uczestników nie była jasna co do celu uprawnień, jakie udzielają w tych aplikacjach. Kiedy dane zebrane przez te aplikacje zostały im wyraźnie opisane, uczestnicy wyrazili obawy dotyczące ich prywatności, nagrania połączeń i treści SMS-y były najbardziej wrażliwymi obszarami zainteresowania. Były jednak znacznie wygodniejsze dzięki anonimowemu gromadzeniu danych, tj. Mieszaniu numerów telefonów, o ile nie gromadzono żadnych treści.

Prosty, smaczny język ma kluczowe znaczenie dla skutecznego przekazywania specyfikacji algorytmów.

Busara próbował wyjaśnić algorytmy przy użyciu różnych podejść, np. równania matematyczne lub ilustracje graficzne. Większość uczestników próbowała zrozumieć algorytmy przedstawione w postaci równań matematycznych, podczas gdy uczestnicy łatwiej zrozumieli ich schemat. Wykorzystanie wykresu kołowego do wyjaśnienia proporcji było najbardziej skuteczne.

Uproszczone terminologie odpowiadają poziomowi wykształcenia tej populacji i codziennemu językowi (w większości slangu). Pojęcia takie jak „zwiększona proporcja” lub „odliczenie” można zastąpić odpowiednio „więcej” i „odjąć”. Pożyczkobiorcy chętnie rozumieją te zasady podejmowania decyzji, ale tylko w takim zakresie, w jakim jest im łatwiej zrozumieć ogólną koncepcję.

Co to oznacza dla komunikacji motywowanej algorytmem?

Trwa globalna debata na temat zakresu, w jakim przejrzystość algorytmu powinna być prawnie upoważniona do zapewnienia ochrony konsumenta. Obecny projekt prowadzony przez Joshua Blumenstock i Daniela Björkegrena w Busara Center, wspierany przez Fundację Billa i Melindy Gatesów za pośrednictwem Cyfrowego Obserwatorium Kredytowego (DCO) CEGA, ma na celu ustalenie, w jaki sposób algorytmy mogą być odpowiednio przekazywane, nawet gdy kredyty cyfrowe nadal zwiększają swój zasięg .