Dzieci uczą AI trochę ludzkości dzięki Cognimates

Stefania Druga, grupa Personal Robots

Inteligentne zabawki i rozmówcy są obecni w domach dzieci, a ponad 47,5 miliona dorosłych korzysta już z inteligentnych asystentów (takich jak Alexa Alexa) w samych Stanach Zjednoczonych. Rodzi to pytania o wpływ AI na zachowanie dzieci. Podczas mojego pobytu w grupie Personal Robots w MIT Media Lab celem moich badań było lepsze zrozumienie tego pokolenia dzieci dorastających z AI, aby chronić i zachęcać do pozytywnego rozwoju. Stworzyłem Cognimates jako platformę open source do umiejętności czytania i pisania dla dzieci w wieku 7–14 lat. Podczas gdy szkoły i rodzice zaczynają uznawać kodowanie za jeden z wymaganych umiejętności czytania i pisania dla dzieci, uważam, że ważne jest także, aby wprowadzić młodych ludzi w koncepcje sztucznej inteligencji i uczenia maszynowego poprzez praktyczne projekty, aby mogli lepiej informować i krytycznie wykorzystywać te technologie.

Platforma Cognimates ma to osiągnąć, umożliwiając dzieciom programowanie i dostosowywanie wcielonych inteligentnych urządzeń, takich jak Alexa i inteligentny robot Cozmo. Dzieci mogą również korzystać z platformy do trenowania własnych modeli sztucznej inteligencji, dowiedzieć się, jak zbudować grę, która z czasem lepiej się z nimi bawić, lub stworzyć instalację, w której całe pomieszczenie reaguje na sposób, w jaki opisują swoje marzenia. Cognimates opiera się na wielu częściach (w tym wizualnym języku programowania) platformy open source Scratch, stworzonej przez grupę Lifelong Kindergarten w MIT Media Lab. Głównym celem platformy Cognimates jest rozszerzenie kodowania na edukację i alfabetyzację AI.

Po pierwsze uwielbia: majsterkowanie, naukę i nauczanie
Podobnie jak wielu studentów Media Lab moja ścieżka daleka jest od liniowości, ale wątkiem jednoczącym zawsze była moja miłość do nauki napędzana głęboką ciekawością. Urodziłem się w Maneciu-Ungureni, małym miasteczku w Transylwanii w Rumunii. Moja mama jest nauczycielką, a mój tata inżynierem elektrykiem. Dorastając, muszę odkrywać i dzielić się ich pasjami. Razem z tatą nauczyłem się projektować i budować wszystko, od mebli w moim pokoju po rzeczy, które zmieniliśmy na stare części samochodowe kupione na targach. Wraz z mamą odkryłem, jak dobry nauczyciel może wpłynąć na życie jej uczniów. Zobaczyłem, jak moja mama była duszą wspólnoty w małej wiosce, w której uczyła. Nie tylko pomagałaby uczniom w ich problemach akademickich, ale także słuchała ich osobistych zmagań i pomagała im i ich rodzinom w mgnieniu oka. Od najmłodszych lat rozumiałem, jak pozytywny wpływ mogą mieć dobrzy nauczyciele w swoich społecznościach i dlaczego ważne jest łączenie się i praca z ludźmi na poziomie osobistym.

Warsztaty Hackidemia STEAM dla rodzin w Singapurze 2014. Źródło: Warsztaty Hackidemia STEAM dla rodzin w Singapurze 2014

W końcu postanowiłbym połączyć zamiłowanie mojej mamy do nauczania z pasją taty do praktycznego majsterkowania w życiu. W 2012 roku założyłem Hackidemia, organizację non-profit zajmującą się edukacją STEM. Zdobyłem swój pierwszy tytuł magistra inżynierii mediów dla edukacji i przez rok pracowałem w zespole Google ds. Jakości wyszukiwania w Dublinie, zanim zdecydowałem, że chcę kontynuować swoją pasję dla edukacji i mają bardziej bezpośredni wpływ. Opuściłem Google i pojechałem na cztery miesiące do sierocińca poza stolicą Phnom-Penh. Tutaj pracowałem z dziećmi w każdym wieku, ucząc je wszystkiego, co mogłem: matematyki, angielskiego, literatury, korzystania z komputerów i Internetu, fotografii, naprawiania rzeczy. Starsze dzieci przekazywałyby następnie swoją wiedzę, ucząc młodsze dzieci.

Podczas tego doświadczenia odkryłem, jak potężne jest umożliwienie dzieciom nauki poprzez nauczanie i pracę nad praktycznymi projektami, które są istotne w ich lokalnych społecznościach. Po dołączeniu do CRI, interdyscyplinarnej grupy badawczej zajmującej się naukami przyrodniczymi na Uniwersytecie Paris Descartes, postanowiłem rozpocząć podobne warsztaty we francuskich szkołach. Kiedy byłem w trakcie ubiegania się o doktorat w CRI, jeden z moich przyjaciół opowiedział mi o letnim programie wpływu społecznego w NASA o nazwie Singularity University (SU). W SU poznałem także jednego z ludzi, którzy najbardziej zainspirowali mnie do realizacji moich marzeń, robota i byłego astronautę Dana Barry'ego. Dan próbował zostać astronautą 10 razy, zanim w końcu mu się udało. Kiedy go spotkałem, był odpowiedzialny za laboratorium sprzętu w SU i wciąż był tak radosny i podekscytowany jak dziecko za każdym razem, gdy miał okazję włamać się na sprzęt.

Od lewej do prawej: Stefania Druga, Dan Barry, Libby Falk na GSP12 SU Program. Źródło: TJ Rak 2012

Dan zachęcił mnie do rozpoczęcia warsztatów z prototypowania sprzętu i nauczył mnie, jak lutować i programować mikrokontrolery po raz pierwszy. Pod koniec programu zaproponowano mi bardzo kuszącą pracę, której ostatecznie odmówiłem, aby zbudować własną organizację. Wciąż pamiętam radę Dana: „Pomyśl, gdzie chcesz być za 10 lat i upewnij się, że poświęcasz każdy dzień, każdą minutę, aby się tam dostać i nie rozpraszać się po drodze”.

Podczas programu SU, podczas gdy uczyliśmy się robotyki, nanoprodukcji lub biologii syntetycznej, nie mogłem się powstrzymać przed zastanowieniem się, jak bardzo chciałbym dowiedzieć się o wszystkich tych technologiach, gdy byłem młodszy. Postanowiłem rozwinąć Hackidemię, aby przedstawić dzieciom najbardziej ekscytujące technologie i pytania badawcze w zastosowany i zabawny sposób. Z pomocą międzynarodowej sieci studentów i mentorów SU zaczęliśmy prowadzić warsztaty i organizować wydarzenia STEM na całym świecie. Cztery lata później mieliśmy 40 międzynarodowych rozdziałów na temat Hackidemii, kilka długoterminowych projektów pod naszym pasem, takich jak Afrimakers, MakerCamp i udało się przeszkolić ponad 400 mentorów, 2000 studentów i 10 000 dzieci. W tym momencie stało się dla mnie oczywiste, że zaczynamy maksymalizować nasz wpływ jako organizacja oddolna.

Warsztaty dotyczące hackidemii dla dzieci i nauczycieli w Budapeszcie 2015. Źródło: Hackidemia 2015

Powrót do szkoły: te same pasje, nowe umiejętności w Media Lab
Wtedy zacząłem myśleć o tym, co powinienem zrobić dalej, aby podjąć misję zmiany sposobu uczenia się dzieci na wyższy poziom. Chciałem uzyskać wskazówki, nauczyć się nowych umiejętności i pracować z ludźmi, którzy podzielają moje wartości i kierują mną. Wiedziałem o Media Lab, ponieważ korzystałem z wielu projektów Lab, takich jak Makey-Makey i Scratch, podczas moich warsztatów z dziećmi, a nawet miałem okazję odwiedzić i przedstawić Hackidemię grupie Lifelong Przedszkole. Zdecydowałem, że chcę pracować w miejscu, w którym badania zostaną wdrożone w prawdziwym świecie, a ludzie cenią i zachęcają do interdyscyplinarnego podejścia.

Kiedy zostałem przyjęty do programu magisterskiego Media Lab, nie miałem na myśli konkretnego projektu, ale wiedziałem, że chcę kontynuować pracę nad projektowaniem nowych kreatywnych doświadczeń edukacyjnych dla dzieci i budowaniem narzędzi, które by to wspierały. W pierwszym semestrze brałem udział w wielu zajęciach, od „Jak zrobić prawie wszystko” po Symbiozę ludzi z maszyną. Zacząłem budować różnego rodzaju dziwne i funky projekty - gigantyczną arkadę, programowalne przedłużenia nadwozia i 5-osiową maszynę do cięcia pianki, żeby wymienić tylko kilka.

Przykładowy projekt robota Poppy Ergo Jr, który można zaprogramować demonstracyjnie w celu rysowania za pomocą Scratch Extension opracowanego przez autora. Źródło: Stefania Druga

Mój pierwszy projekt kodowania AI
Szukając siłowników do przedłużania ciała, natknąłem się na robota open source do druku 3D, Poppy Ergo Jr., opracowanego przez firmę Flowers Group w Inria Bordeaux we Francji (http://www.poppy-project.org). Szczególnie podobało mi się, jak ten robot kodował siłowniki, które mogą rejestrować i odtwarzać każdy ruch. Natychmiast zacząłem wyobrażać sobie, jak dzieci mogą uczyć takiego robota poprzez demonstrację (np. Technika rysowania lub poruszania się jak pies).

Postanowiłem zbudować Scratch Extension dla tego robota. To było pierwsze rozszerzenie Scratch, które zbudowałem na początku 2017 roku, wraz z moim stażystą, Eesh Likhith. Po zbudowaniu mojego pierwszego zrobotyzowanego rozszerzenia pomyślałem, że byłoby wspaniale, gdyby dzieci mogły połączyć to z wizją komputerową. Scenariusz uczenia się, który miałem na myśli, polegał na tym, że dzieci pokazywałyby obiekt na kamerze robota, a robot próbował narysować go na podstawie obiektów, które już umie narysować. Do prototypowania tej interakcji wraz z Eeshem rozpoczęliśmy prace nad nowym rozszerzeniem Scratch do wizji komputerowej, w którym do rozpoznawania obrazów wykorzystano publiczny interfejs API Clarifai. Udokumentowaliśmy i opublikowaliśmy te dwa rozszerzenia na platformie ScratchX.

Otwieranie drzwi do edukacji AI
Moje pierwsze rozszerzenia kodowania robotów i rozpoznawania obiektów otworzyły drzwi do edukacji AI. Zacząłem współpracować z Randim Williamsem, absolwentem grupy Personal Robots, który był zainteresowany edukacją AI w wieku przedszkolnym. Profesor Cynthia Breazeal ma długą historię opracowywania technologii edukacyjnych dla dzieci, a także zestawów robotów społecznościowych, aby pomóc dzieciom w nauce kodowania poprzez nauczanie robotów. Randi i ja próbowaliśmy dowiedzieć się, kto jeszcze pracował w tej dziedzinie. Po odkryciu, że nie ma innych istotnych badań, postanowiliśmy przeprowadzić serię warsztatów i obserwować, jak dzieci i rodzice wchodzą w interakcje z urządzeniami AI i zabawkami oraz postrzegają je. Przeanalizowaliśmy i udostępniliśmy nasze ustalenia w szeregu artykułów i postów na blogu.

Przykład Cognimates Naucz platformę AI, w której dzieci mogą szkolić swoich klasyfikatorów za pomocą obrazów i tekstu. Źródło: Stefania Druga 2018

W trakcie tego procesu zdałem sobie sprawę, jak ważne jest odkrycie, jak działa technologia sztucznej inteligencji, i umożliwienie dzieciom pozycjonowania się jako twórcy sztucznej inteligencji, a nie tylko konsumentów.

Niestandardowy klasyfikator wizyjny stworzony przez dzieci z Cognimates do gry w Rock Paper Scissors. Źródło: Stefania Druga

Stworzenie Cognimates było wynikiem tych wstępnych badań. W tym projekcie dołączył do mnie niezwykle utalentowany zespół studentów: Sarah T. Vu, Tammy Qiu, Clemente Ocejo, Eesh Likith i Lauren Oh. Przyczyniły się one zarówno do technicznych aspektów platformy, jak i do badań w działaniu, które przeprowadziliśmy w szkołach i domach kultury.

Nazwę tę platformę jako hołd dla badań Edith Ackermann i pracy nad „Animatami” lub „Baw się rzeczami, które robią rzeczy”. Edith wraz z Sherry Turkle jako pierwsi odkryły, w jaki sposób dzieci angażują się i korzystają z inteligentnych zabawek w latach 80. i 90. . Ramy opracowane przez Edith w celu ustalenia, co pozwala na uznanie zabawki za „AniMate”, służyło zarówno jako wytyczna, jak i inspiracja do zaprojektowania platformy Cognimates. Celem tego projektu i moich badań jest wykorzystanie ich mądrości i odkrycie nowych zasad przewodnich przy projektowaniu narzędzi i urządzeń edukacyjnych dla tego pokolenia, które dorasta z AI.

Co to jest Cognimate?
Początkowo dla mnie Cognimate był wcielonym inteligentnym agentem, który dzieci mogły programować i uczyć. Agent byłby zarówno przyjaznym towarzyszem (towarzyszem zabawy), jak i przedmiotem do „myślenia z” i uczenia się z (kognitywny). Cynthia Breazeal i jej uczniowie z grupy Personal Robots już od kilku lat badają ten paradygmat „programowania jako nauczania” w SoRo (The Social Robot Toolkit), a także opracowują roboty społeczne jako rówieśnicze uczenie się. Więc Cognimates była naturalnym przedłużeniem tej tradycji w jej grupie badawczej.

Pomysł polegał także na zaprojektowaniu platformy, która pozwoliłaby dzieciom łączyć wiele obiektów obliczeniowych i zmuszać je do interakcji. Podczas moich studiów magisterskich zdaliśmy sobie sprawę, że dzieci będą odnosić się do postaci cyfrowych (duszków z kodelabu) również jako Cognimate. Mówiąc o zrealizowanych projektach i poznanych przez nich pojęciach, będą odnosić się raczej do projektu „uszczęśliwić Nary'ego”, a nie do projektu „wykrywania uczuć” lub „analizy sentymentów”. Podczas gdy wiele koncepcji i wewnętrznych mechanizmów systemów AI i inteligentnych agentów było początkowo zbyt abstrakcyjnych dla dzieci, mogli szybko zrozumieć, w jaki sposób maszyna uczy się, jeśli tę akcję uosabia postać, historia lub gra.

Przykłady fizycznych postaci Cognimates: Ogra i żabiego księcia opracowanych wraz z dziećmi w celu kreatywnego opowiadania historii przy pomocy projektu kodowego. Źródło: Stefania Druga

Zachęciło nas to do stworzenia o wiele więcej postaci i projektów początkowych, które mogłyby ucieleśnić i pokazać, co robią różne usługi AI. Niektóre postacie, takie jak Nary, mogą wyrażać różne emocje, jeśli komputer wykryje radosną lub smutną wiadomość. Inne znaki zmieniają kolor, aby pokazać komputerowi rozpoznany określony kolor; zrobiliśmy wielkie oko na rozszerzenie wizji, aby pokazać, co rozpoznaje komputer lub czy się myli. Kiedy dzieci programują za pomocą usługi poznawczej, cyfrowy Cognimate pokazuje i pokazuje, jak działa ta usługa (np. Uczy się widzieć lub mówić). Postaci te mają na celu stworzenie potężnych analogii i pomostów koncepcyjnych, umożliwiając dzieciom korzystanie z nich w relacyjnych historiach.

Przykładowy projekt początkowy Cognimates, w którym Nary reaguje na odczucia wysyłanych wiadomości. Źródło: Stefania DrugaPostać Cognimates, Nary, reaguje na odczucia wysyłanych wiadomości. Źródło: Projektant Mircea Dragoi, Lateral 2018

„Inność”, sztuczność, wiarygodność, życzliwość i programowalność Cognimate mogą prowadzić do bardzo bogatych refleksji psychologicznych, takich jak agencja i tożsamość, a także kwestie kontroli i komunikacji wykraczające poza pomaganie dzieciom w zrozumieniu działania programowania i sztucznej inteligencji.

Warsztaty Cognimates w Elizabeth Peabody Community Center w Somerville z zespołem UROP (od lewej) Lauren Oh, Sarah T. Vu, Tammy Qiu. Źródło: Stefania Druga.

Pod koniec mojej pracy magisterskiej odkryłem, w jaki sposób 107 dzieci (w wieku 7–14 lat) z czterech krajów lepiej zrozumiało koncepcje sztucznej inteligencji i zmieniło postrzeganie inteligentnych agentów, programując je i ucząc na platformie Cognimates. Po miesiącu programowania i szkolenia agentów AI na naszej platformie dzieci dobrze zrozumiały technologie AI i zaczęły biegle z nich korzystać. Umiejętności współpracy i komunikacji odegrały znaczącą rolę w tym, jak szybko dzieci były w stanie zrozumieć różne koncepcje uczenia maszynowego, takie jak widzenie komputerowe, analiza nastrojów i nadzorowane uczenie się.

Zmyśla
Jako młodszy badacz zarówno ekscytujące, jak i zastraszające jest podjęcie badań, które nie zostały jeszcze ustalone. Podczas gdy Sherry Turkle, Edith Ackermann, Michael Scaife i Mike Duuren przeprowadzili kilka badań na temat inteligentnych zabawek dla dzieci w poprzednich dekadach, technologia w tym czasie nie była tak zaawansowana jak obecnie, a inteligentne urządzenia nie były tak szeroko rozpowszechnione w domy i szkoły dla dzieci takie, jakie są dzisiaj. W tym kontekście musiałem zaprojektować i dostosować metodologie badawcze z różnych dziedzin, takich jak interakcja robotyki ludzkiej, kognitywistyka, pedagogika i psychologia, próbując zrozumieć, w jaki sposób dzieci dorastają z AI w dzisiejszych czasach dzięki obserwacjom empirycznym.

Projektując platformę Cognimates, próbowałem połączyć to, co uważałem za najważniejsze cechy poprzednich aplikacji do kodowania: intuicyjne bloki, dostęp do urządzeń mobilnych, połączenie ze światem fizycznym i urządzenia sprzętowe. Dodałem także modułowe wtyczki kodujące do usług poznawczych, oprócz intuicyjnych możliwości treningu AI. Są one specjalnie zaprojektowane do edukacji AI. Dzieci były zaangażowane jako partnerzy projektu na wszystkich etapach procesu.

Iteracje cyfrowych postaci Cognimates na podstawie opinii dzieci. Źródło: Projektant: Mircea Dragoi, Lateral 2018

Jak zauważa Allison Druin, „dzieci mają tak mało doświadczeń w życiu, w których mogą wyrazić swoje opinie i przekonać się, że są traktowane poważnie przez dorosłych”. Twierdzi, że takie doświadczenia mogą budować zaufanie do dzieci zarówno akademickich, jak i społecznych, i wytwarzać „projekt” skoncentrowane na uczeniu się. ”Jedną z moich ulubionych części tego projektu było doświadczanie potęgi tego rodzaju nauki oraz radości ze wspólnego projektowania i budowania dla dzieci iz dziećmi. Uważam to za krytyczny proces w projektowaniu wszystkich nowych i niezbadanych technologii, które wspierają rozwój dzieci.

Równowaga studentów
Będę bardzo szczery i powiem, że nie sądzę, że zawsze optymalizowałem obciążenie pracą i życiem w najlepszy możliwy sposób, co spowodowało, że przepracowałem bardzo dużo godzin i weekendów przez większość czasu. Próbowanie zbyt wiele w Media Lab jest częstym problemem, ponieważ laboratorium oferuje tak wiele możliwości i bardzo trudno jest nauczyć się mówić „nie”. Z biegiem czasu, gdy coraz bardziej koncentrowałem się na rozwoju tej platformy, nauczyłem się, jak przekazywać wszystkie inne moje obowiązki, takie jak uczęszczanie na zajęcia, tworzenie demonstracji i współpraca z firmami będącymi członkami Lab, tak aby zawsze przyczyniała się do rozwoju Projekt Cognimates w jakiś sposób.

Istotne było również nauczenie się, jak rozwijać i szkolić zespół stażystów (UROP), którzy mogliby niezawodnie wspierać projekt, prowadząc studia w szkołach lub wykonując prezentacje. Próbowałem pisać posty na blogu i rozmawiać z prasą za każdym razem, gdy publikowaliśmy nowe badanie. Dla mnie ważne było podzielenie się moimi badaniami i zaangażowanie wszystkich różnych społeczności rodziców, nauczycieli, projektantów technologii i decydentów, którzy mogliby pomóc w rozwoju tej dziedziny umiejętności korzystania z AI.

Mapa użytkowników Cognimates na całym świecie, 816 unikalnych użytkowników,
2063 sesji, średni czas sesji 30 min. Źródło: Stefania Druga 2018

Naprawdę zawsze jestem zdumiony i zainspirowany rzeczami, które wymyślają dzieci, gdy mają swobodę, narzędzia i przestrzeń do wyrażania i odkrywania. Kiedy prowadziłem studia w szkołach i było to trudne z powodu przeszkód administracyjnych lub z powodu samej ilości pracy, zawsze czerpałem energię, aby nadal widzieć, jak bardzo dzieci stawiają sobie wyzwania i uczą się. Pisząc moją pracę magiczną i utknąłem w analizie danych ilościowych lub w badaniach związanych z pracą, wróciłem do przeczytania transkrypcji z dziecięcych dyskusji i wywiadów. To wywołałoby uśmiech na mojej twarzy, przypomniałoby mi, dlaczego tak bardzo się staram, aby wykonać tę pracę i iść dalej.

Przyszłość Cognimates, dzieci i AI
Myślę, że bierzemy udział w wyścigu zbrojeń w dziedzinie edukacji z postępem technologii i musimy zacząć myśleć o alfabetyzacji AI, zanim ustalą się wzorce zachowań dzieci i ich rodzin. Włączyłem Hackidemię jako organizację non-profit, w ramach której będę kontynuować pracę, którą wykonałem z Cognimates, aby opracować pełny program nauczania dla edukacji AI (kidsteach.ai), współpracując z partnerami akademickimi i przemysłowymi. Celem jest dystrybucja dostępu do naszej platformy alfabetyzacji AI i zasobów edukacyjnych w różnych okręgach szkolnych, muzeach i bibliotekach w Stanach Zjednoczonych i na całym świecie, przy jednoczesnym pracowaniu nad szkoleniem nauczycieli i ich rodzin.

Demo Cognimates dla kanadyjskiego premiera Justina Trudeau podczas jego wizyty w MIT. Od lewej do prawej: Cynthia Breazeal, Justin Trudeau, Stefania Druga. Źródło: AP Press.

Chcę, aby moja praca była nadal informowana o badaniach i dawała studentom możliwości zaangażowania się, dlatego zacząłem współpracować z różnymi grupami badawczymi w MIT, Harvard School of Education, NYU ITP i Penn University. Najważniejszym celem dla dzieci Uczących sztuczną inteligencję jest dalsze wspieranie możliwości konstruktywnych rozmów na temat sztucznej inteligencji, łączenie różnych społeczności, umożliwiając dzieciom nauczanie nas i inspirowanie nas, jak najlepiej wykorzystywać sztuczną inteligencję w XXI wieku.

Myślę, że jednym z największych wyzwań systemowych, jakie napotkałem, było przekonanie dorosłych do słuchania i uczenia się od dzieci. Starałem się zapewnić rodzicom i nauczycielom sposoby prowadzenia i uczestnictwa w rozmowie z dziećmi bez dominacji. Myślę, że pierwszym krokiem w tym długoterminowym procesie jest pokazanie, jak wiele dzieci może zrobić z AI i dlaczego ważne jest, aby to zrozumiały. Następnym krokiem jest ułatwienie rodzicom i nauczycielom udziału w procesie uczenia się opartego na współpracy w zakresie tej technologii. Podczas gdy młodzi ludzie, jako cyfrowi tubylcy, bardzo szybko zdobywają nowe umiejętności techniczne, nie zawsze mają wystarczającą dojrzałość do podejmowania właściwych decyzji i właśnie tam ważne jest, aby wkroczyć rodziny i wychowawcy.

Dalsze zasoby

  • Dorastanie z AI. Cognimates: od kodowania po maszyny do nauczania, Stefania Druga. Praca magisterska MIT 2018 (pdf)
  • Hej, Google, czy mogę jeść, jeśli cię zjem ?: Wstępne wyjaśnienia dotyczące interakcji między dzieckiem a agentem. Stefania Druga, Randi Williams, Cynthia Breazeal i Mitchel Resnick. IDC 2017 (pdf)
  • Jak inteligentne są inteligentne zabawki? Atrybucje inteligencji dzieci i rodziców wobec obiektów obliczeniowych, Stefania Druga, Randi Williams, Hae Won Park, Cynthia Breazeal. IDC 2018 (pdf)
  • Moja lalka mówi, że jest OK: Zabawka z włączonym głosem wpływa na moralne decyzje dzieci, Randi Williams, Christian Vazquez, Stefania Druga, Pattie Maes, Cynthia Breazeal. IDC 2018 (pdf)

Ten post został pierwotnie opublikowany na stronie Media Lab.