Wytyczne etyczne dotyczące badań w mediach społecznościowych z narażonymi grupami

Uznajemy, że możliwe do zidentyfikowania dane w mediach społecznościowych od zmarginalizowanych populacji mogą zostać wykorzystane do kryminalizacji i uwięzienia społeczności kolorowych. Przyjmujemy również do wiadomości, że gromadzone przez nas dane i metody mogą potencjalnie wyrządzić szkodę, jeżeli zostaną niewłaściwie wykorzystane lub wpadną w niepowołane ręce. W związku z tym SAFElab opracował zestaw etycznych wytycznych opisujących nasz proces badawczy, współpracę z nauką danych i wysiłki na rzecz rozpowszechniania. Charakter naszej pracy wymaga proaktywnych, powtarzalnych i ciągle zmieniających się względów etycznych, aby zapobiec wszelkim potencjalnym szkodom, jakie mogą wyrządzić społecznościom, z którymi pracujemy i z których pochodzą nasze dane. Poniższe wytyczne etyczne są pierwszym krokiem w stawianiu czoła wyzwaniom, które wynikają z naszej pracy w mediach społecznościowych, w celu wykorzystania sztucznej inteligencji jako narzędzia zapobiegania przemocy w społecznościach marginalizowanych.

Przezroczystość

  • Uznanie za priorytet listy potrzeb społeczności w zakresie zapobiegania przemocy, aktualizowanie tej listy, gdy pojawią się nowe potrzeby
  • Opis naszego procesu gromadzenia i analizy danych oraz sposobów ich wykorzystania i stosowania
  • Zwoływanie rady ekspertów w tej dziedzinie, pracowników zajmujących się zapobieganiem przemocy i członków społeczności (w tym młodzieży, która wcześniej była gangiem) (spotkania miesięczne)
  • Walidacja przez społeczność i ocena decyzji dotyczących naszej analizy danych i oznakowania

Zbieranie danych

  • Zatwierdzenie przez Institutional Review Board (IRB) wszystkich naszych badań. Jednak ze względu na to, że IRB uważa dane publicznych mediów społecznościowych za zwolnione, musimy znaleźć inne sposoby rozliczania się
  • Dane w mediach społecznościowych, z którymi współpracujemy, pochodzą z trudno dostępnych populacji, co sprawia, że ​​zgoda jest nie tylko trudna do uzyskania, ale nie można jej oczekiwać. Pracujemy nad znalezieniem innych sposobów ochrony młodych ludzi biorących udział w naszych badaniach:
  • Zgoda społeczności
  • Zgoda członka rodziny

Analiza danych

  • System adnotacji chroniony hasłem
  • Nikt poza naszym zespołem badawczym nie ma dostępu do danych
  • Zastanawiamy się nad tym, aby wszystkie nasze adnotatory danych podpisały protokół ustaleń w sprawie znaczenia nieudostępniania danych nikomu
  • Cotygodniowe rozmowy na temat etyki naszej pracy. Iteracyjnie ponownie odwiedzamy naszą pracę i tworzymy przestrzeń dla każdego w zespole, aby poruszać wszelkie kwestie etyczne i rozwiązywać problemy poruszane przez osoby spoza naszego zespołu badawczego, w tym partnerów organizacyjnych i członków społeczności

Udostępnianie danych

  • Obecnie nie udostępniamy żadnego z naszych zestawów danych organom ścigania ani innym osobom stosującym metodologie karne i kryminalizacyjne. Będziemy nadal weryfikować te praktyki z naszymi partnerami społecznymi

Prezentacje badawcze i prace do opublikowania

  • Tekstowe dane w mediach społecznościowych:
  • Nie używa już nazw użytkowników
  • Zmiana tekstu postu w mediach społecznościowych, aby nie można go było przeszukiwać
  • Aktywne usuwanie postów z mediów społecznościowych i użytkowników z naszego zestawu danych, którzy zostali prywatni lub zostali usunięci / zawieszeni z określonej platformy
  • Dane w mediach społecznościowych:
  • Brak nazw użytkowników
  • Brak zdjęć twarzy
  • Obrazy z naszego zestawu danych w pracy do opublikowania
  • Brak zdjęć z naszego zestawu danych
  • Wykorzystanie podobnych kreatywnych wspólnych obrazów w naszej pracy do opublikowania jako przykładów
  • Podaj recenzentom chroniony hasłem adres URL z anonimowymi przykładami postów w mediach społecznościowych i postów ze zdjęciami z naszego zestawu danych