Zarzuty często obejmują wykorzystywanie i wykorzystywanie seksualne: dziewczynka dwukrotnie próbowała popełnić samobójstwo, gdy miała jedenaście lat, po czym skontaktowali się z nią mężczyźni w Robloxie, a następnie na Discordzie, z których jeden namówił ją do wysłania wyraźnych zdjęć na Snapchat, gdzie zdjęcia znikają (choć mogą nadal być zrzutem ekranu). Nakłoniono chłopca, aby wysłał użytkownikowi nielegalne zdjęcia, także za pośrednictwem Snapchata, a osoba ta w ramach szantażu odesłała mu kolaż ze zdjęciami. W jednym z pozwów powołuje się na dokument Meta, który wyciekł, w którym pracownik stwierdził, że funkcja Osoby, które możesz znać, w przeszłości „przyczyniała się do 75% wszystkich niewłaściwych kontaktów między dorosłymi a nieletnimi”, twierdzi, że „w niewiarygodny sposób Meta dokonała decyzję o dalszym korzystaniu z produktów rekomendowanych przez użytkowników.” (Meta twierdzi, że opracowała technologię ograniczającą interakcję potencjalnie podejrzanych kont z nastolatkami).
Bergman opowiedział mi o chłopcu, który został zalany filmami z TikToka, w których kazano mu wskoczyć pod pociąg – co też zrobił. Inny młody mężczyzna po rozstaniu zamieścił post o swoim bólu serca i wysłał mu filmy, w których kazał mu odstrzelić sobie łeb – co też zrobił. „To afirmatywne kierowanie dzieci na treści o charakterze samobójczym” – stwierdził Bergman. „To orwellowskie. Nie możesz odejść od tyrana. To tak, jakbyś wbiegł prosto na jego pięść. Nawet rodzice, którzy uznają media społecznościowe za problem, mogą spotkać się z tragedią, próbując chronić przed nimi swoje dzieci: „Sarah była bardzo zrozpaczona, gdy zabrano jej telefon (sic!) i… . . myślała, że nie może żyć bez produktów pozwanej w mediach społecznościowych” – czytamy w jednej ze skarg. „Sarah poszła na górę, znalazła broń ojca i strzeliła sobie w głowę”.
Brandy i Toney Roberts, którzy mieszkają w New Iberia w Luizjanie, stali się twarzami ruchu na rzecz ochrony dzieci przed mediami społecznościowymi, pojawiając się w „60 Minutes” i innych programach informacyjnych. Kiedy mówią o swojej córce Englyn, która zmarła samobójstwem we wrześniu 2020 roku w wieku czternastu lat, wyczarowują ją tak żywo, że można się spodziewać, że zobaczy ją wchodzącą do pokoju, uśmiechniętą, pełną życia i wymagającą. Jedna z przyjaciół Englyn umieściła nagranie jej śmiechu w pluszowej konstrukcji misia, którą podarowała Brandy i Toneyowi; jeśli się o nią oprzesz, tak jak ja to zrobiłem przez przypadek, wybuchną salwy śmiechu. Na sofie w salonie znajduje się poduszka z nadrukiem zdjęcia zrobionego podczas wycieczki do Destin na Florydzie. Englyn ściska Brandy, a jej twarz jaśnieje radością. Tydzień po zrobieniu zdjęcia powiesiła się.
Jako najmłodszy w rodzinie składającej się z siedmiorga rodzeństwa, przyrodniego rodzeństwa i przyrodniego rodzeństwa, Englyn był uwielbiany, a nawet rozpieszczany. Ponieważ uwielbiała podróże, ona i jej rodzice wsiadali do samochodu, a Toney pytał: „Wschód czy zachód, północ czy południe?” i wyruszali, aż dotarli aż do Nowego Meksyku. Toney uwielbiał rozpieszczać swoją córkę, zabierać ją na manicure, na który nagle zapragnęła, lub zamawiać jedzenie późno w nocy. Brandy próbowała wyznaczyć granice i przestrzegła córkę, której postawa była pewna, a nawet królewska, że ludzie w ich społeczności, społeczności Czarnych, nie lubią nikogo, kto sprawia wrażenie pełnego siebie.
W ostatnią sobotę sierpnia 2020 roku Toney zrobił na obiad zupę, ale Englyn nie miał jej zbyt wiele. „Kochana, nie jadłaś” – powiedział Toney. „Moja zupa nie była dobra?” Zaproponował, żeby zamówili pizzę, a on, Brandy i Englyn siedzieli do późna i jedli. Około wpół do dziesiątej Englyn zapytała rodziców, czy chcą obejrzeć film. „O nie, córeczko, jesteśmy zmęczeni” – powiedział Toney. Zanim poszła na górę, jej rodzice powiedzieli jak zawsze: „Kocham cię”, a ona odpowiedziała: „Kocham cię” i pocałowała ich oboje.
Później tego samego wieczoru matka przyjaciółki Englyn, która wysyłała do niej SMS-y, skontaktowała się z Brandy i nalegała, aby sprawdziła, co u niej. Toney i Brandy ze zdziwieniem odkryli, że drzwi Englyna są zamknięte. Kiedy weszli, nie widzieli jej, więc Toney poszedł zajrzeć za łóżko. „Nagle się odwróciłem, a ona wisiała właśnie tam” – powiedział mi, gdy staliśmy w sypialni Englyn. Użyła przedłużacza, aby powiesić się na zawiasie drzwi. „Wydaje się, że minęła wieczność, kładę ją na ziemię, a Brandy rozpoczyna reanimację”.
Kiedy na miejsce przybyli ratownicy medyczni, wykryli tętno, a Englyn został w szpitalu podłączony do aparatury podtrzymującej życie. „A wy po prostu się modlicie, modlicie i modlicie przez dziewięć dni, czuwania na zewnątrz, po prostu wszystko, co po ludzku możecie zrobić” – powiedział Toney. 7 września lekarze zalecili Robertsom odłączenie aparatury podtrzymującej życie. „Zadajesz sobie pytanie: «Co ona czuje? Czy ona coś czuje?” – przypomniał sobie Toney. W szpitalu do niego i Brandy dołączyła jego matka i dwóch księży, a wszyscy pożegnali się ostatecznie.
Ze wszystkich sypialni dzieci, które popełniły samobójstwo, które odwiedziłem podczas moich reportaży, sypialnia Englyn była najstaranniej zachowana: każda para butów na tym samym miejscu, w którym je trzymała, łóżko nadal pościelone i zajęte przez rząd pluszowych misiów. „Tego wieczoru miała na sobie te skarpetki” – powiedział Toney. „Tutaj ją znalazłem. Widzisz to pudełko? Stanęła na tym pudełku. Pudełko znajdowało się tuż za drzwiami, gdzie Englyn musiała je położyć, zanim zawiązała sobie sznur na szyi.
Po śmierci Englyn Toney sprawdziła jej telefon. Na rodzinnych filmach, które mi pokazywał, Englyn wygląda nie tylko pogodnie, ale radośnie, wybucha śmiechem i śpiewa, a mimo to robiła zdjęcia, na których się skaleczy i zamieszcza myśli w rodzaju „Ostatnio czuję się brzydko”. Po ukończeniu czternastu lat zamieściła urodzinowe zdjęcie z podpisem „Przesuń, aby zobaczyć moją prawdziwą sylwetkę”; następne zdjęcie pokazało zniekształcenie jej sylwetki. W dłuższym poście napisano: „Pewnego dnia opuszczę ten świat i nigdy nie wrócę, a będziesz płakać, kiedy zobaczysz moje zdjęcie. . . . Więc musisz mnie docenić, zanim odejdę.”
Algorytmy Instagrama wysyłały jej coraz bardziej niepokojące treści o samobójstwie. W jednym poście Czarna kobieta krzyczała: „Stop temu szaleństwu. Czego ode mnie chcesz? Czego chcesz? Proszę. Proszę.” Następnie kobieta udawała, że wiesza się na przewodzie elektrycznym, tak jak ostatecznie zrobił to Englyn.
„To podcast o mnie i moim kumplu, dyskutujących o filmach, ale problem jest taki, że też trochę żartujemy”.
Kreskówka autorstwa Ellisa Rosena
Brandy często sprawdzała telefon Englyn, szukając nieodpowiednich zdjęć lub wulgarnego języka; Nigdy nie przyszło jej do głowy, żeby sprawdzić filmy polecane przez Instagram. Po śmierci Englyn Toney i Brandy znalazły ukrytą notatkę w jej telefonie: „Pokazuję ludziom to, co chcą zobaczyć, ale za życiem w mediach społecznościowych nikt nie zna prawdziwego mnie i jak bardzo walczę, aby wszyscy byli dobrzy, mimo że jestem nie.”
Brandy, która jest nauczycielką, uważa, że ludzie powinni wiedzieć więcej o technologii, z której korzystają na co dzień. „W społeczności Czarnych, o niskich dochodach, gdzie uczę, rodzice nie są wystarczająco wykształceni w zakresie jakichkolwiek technologii” – powiedziała. „Myśleliśmy, że jesteśmy dwójką dobrze wykształconych ludzi. Chcę najpierw edukować rodziców, a potem uczniów: Co to jest algorytm? Co robią te strony?” Toney powiedział: „Jak do cholery mogło się to wydarzyć? Jak człowiek mógł opracować coś takiego jak algorytm, który przebija miłość rodziców? Jak maszyna może znaczyć dla niej więcej niż my?”
Niektóre z toczących się obecnie pozwów zarzucają, że rasa ma wpływ na treści przesyłane przez algorytmy mediów społecznościowych do kanałów użytkowników. „JAJ nie interesuje się bronią ani gangami, a mimo to Instagram i TikTok często odsyłały go do treści o tematyce broni i gangów” – czytamy w skardze prawnej złożonej przez czarnego ojca trójki dzieci. „Oskarżeni wiedzą o algorytmicznej dyskryminacji w swoich produktach, a mimo to nadal pozwalają tym produktom na rozpowszechnianie wśród afroamerykańskich użytkowników nieproporcjonalnie brutalnych i seksualnych treści”. Kiedy wspomniałem Brandy, że liczba samobójstw wśród czarnej młodzieży szybko rośnie, stwierdziła, że podejrzewa, że liczba samobójstw Czarnych była wcześniej zaniżona. „Ludzie naprawdę są zszokowani, gdy widzą, że to czarna rodzina” – powiedziała. „Ale to już nie są wasze biedne rodziny, nie wasze bogate rodziny – to może zaatakować każdego”. Jej pragnienie bagatelizowania rasy wydaje się odzwierciedlać obawę, że Czerń Englyn może sprawić, że inne grupy poczują się zdystansowane od jej trudnej sytuacji. Mimo to pod koniec naszej rozmowy Toney dokonał prowokacyjnego porównania historycznego. „Zuckerberg to nowa «masa»” – powiedział. „Ocenił, że życiowa wartość nastolatka wynosi dwieście siedemdziesiąt dolarów. Cena niewolnika w roku 1770 wynosiła dwieście sześćdziesiąt dolarów”.
Beeban Kidron, brytyjski filmowiec zasiadający w Izbie Lordów, prowadzi fundację zajmującą się ochroną dzieci w Internecie. Kiedy spotkałem się z nią w izbach parlamentu, powiedziała mi, że jej krucjata nabrała rozpędu po samobójstwie w 2017 roku czternastoletniej londyńczyka Molly Russell, która przeglądała i zapisywała tysiące postów na temat depresji i samobójstwo. Dwa lata później jej ojciec rozpoczął kampanię w jej imieniu i pojawił się w filmie BBC („Instagram «pomógł zabić moją córkę»”). Niedługo potem Adam Mosseri, szef Instagrama, opublikował zapewnienia, że platforma jest zdeterminowana „chronić najbezbronniejszych” i platforma zaczęła usuwać miliony zdjęć związanych z samobójstwami i samookaleczeniami.
Urzędnik prowadzący dochodzenie sądowe w sprawie śmierci Molly nakazał Meta, WhatsApp, Snap, Pinterest i Twitterowi udostępnienie danych z jej kont. „Kiedy po raz pierwszy pokazano to przed sądem koronera, na sali zapanował szok i podziw” – powiedział mi Kidron. „Ludzie ze łzami w oczach, w tym galeria prasowa, która od lat śledziła tę sprawę. Nikt nie rozumiał bombardowania”.
Dochodzenie wykazało, że platformy mediów społecznościowych są częściowo odpowiedzialne za śmierć Molly. Przewodniczący stwierdził, że to, co zobaczyła w Internecie, na Molly wywarło taki wpływ, że jej śmierć nie była w rzeczywistości samobójstwem, ale raczej „aktem samookaleczenia wynikającym z depresji i negatywnych skutków treści dostępnych w Internecie”.
Materiał z dochodzenia Molly został zaprezentowany brytyjskim prawodawcom podczas rozpatrywania przepisów, a w zeszłym roku uchwalili ustawę o bezpieczeństwie w Internecie, która nakłada rygorystyczne wymogi dotyczące regulacji treści na platformach cyfrowych. Nieprzestrzeganie może skutkować karą grzywny w wysokości osiemnastu milionów funtów lub dziesięciu procent rocznego światowego obrotu firmy, w zależności od tego, która wartość jest większa. Kidron uważa, że firmy działające w mediach społecznościowych od dawna zdały sobie sprawę, że tego rodzaju regulacje wejdą i spieszyły się, by zarobić, póki tylko mogły. Kiedy siedzieliśmy w parlamencie, wściekła się: „Te dranie zarabiają pieniądze na plecach dzieci, a szkodami ubocznymi tych ogromnych fortun są czasami dosłownie życie tych dzieci. I nie zmienią tego bez ludzi siedzących w takich budynkach i mówiących im, że muszą”.
