Klip AI, który przekonał i podzielił

Kiedy pojawił się klip audio, na którym dyrektor lokalnej szkoły wypowiada obraźliwe uwagi, stał się wirusowy w Internecie, wywołał groźby śmierci pod adresem nauczyciela i wywołał burzę na przedmieściach niedaleko Baltimore. Wkrótce jednak zdemaskowano go jako podróbkę zmanipulowaną przez sztuczną inteligencję – dlaczego więc ludzie nadal wierzą, że to prawda?

„Naprawdę nie rozumiem, dlaczego codziennie muszę znosić te głupki”.

Tak rozpoczęła się długa tyrada dyrektora szkoły średniej w Pikesville, przerywana rasistowskimi, antysemickimi i obraźliwymi tropami. Brzmiało, jakby zostało nagrane w tajemnicy.

Następnie mówca ubolewał nad „niewdzięcznymi czarnymi dziećmi” i Żydami w społeczności.

Klip, opublikowany po raz pierwszy w styczniu, stał się wirusowy w całym kraju. Ale naprawdę poruszyło to nerwy na spokojnych, zielonych przedmieściach Pikesville, które zamieszkują duże społeczności czarnoskórych i żydowskich, a także w pobliskim mieście Baltimore w stanie Maryland. Dyrektor Eric Eiswert został wysłany na płatny urlop administracyjny do czasu dochodzenia.

Alfie Malone, czarny mężczyzna mieszkający w pobliskim Baltimore, zauważył, że inni członkowie jego społeczności zamieszczają klip i założył, że jest prawdziwy.

„W głębi duszy myślisz, że prawdopodobnie tak właśnie ludzie naprawdę o nas myślą” – powiedział Malone. „A potem usłyszeć, że faktycznie natknąłem się na dźwięk”.

Aby potwierdzić to, co słyszał, Malone sprawdził w mediach społecznościowych inne prawdziwe nagrania pana Eiswerta i brzmiały tak samo.

Więc listonosz na pół etatu i podcaster na pół etatu wcisnął przycisk udostępniania dalej.

Klip zaczął zyskiwać na popularności w mediach społecznościowych, gdy coraz więcej osób rozpowszechniało go w Internecie. Jedna z najczęściej udostępnianych wersji była na dobrej drodze do osiągnięcia dwóch milionów wyświetleń w ciągu kilku godzin. To już około 60 razy więcej niż cała populacja Pikesville.

Jednak osoby udostępniające klip nie zdawały sobie wtedy sprawy, że za chwilę spadnie kolejna bomba: klip był fałszywym wygenerowanym przez sztuczną inteligencję.

Dla „Dlaczego mnie nienawidzisz” w BBC Radio 4, USAByłem w Maryland i badałem wpływ, jaki ten klip wywarł na to miasto. Czyta się to prawie jak bajkę o zagrożeniach, jakie stwarza sztuczna inteligencja, zwłaszcza gdy celem są społeczności lokalne.

Kiedy klip wylądował na biurku Kristen Griffith, reporterki edukacyjnej w Baltimore Banner, myślała, że ​​będzie to stosunkowo prosta historia nauczyciela zdemaskowanego za obraźliwe uwagi.

Jednak zgodnie z najlepszą praktyką w dziennikarstwie pani Griffith chciała dać dyrektorowi szansę na skomentowanie i przedstawienie swojej wersji historii. Skontaktowała się więc z przedstawicielem jego związku, który powiedział, że pan Eiswert nie tylko potępił te komentarze, ale ich nie wygłosił.

„Od razu powiedział: „Och, uważamy, że to fałszywe… Wierzymy, że to sztuczna inteligencja” – powiedziała BBC. „Nie słyszałem wcześniej tego kąta”.

Kiedy jednak opublikowała to wyjaśnienie, jej czytelnicy nie byli przekonani. Film nie tylko nie budził wątpliwości co do prawdziwości klipu, ale jedynie wywołał reakcję ludzi, którzy uważali, że zarzut fałszerstwa był tylko wymówką lub próbą uniknięcia odpowiedzialności.

To właśnie wtedy lokalna policja wszczęła śledztwo w tej sprawie. Pracownicy Pikesville High powiedzieli im, że czują się niepewnie z powodu całej tej uwagi i obawiali się, że szkoła jest wyposażona w podsłuchy w urządzenia nagrywające.

Reputacja dyrektora Eiswerta również poważnie ucierpiała. Wzmocniono bezpieczeństwo zarówno wokół niego, jak i szkoły. Stał się celem nienawiści i gróźb w mediach społecznościowych. W mediach społecznościowych znalazłem dziesiątki obraźliwych wiadomości skierowanych do niego.

Następnie w kwietniu szef policji w Baltimore Robert McCullough potwierdził, że mają teraz „niepodważalny dowód na to, że nagranie nie jest autentyczne”.

I wierzyli, że wiedzą, kto stworzył podróbkę.

Policja postawiła 31-letniemu Dazhonowi Darienowi, dyrektorowi sportowemu szkoły, zarzuty związane z fałszywym filmem. Zarzuty obejmowały kradzież, odwet na świadku i prześladowanie.

Został aresztowany na lotnisku, gdzie według policji planował lecieć do Houston w Teksasie.

Policja twierdzi, że dyrektor Eiswert prowadził dochodzenie w sprawie pana Dariena w związku z rzekomą kradzieżą ze szkoły 1916 dolarów (1460 funtów). Twierdzą również, że wystąpiły „problemy z wydajnością pracy” i prawdopodobnie jego umowa nie zostanie przedłużona.

Ich teoria głosiła, że ​​tworząc fałszywe nagranie, miał nadzieję zdyskredytować dyrektora, zanim będzie mógł zostać zwolniony.

Śledczy twierdzą, że namierzyli pocztę elektroniczną używaną do wysyłania oryginalnego filmu na serwer połączony z panem Darienem i twierdzą, że korzystał on z sieci komputerowej szkół publicznych hrabstwa Baltimore w celu uzyskania dostępu do narzędzi sztucznej inteligencji. Ma stanąć przed sądem w grudniu 2024 r.

Przedstawiciele prawni Dariena nie odpowiedzieli na prośby o komentarz.

Kurator szkół hrabstwa Baltimore, Myriam Rogers, powiedziała wcześniej, że to „bardzo trudny czas” dla społeczności szkolnej, dyrektora i jego rodziny.

Przedstawiciele szkoły średniej Pikesville i pan Eiswert nie odpowiedzieli na moją prośbę o dalszy komentarz.

Ponieważ klip zawierał wyłącznie dźwięk, oznaczało to, że nie było żadnych wizualnych gadżetów, takich jak ruchy robotów, które zwykle ujawniają manipulację AI. Wspomniano także o żargonie, takim jak „oczekiwania na poziomie klasy” i innych szczegółach, takich jak nazwiska pracowników, które znają tylko osoby blisko szkoły.

Kiedy jednak posłuchasz uważnie, zauważysz wyraźne zmiany pomiędzy zdaniami, a głos, choć podobny do głównego, brzmi dość monotonnie. Sztuczna inteligencja może wykorzystać kilka minut prawdziwego nagrania – na przykład Twojego ulubionego aktora filmowego lub przemówienia kandydata na prezydenta – aby następnie wygenerować klip, który sprawia, że ​​brzmi to tak, jakby powiedzieli coś, czego nigdy nie zrobili.

Ale być może największym powodem, dla którego ludzie wierzyli, że to wideo jest prawdziwe, było to, że wydawało się to prawdą, powiedział mi pan Malone.

Odwoływał się do jego własnych doświadczeń związanych z rasizmem, gdy był czarnym mężczyzną mieszkającym w Baltimore.

Kiedy pan Malone usłyszał, jak dyrektor opisuje czarnych uczniów jako leniwych, od razu przypomniało mu się obelgi i dyskryminacja, z którymi spotkał się w szkole i pracy.

Kilka miesięcy później skutki fałszywego klipu audio są nadal odczuwalne w Pikesville. Pan Eiswert zmienił pracę i pracuje w innej szkole. I chociaż niektórzy członkowie społeczności powiedzieli mi, że teraz uznają, że wideo jest fałszywe, szkody zostały wyrządzone.

„To jest dzielnica żydowska i powiedzenie czegoś tak podburzającego na temat tej społeczności było przygnębiające” – powiedziała mi kobieta o imieniu Sharon, pakując wózek swojego wnuka do samochodu w domu naprzeciwko liceum w sierpniu.

Przez kilka minut Sharon rozmawiała ze mną, jakby nagranie było prawdziwe.

„Myślę, że kiedy ludzie mówią takie rzeczy, przyłączają się do tego inni ludzie, co napawa mnie większym strachem”.

Kiedy z samochodu zadzwonił jej mąż, przypominając jej, że klip jest w rzeczywistości fałszywy, przyznała, że ​​„później dowiedziała się, że został wygenerowany przez sztuczną inteligencję”. Powiedziała jednak, że nadal jest z tego powodu zła.

Odkryłem, że osobom takim jak Sharon, które nawet przez krótki czas wierzyły, że klip jest prawdziwy, pozostał w nich ślad – zwłaszcza gdy w przesłaniu nawiązywały do ​​autentycznych doświadczeń związanych z rasizmem i dyskryminacją. Przypomniało mi to coś, co ciągle słyszę, badając dezinformację i teorie spiskowe: „Cóż, nawet jeśli to nie jest prawdziwe, myślę, że tak myślą”.

Wszystkie największe firmy z branży mediów społecznościowych twierdzą, że mają zasady oznaczania, usuwania i ograniczania rozpowszechniania postów generowanych przez sztuczną inteligencję. Ale takie działanie ma miejsce tylko wtedy, gdy można udowodnić, że klip jest fałszywy. W tym momencie mógł już dotrzeć do milionów ludzi.

Alfie Malone powiedział, że jeszcze wcześniej tego dnia rozmawiał z przyjacielem, który nadal nie miał pojęcia, że ​​klip został wygenerowany przez sztuczną inteligencję.

„Szczerze wierzę, że wiele osób w tym mieście tak naprawdę nie wie, że to nieprawda” – powiedział.

Stwierdził, że jest mu przykro, że dyrektor szkoły pan Eiswert został niesłusznie oskarżony o wygłaszanie komentarzy. Martwi się również, że ten odcinek podważył prawdziwe doświadczenia związane z rasizmem.

Powiedział, że zastanowi się dwa razy, zanim ponownie udostępni taki klip.

„Kiedyś spaliłem się w ogniu. Nie dotknę już pieca.