Sztuczna inteligencja powoduje „eksplozję” fałszywych aktów, gdy ofiary twierdzą, że prawo ich zawodzi | Wiadomości z Wielkiej Brytanii

Działacze ostrzegają, że wykorzystanie sztucznej inteligencji (AI) do tworzenia realistycznych, ale fałszywych nagich zdjęć prawdziwych kobiet staje się „normalizowane”.

Coraz większym problemem są także szkoły. Niedawne badanie przeprowadzone przez Internet Matters wykazało, że 13% nastolatków miało doświadczenia z nagimi deepfakes, natomiast NSPCC stwierdziło dla Sky News, że „pojawia się nowa krzywda”.

Pod koniec tego miesiąca Ofcom wprowadzi kodeksy postępowania dla firm internetowych, aby ukrócić nielegalną dystrybucję fałszywych aktów, ale Sky News spotkało się z dwiema ofiarami tego stosunkowo nowego trendu, które twierdzą, że prawo musi pójść dalej.

Na początku tego roku wpływowa media społecznościowa i była uczestniczka Love Island, 33-letnia Cally Jane Beach, była przerażona, gdy odkryła, że ​​ktoś użył sztuczna inteligencja zmienić jej zdjęcie marki bielizny w nagość i udostępnić je w Internecie.

Oryginalne zdjęcie zostało przesłane do witryny wykorzystującej oprogramowanie do cyfrowego przekształcania zdjęcia w ubraniu w zdjęcie nagości.

Powiedziała Sky News: „Wyglądało to tak realistycznie, jakby nikt oprócz mnie nie wiedział. To było tak, jakby patrzeć na mnie, ale też nie na mnie”.

Dodała: „Coś takiego nie powinno istnieć. To nie jest kolorowanka. To nie jest zabawa. Tu chodzi o tożsamość ludzi i rozbieranie się”.

Kiedy Cally zgłosiła policji, co się stało, starała się, aby potraktowała to jako przestępstwo.

„Tak naprawdę nie wiedzieli, co mogą z tym zrobić, a ponieważ witryna, na której umieszczono to zdjęcie, ma charakter globalny, powiedzieli, że nie leży to w ich jurysdykcji” – powiedziała.

W listopadzie zastępca komendanta policji Samantha Miller z Rady Szefów Policji Krajowej zwróciła się w tej sprawie do komisji parlamentarzystów i stwierdziła, że ​​„system zawodzi” z powodu braku potencjału i niespójności praktyk we wszystkich służbach.

ACC Miller powiedziała Komisji Kobiet i Równości, że niedawno rozmawiała z działaczką, która miała kontakt z 450 ofiarami i „tylko dwie z nich miały pozytywne doświadczenia w pracy w policji”.

Rząd twierdzi, że w przyszłym roku wejdą nowe przepisy zakazujące tworzenia aktów AI, chociaż tworzenie fałszywych aktów nieletnich jest już nielegalne.

Tymczasem problem narasta wraz z dostępnością wielu aplikacji służących do rozbierania osób na zdjęciach. Ofiarą może stać się każdy, chociaż prawie zawsze są to kobiety.

Profesor Clare McGlynn, ekspert ds. szkód w Internecie, powiedziała: „Zaobserwowaliśmy wykładniczy wzrost wykorzystania deepfakes o charakterze jednoznacznie seksualnym. Na przykład jedna z największych i najbardziej znanych stron internetowych poświęconych tym nadużyciom jest odwiedzana miesięcznie około 14 milionów razy .

„Te aplikacje do nagości są łatwo dostępne w sklepie z aplikacjami, są tam reklamowane Tik TokaWięc oczywiście młodzi ludzie je pobierają i korzystają z nich. Znormalizowaliśmy użycie tych aplikacji do nagości”.

„Zdradzony przez mojego najlepszego przyjaciela”

Sky News rozmawiało z „Jodie” (nie jest to jej prawdziwe imię) z Cambridge, która otrzymała informację w anonimowym e-mailu, że prawdopodobnie występuje w filmach erotycznych na stronie pornograficznej.

„Zdjęcia, które zamieściłem Instagrama I Facebookuktóre były w pełni ubrane, zostały zmanipulowane i zamienione w materiały o charakterze jednoznacznie seksualnym” – stwierdziła.

Jodie zaczęła podejrzewać, że ktoś, kogo znała, publikuje zdjęcia i zachęca ludzi w Internecie do manipulowania nimi.

Potem znalazła konkretną fotografię, zrobioną przed King’s College w Cambridge, którą posiadała tylko jedna osoba.

To był jej najlepszy przyjaciel, Alex Woolf. Wysłała mu zdjęcie samotnie.

Woolf, która kiedyś zdobyła nagrodę BBC dla młodego kompozytora roku, została później skazana za przestępstwa wobec 15 kobiet, głównie za sprawą wytrwałości i pracy detektywistycznej Jodie.

Nawet wtedy jego wyrok dotyczył jedynie obraźliwych komentarzy pod zdjęciami, ponieważ choć udostępnianie zdjęć jest nielegalne, to proszenie innych o ich wykonanie nie jest przestępstwem.

Dostał wyrok w zawieszeniu i zapłatę po 100 funtów każdej ze swoich ofiar.

Jodie uważa, że ​​konieczne jest wprowadzenie nowych przepisów zakazujących tworzenia i pozyskiwania tego typu zdjęć.

„Moje molestowanie nie jest twoją zabawą” – powiedziała.

„Przemoc w Internecie ma taki sam efekt psychologiczny, jak przemoc fizyczna. Popadłam w skłonności samobójcze, nie potrafiłam zaufać najbliższym, bo zostałam zdradzona przez najlepszego przyjaciela. A wpływ tego na człowieka jest monumentalny.”

„Przerażające, samotne miejsce”

Ankieta przeprowadzona w październiku przez Teacher Tap wykazała, że ​​7% nauczycieli odpowiedziało twierdząco na pytanie: „Czy w ciągu ostatnich 12 miesięcy zdarzyło Ci się, że uczeń wykorzystał technologię do stworzenia fałszywego obrazu kolegi z klasy o charakterze seksualnym?”

W swojej kampanii zarówno Cally, jak i Jodie natknęły się na przykłady głębokiego udawania uczennic.

Cally powiedziała: „Stosuje się to jako formę znęcania się, ponieważ uważają to za zabawne. Może jednak mieć ogromne żniwo psychiczne, a dla młodej dziewczyny musi to być bardzo przerażające i samotne miejsce, aby sobie z tym poradzić”.

Przeczytaj więcej ze Sky News:
Pedofil, który stworzył obrazy przedstawiające wykorzystanie sztucznej inteligencji, skazany na 18 lat więzienia
Chatbot Google AI Gemini mówi użytkownikowi: „Proszę, umrzyj”.’
Przestępcy seksualni wykorzystujący rzeczywistość wirtualną do molestowania dzieci

NSPCC podało, że na infolinię otrzymywało telefony w sprawie nagich deepfake’ów.

Rani Govender, menedżerka ds. polityki organizacji charytatywnej ds. bezpieczeństwa dzieci w Internecie, powiedziała, że ​​zdjęcia mogą zostać wykorzystane „w ramach procesu pielęgnacji” lub jako forma szantażu, a także rozpowszechniane przez kolegów z klasy „jako forma znęcania się i molestowania”. .

„Dzieci boją się, są izolowane i martwią się, że nikt nie uwierzy, że te obrazy stworzył ktoś inny” – stwierdziła Govender.

Dodała: „To nowa szkoda, która rozwija się i będzie wymagać nowych środków ze strony rządu, których priorytetem jest ochrona dzieci”.

Podsekretarz stanu ds. ofiar Alex Davies-Jones powiedział parlamentarzystom w listopadzie: „Zobowiązaliśmy się do uznania przestępstwa polegającego na tworzeniu deepfake’a za nielegalne i w tej sesji będziemy uchwalać odpowiednie przepisy”.

Dla działaczek takich jak Jodie i Cally nowe przepisy nie zostaną wprowadzone wystarczająco szybko. Obawiają się jednak, że nie będą mieli wystarczająco mocnych klauzul zakazujących pozyskiwania treści i zapewniających usunięcie zdjęć po ich odkryciu.

Każdy, kto czuje się zaniepokojony emocjonalnie lub ma myśli samobójcze, może zadzwonić do Samarytan w celu uzyskania pomocy pod numerem 116 123 lub wysłać e-mail jo@samaritans.org w Wielkiej Brytanii. W USA zadzwoń do lokalnego oddziału Samarytan lub pod numer 1 (800) 273-TALK.