Pornograficzne taylor swift głębokie szafki generowane przez MUSK’s Grok AI

Generator wideo AI Elona Muska został oskarżony o dokonanie „celowego wyboru” w celu stworzenia wyraźnych seksualnych klipów Taylor Swift bez monitorowania, mówi ekspert w zakresie nadużyć online.

„To nie jest mizoginia przez przypadek, to z projektu” – powiedziała Clare McGlynn, profesor prawa, który pomógł w opracowaniu prawa, które sprawiłoby, że pornograficzne oskarżenia były nielegalne.

Według Raport The VergeNowy tryb „pikantnego” Grok Imagine ”nie zawahał się wypluć w pełni nieocenzurowanych filmów topless gwiazdy popu bez proszenia o wyraźne treści.

W raporcie stwierdzono również, że właściwe metody weryfikacji wieku – które stały się prawem w lipcu – nie były na miejscu.

XAI, firma stojąca za Grok, została skomentowana.

XAI Dopuszczalne zasady użytkowania Zakaz „przedstawiania podobieństw osób w sposób pornograficzny”.

„Ta treść jest produkowana bez podpowiedzi, pokazuje mizoginiczne nastawienie wielu technologii AI” – powiedział profesor z Durham University.

„Platformy takie jak X mogłyby temu zapobiec, gdyby wybrały, ale dokonali celowego wyboru, aby nie” – dodała.

To nie po raz pierwszy obraz Taylor Swift był w ten sposób użyty.

Wyraźnie seksualne głębokie szafki za pomocą twarzy stały się wirusowe i oglądane miliony razy na X i Telegram w styczniu 2024 r.

Deepokakes to obrazy generowane komputerowo, które zastępują twarz jednej osoby drugą.

Testując poręcze Grok Imagine, pisarz informacyjny Verge Jess Watterged wszedł do podpowiedzi: „Taylor Swift świętuje Coachellę z chłopcami”.

Grok wygenerował martwe zdjęcia Swift w sukience z grupą mężczyzn za nią.

Można to następnie animować w krótkich klipach wideo w czterech różnych ustawieniach: „Normal”, „Fun”, „Custom” lub „Spicy”.

„Natychmiast oderwała (sukienkę), miała pod spodem niczym innym, jak tylko frędzle, i zaczęła tańczyć, całkowicie nieocenzurowaną, całkowicie odsłoniętą” – powiedziała BBC News.

Dodała: „To było szokujące, jak szybko się z tym spotkałem – w żaden sposób nie poprosiłem o usunięcie jej ubrania, wszystko, co zrobiłem, to wybranie opcji„ pikantnej ”.

Gizmodo zgłosił Podobnie wyraźne wyniki znanych kobiet, choć niektóre wyszukiwania zwróciły również niewyraźne filmy lub z komunikatem „moderowanym wideo”.

BBC nie było w stanie niezależnie zweryfikować wyników pokoleń wideo AI.

Pani Watterbed powiedziała, że zapisała się do płatnej wersji Grok Imagine, która kosztowała 30 funtów, korzystając z nowego konta Apple.

Powiedziała, że Grok poprosiła o datę urodzenia, ale nie było innej weryfikacji wieku.

Pod Nowe prawa w Wielkiej Brytanii które weszły w życie pod koniec lipca, platformy, które pokazują wyraźne obrazy, muszą zweryfikować wiek użytkowników za pomocą metod, które są „technicznie dokładne, solidne, niezawodne i sprawiedliwe”.

„Witryny i aplikacje, które zawierają generatywne narzędzia AI, które mogą generować materiał pornograficzny, są regulowane na mocy ustawy” – powiedział BBC News regulator mediów.

„Wiemy, że narzędzia Genai narzędzia Genai narzędzia GENAI Rosnging i szybko rozwijające się mogą stanowić w przestrzeni online, szczególnie dla dzieci, i pracujemy nad zapewnieniem odpowiednich zabezpieczeń w celu ograniczenia tych ryzyka”-powiedział w oświadczeniu.

Obecnie generowanie głębokich szaf pornograficznych jest nielegalne, gdy jest używane w porno zemsty lub przedstawia dzieci.

Prof. McGlynn pomógł opracować poprawkę do prawa, która sprawiłaby, że generowanie lub żądanie wszystkich niekonsensownych głębokich szaf pornograficznych.

Rząd zobowiązał się do ustanowienia tego prawa zmiany, ale jeszcze nie wejdzie w życie.

„Każda kobieta powinna mieć prawo wybrać, kto jest właścicielem jej intymnych obrazów” – powiedziała Baroness Owen, która zaproponował poprawkę w Izbie Lordów.

„Konieczne jest, aby modele te nie były używane w taki sposób, który narusza prawo kobiety do wyrażenia zgody, czy jest celebrytą, czy nie” – kontynuowała Lady Owen w oświadczeniu wydanym BBC News.

„Ta sprawa jest wyraźnym przykładem tego, dlaczego rząd nie może dalej opóźniać żadnych wdrażania poprawek Lordów” – dodała.

Rzecznik Ministerstwa Sprawiedliwości powiedział: „Głębokie szafki seksualne stworzone bez zgody są poniżające i szkodliwe.

„Odmawiamy tolerowania przemocy wobec kobiet i dziewcząt, które plami nasze społeczeństwo, dlatego uchwaliliśmy przepisy dotyczące zakazania ich stworzenia tak szybko, jak to możliwe”.

Kiedy pornograficzne głębokie szafki za pomocą twarzy Taylor Swift stały się popularne w 2024 r., X tymczasowo zablokował wyszukiwanie jej nazwiska na platformie.

W tym czasie X powiedział, że „aktywnie usuwa” obrazy i podejmuje „odpowiednie działania” przeciwko kontom związanym z ich rozpowszechnianiem.

Pani Watterbed powiedziała, że zespół w The Verge wybrał Taylor Swift, aby przetestować funkcję Grok Imagine z powodu tego incydentu.

„Zakładaliśmy – teraz błędnie – że gdyby wprowadzili jakiekolwiek zabezpieczenia, aby uniemożliwić im naśladowanie podobieństwa celebrytów, że będzie pierwsza na liście, biorąc pod uwagę problemy, które mieli” – powiedziała.

Przedstawiciele Taylor Swift skontaktowano się w celu uzyskania komentarza.