Liv McMahonReporter technologiczny
BBCAshley St Clair, matka jednego z dzieci Elona Muska, pozwała jego firmę xAI w związku z seksualizowanymi deepfakemi przedstawiającymi ją na platformie społecznościowej X.
W pozwie złożonym w czwartek w Nowym Jorku zarzuca się, że narzędzie Grok AI stworzyło zdjęcia pani St Clair o charakterze jednoznacznie seksualnym.
Spółka dominująca X i Grok, xAI, pozwała panią St Clair za naruszenie warunków korzystania z usług.
X nie odpowiedział bezpośrednio na zapytania BBC News dotyczące pozwów.
„Zamierzamy pociągnąć Groka do odpowiedzialności i pomóc w ustaleniu jasnych granic prawnych z korzyścią dla całego społeczeństwa, aby zapobiec wykorzystywaniu sztucznej inteligencji do celów nadużyć” – powiedziała BBC News prawniczka pani St Clair, Carrie Goldberg.
„Wytwarzając bez zgody obrazy dziewcząt i kobiet o wyraźnie seksualnym charakterze, xAI powoduje zakłócenia porządku publicznego i nie jest w miarę bezpiecznym produktem”.
We wniosku sądowym pani St Clair zarzuca: „Użytkownicy X wykopali zdjęcia St Clair w pełni ubranej w wieku 14 lat i poprosili Groka o rozebranie jej i założenie bikini. Grok zobowiązał się”.
Mówi się, że zdjęcia pani St Clair zostały „de facto wykonane bez jej zgody”, ale twórcy Groka również mieli „wyraźną wiedzę” o jej braku zgody.
Twierdzi również, że Grok wygenerował zdjęcie, na którym Żydówka St Clair jest „w stringach bikini pokrytych swastykami”.
W odpowiedzi na jej skargi, jak wynika z akt, firma „wzięła na niej odwet, pozbawiając ją konta X i generując o wiele więcej jej zdjęć”.
Niektórzy użytkownicy premium X, którzy płacą miesięczną opłatę, mogą otrzymać część przychodów z reklam uzyskanych z postów, które cieszą się dużym zaangażowaniem.
W pozwie xAI oświadczyło, że pani St Clair naruszyła warunki korzystania z usług, składając pozew w Nowym Jorku.
Warunki firmy stanowią, że spory z xAI należy wnosić do Teksasu.
Pani Goldberg powiedziała BBC News, że pozew firmy był „wstrząsający”.
„Nigdy nie słyszałam, żeby jakikolwiek oskarżony pozywał kogoś za powiadomienie go o zamiarze skorzystania z systemu prawnego” – stwierdziła.
„A ich złe traktowanie w Internecie jest naśladowane w ich strategii prawnej”.
Dodała, że pani St Clair będzie „zdecydowanie bronić” swojej sprawy w Nowym Jorku i że „każda jurysdykcja uwzględni” skargę.
Zostało to ujawnione przez panią St Clair w poście X w zeszłym roku że urodziła dziecko miliardera z branży technologicznej – jedno z co najmniej 13, które, jak się uważa, jest jego ojcem.
Uważa się, że pani St Clair i Musk toczą spór o opiekę nad dzieckiem.
Kontynuacja kontroli
X znalazł się pod intensywną analizą ze strony użytkowników, polityków i organów regulacyjnych na całym świecie w związku z wykorzystywaniem Groka do tworzenia bezsensownych, seksualnych obrazów ludzi.
Użytkownicy mogli oznaczać konto Groka w postach lub odpowiedziach na posty na platformie i prosić o edycję zdjęć w celu rozbierania ludzi.
Grok spełnił wiele takich próśb o stworzenie fotorealistycznych zdjęć prawdziwych kobiet w bikini i odsłaniających ubraniach – według doniesień stworzył także zseksualizowane obrazy dzieci.
W środę, przed złożeniem wniosku do sądu, pani St Clair powiedziała BBC Newsnight, że jej zdjęcie zostało „obrobione”, aby wyglądało na „w zasadzie nagie, pochylone”, mimo że powiedziała Grokowi, że nie wyraża zgody na publikowanie zdjęć o charakterze seksualnym.
Ona i inne kobiety, których zdjęcia zostały edytowane za pomocą programu Grok, stwierdziły, że witryna nie robi wystarczająco dużo, aby zwalczać nielegalne treści, w tym obrazy przedstawiające wykorzystywanie seksualne dzieci.
Po ostrej reakcji X zmienił swoje zasady, tak aby z funkcji mogli korzystać tylko płatni użytkownicy, co wywołało krytykę od grup kobiet i rządu Wielkiej Brytanii.
Firma powiedział w środę że wszyscy użytkownicy X nie będą już mogli edytować zdjęć prawdziwych ludzi, aby pokazać je w odsłoniętych ubraniach w jurysdykcjach, w których jest to nielegalne.
Później zaktualizował swój post, mówiąc, że wdroży „podobne środki blokowania geograficznego dla aplikacji Grok”, która jest odrębna dla X.
w piątek, Poinformował o tym Guardian że nadal możliwe było używanie samodzielnej aplikacji Grok do generowania seksualnych deepfake’ów prawdziwych ludzi i publikowania ich na X „bez żadnych oznak moderowania”.
Rząd Wielkiej Brytanii wprowadza w życie ustawę, która zabrania tworzenia intymnych zdjęć bez zgody, a organ regulacyjny Ofcom nadal bada, czy X złamał istniejące prawo brytyjskie.
