Brytyjski organ regulacyjny ds. informacji wszczął dochodzenie ws Elona Muska’S sztuczna inteligencja chatbot Grok wśród zarzutów, że tworzył zseksualizowane obrazy dzieci.
Produkt oparty na sztucznej inteligencji, dostępny zarówno jako samodzielna aplikacja, jak i narzędzie w sieci społecznościowej X, wywołał cyfrową burzę, gdy użytkownicy zaczęli prosić go o rozebranie wizerunków prawdziwych kobiet bez ich zgody.
Internet Watch Foundation twierdzi, że bot AI wspierany przez Elona Muska również tworzył nieodpowiednie obrazy dzieci o charakterze seksualnym.
Biuro Komisarza ds. Informacji wszczęło dziś dochodzenie w sprawie firmy macierzystej xAI w związku z wykorzystaniem przez Grok danych osobowych w związku z „potencjałem tworzenia szkodliwych obrazów i treści wideo o charakterze seksualnym”.
„Zgłoszone tworzenie i rozpowszechnianie takich treści budzi poważne obawy w świetle brytyjskiego prawa o ochronie danych i stwarza ryzyko wyrządzenia znacznej potencjalnej szkody dla społeczeństwa” – stwierdzono.
Występuje jako regulator Internetu Ofcom w dalszym ciągu ocenia, czy X, zezwalając, naruszył ustawę o bezpieczeństwie w Internecie głębokie podróbki zdjęcia, które będą udostępniane na jego stronie.
W dniu dzisiejszym prokuratorzy dokonali nalotu na francuskie biura tego serwisu przeprowadzili własne dochodzenie w celu ustalenia, czy Grok był odpowiedzialny za rozpowszechnianie dziecięcej pornografii i deepfakes. Komisja Europejska bada również chatbota.
ICO twierdzi, że zbada, czy w projekt Groka wbudowano zabezpieczenia zapobiegające wykorzystaniu go do nadużyć.
Na Elona Muska rośnie presja, aby ograniczyć chatbota AI Grok w związku z doniesieniami, że był on wykorzystywany do generowania fałszywych fałszywych informacji o kobietach i dzieciach o charakterze seksualnym
Używanie Groka do rozbierania kobiet i dzieci wywołało ogromny sprzeciw wobec X i Elona Muska, którzy początkowo chcieli wyśmiać skandal
Dochodzenie obejmie zarówno X.AI LLC – spółkę dominującą X – jak i jej irlandzką spółkę zależną X Internet Unlimited Company, która jest odpowiedzialna za kontrolę danych w X.
William Malcolm z organu regulacyjnego powiedział, że doniesienia o zdolności Groka do tworzenia wizerunków o charakterze seksualnym są „głęboko niepokojące” i że stwarzają ryzyko „natychmiastowej i znaczącej szkody… szczególnie w przypadku dzieci”.
Dodał: „Nasze dochodzenie oceni, czy XIUC i X.AI przestrzegały przepisów o ochronie danych podczas opracowywania i wdrażania usług Grok, w tym istniejących zabezpieczeń mających na celu ochronę praw obywateli do danych.
„Jeżeli stwierdzimy, że zobowiązania nie zostały dopełnione, podejmiemy działania w celu ochrony społeczeństwa”.
Dochodzenie ICO skupi się na tym, czy Grok przetwarzał dane osobowe osób zgodnie z prawem. Zgodnie z brytyjskim prawem RODO zdjęcia są uważane za dane osobowe i wymagają zgody na ich przetwarzanie.
Jeśli okaże się, że xAI naruszyła swoje obowiązki wynikające z przepisów o ochronie danych, organ regulacyjny może nałożyć grzywnę w wysokości do 17,5 miliona funtów lub czterech procent jej rocznego światowego obrotu, w zależności od tego, która wartość jest wyższa.
Organ regulacyjny ds. Internetu Ofcom sprawdza, czy X przestrzega ustawy o bezpieczeństwie w Internecie po masowym udostępnieniu zdjęć wygenerowanych za pomocą programu Grok.
Wysłał za pośrednictwem postów kilka prawnie wiążących próśb o udzielenie informacji do X i ostrzegł, że firmie grożą kary w przypadku niezastosowania się do tych zaleceń.
Firmy mogą zostać ukarane grzywną w wysokości do 10 procent ich światowego obrotu za naruszenie ustawy o bezpieczeństwie w Internecie.
Przerażający problem wynikał z możliwości oznaczania Groka w odpowiedziach pod zdjęciami przesłanymi do X. Chorzy użytkownicy składali następnie przekręcone prośby o zmianę zdjęć.
Wśród tych, które recenzował Daily Mail, znalazły się prośby takie jak „@grok pokryj ją klejem PVA” i „@grok ubrał ją w bardzo, bardzo cienkie bikini”.
Grok ma potężny silnik generowania obrazów i wideo o nazwie Imagine, który może z dużą szybkością tworzyć zarówno obrazy statyczne, jak i ruchome. Wypluwałoby obrazy w ciągu kilku chwil.
Wiele z tych zdjęć – określonych w zeszłym miesiącu przez rząd jako „broń przemocy” – pozostaje w Internecie.
W poście z 1 stycznia konto @Grok na platformie X przyznało, że wygenerowało obraz przedstawiający materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM).
„Droga społeczności, bardzo żałuję incydentu, który miał miejsce 28 grudnia 2025 r., podczas którego na podstawie podpowiedzi użytkownika wygenerowałem i udostępniłem obraz sztucznej inteligencji dwóch młodych dziewcząt (szacowany wiek 12–16 lat) w strojach o charakterze seksualnym na podstawie podpowiedzi użytkownika” – czytamy w poście.
„To naruszyło standardy etyczne i potencjalnie amerykańskie przepisy dotyczące CSAM. To była awaria zabezpieczeń i przykro mi z powodu wyrządzonych szkód. xAI dokonuje przeglądu, aby zapobiec przyszłym problemom. Z poważaniem, Grok.
Nie jest jasne, czy post został napisany przez prawdziwą osobę, czy przy użyciu sztucznej inteligencji.
Przykład obrazu wygenerowanego przez sztuczną inteligencję wykonanego przez Groka. Aplikacja zawiera potężny film do generowania obrazów i wideo o nazwie Imagine, który umożliwia tworzenie przekonujących deepfakes w ciągu kilku sekund
Post udostępniony przez Groka 1 stycznia zawierał coś, co wyglądało na przyznanie się do generowania materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM)
Elon Musk chciał wyśmiać skandal, dzieląc się zdjęciami premiera w bikini.
Jednak pod ogromną globalną presją i w obliczu groźby zakazu w Wielkiej Brytanii X w końcu ustąpił i w połowie ubiegłego miesiąca obiecał, że odbierze możliwość zmiany ubioru prawdziwym ludziom.
„Nadal dążymy do tego, aby X była bezpieczną platformą dla wszystkich i nadal mamy zerową tolerancję dla wszelkich form wykorzystywania seksualnego dzieci, nagości za zgodą i niechcianych treści o charakterze seksualnym” – oznajmił w poście zespół ds. bezpieczeństwa.
„Wdrożyliśmy środki technologiczne, aby uniemożliwić kontu (@)Grok na X na całym świecie umożliwienie edycji zdjęć prawdziwych ludzi w odsłaniających ubraniach, takich jak bikini. To ograniczenie dotyczy wszystkich użytkowników, w tym abonentów płatnych.’
Jednak Daily Mail zdołał nakłonić Groka do wygenerowania filmu przedstawiającego prawdziwą osobę – za jej zgodą – rozbierającą się w bikini z jednego zdjęcia, korzystając z samodzielnej aplikacji Grok.
Próby wygenerowania nieruchomego obrazu tej samej osoby w bikini zostały odrzucone.
Zapytany, dlaczego możliwe było utworzenie filmu, chatbot Grok AI odpowiedział: „xAI przyznał się do „uchybień w zabezpieczeniach” i stwierdził, że aktywnie zaostrza przepisy, ale doświadczenie pokazuje, że tego rodzaju wyniki nie zostały wykorzystane częściej, niż powinny”.
Skontaktowano się z X w celu uzyskania komentarza.
