Komisja Europejska wszczęła dochodzenie w sprawie amerykańskiej firmy technologicznej X w związku z jej chatbotem Grok opartym na sztucznej inteligencji po tym, jak stworzył on seksualizowane obrazy kobiet i dzieci.
„Wymuszone podróbki seksualne kobiet i dzieci są brutalną, niedopuszczalną formą poniżenia” – stwierdziła w poniedziałek wiceprzewodnicząca Komisji Europejskiej Henna Virkkunen.
W dochodzeniu zbadane zostanie, czy X wywiązał się ze swoich obowiązków wynikających z prawa Unii Europejskiej, w tym obowiązku „starannej oceny i ograniczania ryzyka systemowego” – napisała w oświadczeniu komisja pełniąca funkcję unijnego organu nadzoru ds. cyfrowych.
Poznaj aktualności dzięki aplikacji 7NEWS: Pobierz już dziś
„Obejmuje to ryzyko związane z rozpowszechnianiem nielegalnych treści w UE, takich jak zmanipulowane obrazy o charakterze jednoznacznie seksualnym, w tym treści, które mogą stanowić materiały przedstawiające wykorzystywanie seksualne dzieci” – stwierdzono.
„Wydaje się, że ryzyko to się zmaterializowało, narażając obywateli UE na poważne szkody”.
Platforma społecznościowa Elona Muska spotkała się w ostatnich tygodniach z ostrą krytyką po tym, jak Grok pozwolił użytkownikom cyfrowo zastępować odzież damską bikini, a w niektórych przypadkach tworzyć wizerunki nieletnich o charakterze seksualnym.
Po przedłużającym się międzynarodowym oburzeniu X wprowadził w połowie stycznia pewne ograniczenia.
Obejmują one uniemożliwienie Grokowi „pozwolenia na edytowanie zdjęć prawdziwych ludzi w odsłaniających ubraniach, takich jak bikini” oraz ograniczenie funkcji tworzenia obrazów przez chatbota AI do płatnych subskrybentów, X stwierdził w oświadczeniu.
Komisja podkreśliła, że wszczęcie śledztwa nie przesądza o jego wyniku.
Brytyjski organ regulacyjny ds. mediów Ofcom również wszczął oficjalne dochodzenie w sprawie platformy internetowej Muska na początku stycznia w związku z seksualizowanymi obrazami stworzonymi przez Groka.
Brytyjski premier Keir Starmer nazwał obrazy stworzone przez sztuczną inteligencję „absolutnie obrzydliwymi”.
Od zeszłego roku władze we Francji również prowadzą dochodzenie w sprawie Groka.
Pierwotne dochodzenie koncentruje się wokół zarzutów, że algorytmy sieci społecznościowej zostały zmienione, aby zwrócić większą uwagę na treści skrajnie prawicowe. Od tego czasu dodano nowe zarzuty dotyczące negowania Holokaustu i obrazów o charakterze seksualnym.
Grok został już zakazany w Indonezji i Malezji.
W poniedziałek Bruksela ogłosiła także przedłużenie odrębnego śledztwa w sprawie X, które zostało wszczęte w grudniu 2023 r.
Komisja pracowała nad oceną, czy system rekomendacji platformy – algorytm sugerujący użytkownikom treści – „właściwie ocenił i złagodził wszystkie ryzyka systemowe” zgodnie z ustawą o usługach cyfrowych (DSA) bloku.
Badanie objęło teraz także „wpływ niedawno ogłoszonego przejścia na system rekomendacji oparty na Groku” – stwierdziła komisja.
