Najwyższy prokurator Kalifornii wszczął dochodzenie w sprawie rozprzestrzeniania się seksualnych fałszywych fałszywych informacji AI generowanych przez model sztucznej inteligencji Elona Muska Grok.
Prokurator generalny Rob Bonta powiedział w oświadczeniu ogłaszającym wszczęcie śledztwa: „Lawina raportów szczegółowo opisujących materiały o charakterze jednoznacznie seksualnym, które xAI wyprodukowała i umieściła w Internecie w ostatnich tygodniach, jest szokująca”.
Firma xAI, która tworzy Grok, stwierdziła wcześniej, że „każdy, kto używa Groka do tworzenia nielegalnych treści lub namawia go do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak w przypadku przesyłania nielegalnych treści”.
Dochodzenie Kalifornii rozpoczyna się po tym, jak brytyjski premier Sir Keir Starmer ostrzega przed możliwymi działaniami przeciwko X.
W środowym oświadczeniu Bonta stwierdziła: „Ten materiał, przedstawiający kobiety i dzieci w nagich sytuacjach o charakterze jednoznacznie seksualnym, został wykorzystany do nękania ludzi w Internecie”.
Prokurator Demokratów wezwał xAI do podjęcia natychmiastowych działań.
Demokrata, gubernator Kalifornii Gavin Newsom, napisał w środę do X, że decyzja xAI o „stworzeniu i utrzymywaniu wylęgarni drapieżników… jest podła”.
BBC skontaktowało się z xAI w celu uzyskania komentarza.
W środę Musk napisał do X, że „nie są mu znane żadne zdjęcia nagich nieletnich wygenerowane przez Groka. Dosłownie zero”.
„Oczywiście Grok nie generuje obrazów spontanicznie” – napisał Musk. „Robi to tylko zgodnie z żądaniami użytkowników”.
Miliarder z branży technologicznej, megadarczyńca z Partii Republikańskiej, powiedział również, że krytycy X mieli motywację polityczną i wykorzystywali kontrowersje wokół Groka jako „wymówkę dla cenzury”.
W listopadzie magazyn Wired doniósł, że narzędzia innych firm zajmujących się sztuczną inteligencją, takie jak OpenAI i Google, również były wykorzystywane do cyfrowego rozbierania ludzi.
W zeszłym tygodniu trzech senatorów Partii Demokratycznej w USA poprosiło Apple i Google o usunięcie aplikacji X i Grok ze swoich sklepów z aplikacjami.
W ciągu kilku godzin od żądania X ograniczyło swoje narzędzie do generowania obrazów, tak aby było dostępne tylko dla płacących subskrybentów.
X i Grok pozostają dostępne w sklepach Apple App Store i Google Play.
Orzeczenie to pojawia się w kontekście debaty na temat tego, czy amerykańskie firmy technologiczne są chronione przed odpowiedzialnością za to, co użytkownicy publikują na platformach AI.
Artykuł 230 ustawy o przyzwoitości komunikacyjnej z 1996 r. zapewnia platformom internetowym immunitet prawny w przypadku treści generowanych przez użytkowników.
Jednak profesor James Grimmelmann z Cornell University argumentuje, że to prawo „chroni jedynie witryny przed odpowiedzialnością za treści pochodzące od osób trzecich pochodzące od użytkowników, a nie treści tworzone przez same witryny”.
Grimmelmann powiedział, że xAI próbował odwrócić od siebie odpowiedzialność za udostępniania zdjęć użytkownikom, ale wyraził wątpliwości, czy argument ten utrzyma się w sądzie.
„To nie jest przypadek, w którym użytkownicy sami tworzą obrazy, a następnie udostępniają je w X” – powiedział.
W tym przypadku „obrazy tworzy sama firma xAI. To wykracza poza zakres, do którego ma zastosowanie sekcja 230” – dodał.
Senator Ron Wyden ze stanu Oregon argumentował, że sekcja 230, której jest współautorem, nie ma zastosowania do obrazów generowanych przez sztuczną inteligencję. Powiedział, że firmy powinny ponosić pełną odpowiedzialność za takie treści.
„Cieszę się, że stany takie jak Kalifornia podjęły śledztwo w sprawie generatora przerażających materiałów przedstawiających wykorzystywanie seksualne dzieci Elona Muska” – Wyden powiedział BBC w środę.
Wyden jest jednym z trzech senatorów Partii Demokratycznej, którzy zwrócili się do Apple i Google o usunięcie aplikacji X i Grok ze swoich sklepów z aplikacjami.
Ogłoszenie śledztwa w Kalifornii następuje w czasie, gdy Wielka Brytania przygotowuje przepisy, które zabraniają tworzenia intymnych zdjęć bez zgody.
Brytyjski organ nadzoru Ofcom również wszczął dochodzenie w sprawie Groka.
Jeśli uzna, że platforma złamała prawo, może nałożyć karę w wysokości do 10% jej światowych przychodów lub 18 mln funtów, w zależności od tego, która kwota jest większa.
W poniedziałek Sir Keir Starmer powiedział parlamentarzystom Partii Pracy, że platforma mediów społecznościowych X Muska może utracić „prawo do samoregulacji”, dodając, że „jeśli X nie będzie w stanie kontrolować Groka, zrobimy to”.
