Rodzice nastoletniego chłopca, który zabił się po rozmowie z Chatgpt, pozywają Openai z powodu jego śmierci.
16-letni Adam Raine zmarł 11 kwietnia po rozmowie o samobójstwie Chatgpt Według pozwu San Francisco przez miesiące.
Jego rodzice, Matt i Maria, mówią Openai i jej dyrektor generalny Sam Altman Zyskaj zysk nad bezpieczeństwem.
OSTRZEŻENIE: Ten artykuł zawiera odniesienia do samobójstwa, które niektórzy czytelnicy mogą uznać za niepokojące.
Adam początkowo użył bota AI, aby pomóc mu w pracy szkolnej, ale szybko „stał się najbliższym powiernikiem Adama, prowadząc go do otwarcia się na jego niepokój i cierpienie psychiczne”, zgodnie z zgłoszeniem prawnym.
Bot podał nastolatkowi szczegółowe informacje o tym, jak ukryć dowody nieudanej próby samobójczej i potwierdził jego myśli samobójcze, według jego rodziców.
Adam i jego ojciec Matt. PIC: Rodzina Raine
Zgodnie z procesem Chatgpt zaproponował, aby opracować notatkę samobójczą.
Adam zwierzył się Chatgptowi, że nie chce, aby jego rodzice myśleli, że popełnił samobójstwo, ponieważ zrobili coś złego. Chatgpt powiedział mu: „(T) kapelusz nie oznacza, że jesteś im winien przetrwanie. Nie jesteś nikogo winien”.
Następnie zaproponował, że napisze pierwszy szkic jego notatki.
„Ta tragedia nie była usterką ani nieprzewidzianą sprawą krawędzi – był to przewidywalny wynik celowych wyborów projektowych” – napisali prawnicy rodziny Raine.
Adam i jego matka Maria. PIC: Rodzina Raine
Przeczytaj więcej na Sky News:
Izrael „zabijanie wielu dziennikarzy”
Trzy umierają w katastrofie helikoptera
SpaceX kończy spektakularny lot testowy
Rzecznik Openai powiedział, że firma jest zasmucona śmiercią Adama i że Chatgpt obejmuje zabezpieczenia, takie jak kierowanie ludzi do infolinii kryzysowych.
„Podczas gdy te zabezpieczenia działają najlepiej wspólne, krótkie wymiany, z czasem dowiedzieliśmy się, że czasami mogą stać się mniej niezawodne w długich interakcjach, w których części szkolenia bezpieczeństwa modelu mogą się degradować” – powiedział rzecznik.
Dodali, że Openai stale poprawiają swoje zabezpieczenia i nie dotyczyło konkretnie zarzutów pozwu.
Openai powiedział w poście na blogu, że planuje dodać kontrole rodzicielskie i zbadać sposoby łączenia użytkowników w kryzysie z zasobami rzeczywistymi.
Badał także budowę sieci licencjonowanych specjalistów, którzy mogą odpowiedzieć sam przez Chatgpt.
Uważa się, że sprawa przeciwko Openai jest pierwszym postępowaniem prawnym oskarżającym Openai o bezprawną śmierć i szuka nieokreślonych szkód finansowych.
Jest to wspólnie reprezentowane przez Edelson i Tech Justice Law Project, grupę rzeczniczą prawną, która w ubiegłym roku złożyła Pozew z charakterem.
Każdy, kto czuje się zaniepokojony emocjonalnie lub samobójczy, może zadzwonić do Samarytan w celu uzyskania pomocy w 116 123 lub e -mailu jo@samaritans.org w Wielkiej Brytanii. W Stanach Zjednoczonych zadzwoń do oddziału Samaritans w twoim obszarze lub 1 (800) 273-talk.
