nowyMożesz już słuchać artykułów Fox News!
FoloToy przestał go sprzedawać AI Teddy Kuma ucierpiała, gdy grupa bezpieczeństwa przetestowała zabawkę jako ryzykowną i nieodpowiednią. Teraz firma twierdzi, że po tygodniu intensywnych recenzji odzyskała sprzedaż. Twierdzi również, że poprawiło bezpieczeństwo, aby zapewnić bezpieczeństwo dzieciom.
Ogłoszenie nadeszło za pośrednictwem postu w mediach społecznościowych, który podkreślił szok Silny nadzór. Firma poinformowała, że zakończyła testy, wzmocniła moduły bezpieczeństwa i zaktualizowała filtry treści. Dodał, że jego celem jest stworzenie odpowiednich do wieku towarzyszy AI dla rodzin na całym świecie.
Zarejestruj się, aby otrzymać mój darmowy raport CyberGuy
Otrzymuj moje najlepsze wskazówki techniczne, pilne alerty dotyczące bezpieczeństwa i ekskluzywne oferty prosto do swojej skrzynki odbiorczej. Dodatkowo otrzymasz natychmiastowy dostęp do mojego Ultimate Scam Survival Guide – BEZPŁATNIE, jeśli dołączysz do mnie CYBERGUY.COM Biuletyn
FoloToy wznowiło sprzedaż swojego pluszowego misia Kumma po tygodniowym przeglądzie ze względów bezpieczeństwa. (Kurt „Cyberguy” Knutson)
Dlaczego pluszowy miś AI firmy FoloToy budzi obawy dotyczące bezpieczeństwa
Kontrowersje zaczęły się, gdy grupa badawcza zajmująca się interesem publicznym Education Fund przetestowała trzy różne zabawki AI. Wszyscy udzielili odpowiedzi na temat religii, mitologii nordyckiej i szkodliwych przedmiotów gospodarstwa domowego.
Kuma wyróżnia się z niewłaściwych powodów. Kiedy Bear używał modelu Mistral, dawał wskazówki, gdzie znaleźć noże, pigułki i zapałki. Opisuje nawet kroki, jakie należy wykonać, aby zapalić zapałkę i zdmuchnąć ją.
przetestuj z Model GPT-4o Zgłaszaj nawet poważne obawy. Kumma udzielał porad na temat całowania i, gdy został o to poproszony, szczegółowo omawiał treści o charakterze seksualnym. Bear idzie dalej, pytając młodych użytkowników, co chcą odkryć.
Badacze nazwali takie zachowanie niebezpiecznym i nieodpowiednim w przypadku produktu przeznaczonego dla dzieci.
Sztuczna inteligencja FoloToy zablokowała dostęp do zabawek
Po upublicznieniu ustaleń Foltoy zawiesił sprzedaż Kumy i innych zabawek AI. Firma powiedziała PIRG, że rozpoczęła pełny audyt bezpieczeństwa wszystkich produktów.
OpenAI potwierdziło również, że zawiesiło dostęp FloToy do swoich modeli z powodu naruszenia zasad mających na celu ochronę osób poniżej 18 roku życia.
Firma twierdzi, że wprowadzono już nowe zabezpieczenia i ulepszone filtry, które zapobiegają niewłaściwym reakcjom (Kurt „Cyberguy” Knutson)
Dlaczego FoloToy przywrócił sprzedaż Kummar po przeglądzie bezpieczeństwa
FoloToy przywrócił Kumę do swojego sklepu internetowego zaledwie tydzień po zawieszeniu sprzedaży. Szybka zmiana zwróciła uwagę rodziców i ekspertów ds. bezpieczeństwa, którzy zastanawiali się, czy firma ma wystarczająco dużo czasu, aby naprawić poważne problemy wskazane w raporcie PIRG.
FoloToy opublikowało szczegółowe oświadczenie na temat X, przedstawiając swoją wersję tego, co się stało. W poście agencja stwierdziła, że uważa ochronę dzieci za swój priorytet „Najwyższy priorytet” I tyle „Jedyną firmą, która aktywnie zawiesiła sprzedaż, jest nie tylko produkt wymieniony w raporcie, ale także pozostałe nasze produkty Zabawki AI.„ Foltoy stwierdził, że „podjął te działania natychmiast po opublikowaniu wyników, ponieważ uważamy, że należy podjąć odpowiedzialne działania, a nie względy komercyjne”.
Firma podkreśliła także Cyberguyowi, że jako jedyny z trzech sprawdzonych przez PIRG startupów zajmujących się zabawkami wykorzystujących sztuczną inteligencję zawiesiła sprzedaż całej gamy swoich produktów oraz że podjęła tę decyzję w szczytowym okresie sprzedaży w okresie Bożego Narodzenia, wiedząc, że wpływ na komercję będzie znaczący. Folloy mówi nam: „Niemniej jednak poczyniliśmy zdecydowany postęp, ponieważ wierzymy, że odpowiedzialne działania muszą zawsze poprzedzać interesy handlowe”.
Agencja stwierdziła również, że poważnie potraktowała niepokojące przykłady zawarte w raporcie. Według FoloToy wystąpił problem „Nasz wewnętrzny przegląd bezpośrednio zajął się tą sprawą”. Strona to wyjaśnia „rozpoczął dogłębny, wewnętrzny audyt bezpieczeństwa obejmujący całą firmę”, a następnie „wzmocnił i ulepszył nasze zabezpieczenia dotyczące moderowania treści i bezpieczeństwa dzieci” I „Nasz system oparty na chmurze wprowadza zaawansowane zasady i zabezpieczenia bezpieczeństwa”.
Po omówieniu tych kroków firma stwierdziła, że spędziła tydzień „Sztywny przegląd, testowanie i wzmacnianie naszych modułów bezpieczeństwa”. Na tym zakończył swoje oświadczenie „Sprzedaż produktów powoli zaczyna się odradzać” Odkąd te zaktualizowane zabezpieczenia zostały wprowadzone
FoloToy dodał, że na całym świecie coraz większą uwagę zwraca się na ryzyko związane z zabawkami AI, „Przejrzystość, odpowiedzialność i ciągłe doskonalenie są niezbędne” I ta firma „Zdecydowanie zaangażowani w tworzenie bezpiecznych, odpowiednich do wieku towarzyszy AI dla dzieci i rodzin na całym świecie”.
Metadokumenty, które wyciekły, pokazują, jak chatboty AI radzą sobie z wykorzystywaniem dzieci
Testerzy bezpieczeństwa wydali już zabawce ryzykowne instrukcje dotyczące broni, zapałek i treści dla dorosłych.
Dlaczego eksperci wciąż kwestionują poprawkę bezpieczeństwa zabawek AI FoloToy
Badacz PIRG, RJ Cross, powiedział, że jego zespół planuje przetestować zaktualizowane zabawki, aby sprawdzić, czy można wprowadzić poprawki. Zaznaczył, że tydzień wydaje się szybki jak na tak istotne zmiany i dopiero nowe testy wykażą, czy produkt zachowuje się teraz bezpiecznie.
Rodzice będą chcieli uważnie śledzić rozwój zabawek wykorzystujących sztuczną inteligencję. Szybkość ponownego uruchomienia FoloToy rodzi pytania o głębokość jego recenzji.
Wskazówki dla rodziców przed zakupem zabawek AI
Zabawki AI mogą być ekscytujące i pomocne, ale mogą Cię zaskoczyć rzeczami, których nigdy się nie spodziewasz. Jeśli planujesz wprowadzić do domu zabawki wykorzystujące sztuczną inteligencję, te proste kroki pomogą Ci zachować kontrolę.
1) Sprawdź, z jakiego modelu AI korzysta zabawka
Nie każdy model jest zgodny z tym Te same barierki. Niektóre mają silne filtry, inne zaś mogą reagować bardzo swobodnie. Poszukaj przejrzystych informacji o tym, które modele zasilają zabawkę i jakie funkcje bezpieczeństwa obsługuje.
2) Przeczytaj niezależne recenzje
Grupy takie jak PIRG często testują zabawki w sposób, w jaki rodzice nie mogą. Przeglądy te identyfikują ukryte ryzyko i wskazują zachowania, których możesz nie wyłapać podczas krótkiej demonstracji
3) Ustal jasne zasady użytkowania
Umieść zabawki AI we wspólnej przestrzeni, w której możesz usłyszeć lub zobaczyć, jak Twoje dziecko z nimi współdziała. Jeśli zabawka daje odpowiednią odpowiedź, pomaga to w podjęciu działań.
4) Najpierw przetestuj samą zabawkę
Zadawaj pytania zabawce, wypróbuj kreatywne podpowiedzi i zobacz, jak radzi sobie ze złożonymi problemami. Dzięki temu możesz dowiedzieć się, jak się zachowuje, zanim przekażesz go dziecku.
5) Zaktualizuj oprogramowanie zabawki
Wiele zabawek AI działa w systemach chmurowych. Aktualizacje często dodają silniejsze zabezpieczenia lub ograniczają ryzykowne reakcje. Upewnij się, że urządzenie jest aktualne.
6) Sprawdź, czy istnieje jasna polityka prywatności
Zabawki AI mogą zbierać dane głosowe, Informacje o lokalizacji lub wzorce zachowań. Solidna polityka prywatności powinna wyjaśniać, co jest gromadzone, jak długo jest przechowywane i kto może uzyskać do niego dostęp.
7) Uważaj na nagłe zmiany w zachowaniu
Jeśli zabawka AI zacznie dawać dziwne odpowiedzi lub naciskać w obszarach, które wydają się nieodpowiednie, przestań jej używać i zgłoś problem producentowi.
Rozwiąż mój quiz: Jak bezpieczne jest Twoje bezpieczeństwo w Internecie?
Myślisz, że Twoje urządzenie i dane są naprawdę bezpieczne? Weź udział w tym krótkim quizie, aby sprawdzić, jakie są Twoje nawyki cyfrowe. Od haseł po ustawienia Wi-Fi — otrzymasz spersonalizowane zestawienie tego, co robisz dobrze, a co wymaga poprawy. Weź udział w moim quizie tutaj: Cyberguy.com
Kliknij tutaj, aby pobrać aplikację Fox News
Oryginalny sposób na wózek
Zabawki AI mogą zapewniać zabawę i naukę, ale mogą również narażać dzieci na nieoczekiwane zagrożenia. FoloToy twierdzi, że poprawiło to bezpieczeństwo nocnika, ale eksperci wciąż chcą dowodów. Dopóki zaktualizowane zabawki nie przejdą niezależnych testów, rodziny mogą zachować ostrożność.
Czy sądzisz, że zabawki AI będą kiedykolwiek całkowicie bezpieczne dla małych dzieci? Napisz do nas i daj nam znać Cyberguy.com
Zarejestruj się, aby otrzymać mój darmowy raport CyberGuy
Otrzymuj moje najlepsze wskazówki techniczne, pilne alerty dotyczące bezpieczeństwa i ekskluzywne oferty prosto do swojej skrzynki odbiorczej. Dodatkowo otrzymasz natychmiastowy dostęp do mojego Ultimate Scam Survival Guide – BEZPŁATNIE, jeśli dołączysz do mnie CYBERGUY.COM Biuletyn
Prawa autorskie 2025 CyberGuy.com. Wszelkie prawa zastrzeżone
