FTC chce zakazać firmom twierdzenia, że ​​ich technologia oparta na sztucznej inteligencji ma „zero” stronniczości

Zgodnie z nowym zarządzeniem wydanym przez administrację Bidena dostawcy oprogramowania nie będą już mogli kłamać na temat dokładności ich technologii rozpoznawania twarzy opartej na sztucznej inteligencji.

We wtorek Federalna Komisja Handlu (FTC) stwierdziła: proponowana kolejność wyrażania zgody Partnerstwo z IntelliVision Technologies chroni firmę z siedzibą w San Jose w Kalifornii przed składaniem wprowadzających w błąd twierdzeń na temat jej oprogramowania. Obejmuje to wprowadzające w błąd stwierdzenia na temat wyników, które identyfikują osoby różnej płci, pochodzenia etnicznego i koloru skóry.

Firma z siedzibą w San Jose w Kalifornii nie będzie mogła formułować żadnych twierdzeń na temat swojej technologii bez „kompetentnych i niezawodnych” testów potwierdzających ją.

Agencja twierdzi, że przez ostatnie sześć lat Intellivision twierdziło, że jej modele są szkolone na milionach twarzy na całym świecie i „nie mają uprzedzeń związanych z płcią ani rasą”. skarga. A arkusz informacyjny Na stronie internetowej firmy podano, że dokładność jej technologii wynosi „aż +99%”.

Jeśli to prawda, byłaby to wielka sprawa. Od lat technologia rozpoznawania twarzy boryka się z problemami. zidentyfikować kobiety i osoby niebiałe.

W 2018 r. badanie Korporacja Microsoft (MSFT-0,13%) Naukowcy odkryli, że chociaż oprogramowanie do rozpoznawania twarzy dawało niemal doskonałe wyniki w przypadku mężczyzn o jaśniejszej karnacji, to gdy używano go do identyfikacji kobiet o ciemniejszej karnacji, okazało się, że prawdopodobieństwo, że może być błędne, wynosi 1. To są problemy prawie nic nie zostało problemu i kilka firm W rezultacie wpadliśmy w kłopoty.

z Narodowy Instytut Standardów i TechnologiiFirma kierowana przez Departament Handlu przetestowała algorytm IntelliVision. W swojej skardze FTC zarzuciła, że ​​organizacja odkryła, że ​​algorytm IntelliVision nie znalazł się na liście 100 najlepiej testowanych firm według stanu na grudzień 2023 r.

Według FTC zamiast testować swoją technologię na milionach twarzy, firma IntelliVision poszła na skróty, szkoląc się na obrazach około 100 000 osób, a następnie tworząc warianty tych obrazów do dalszych testów. FTC stwierdziła również, że nie ma dowodów na to, że stosowanej przez firmę technologii przeciwdziałającej fałszowaniu nie da się oszukać zdjęciami.

„Firmy nie powinny promować bezstronnych systemów sztucznej inteligencji, jeśli nie mogą poprzeć tych twierdzeń” – stwierdził w oświadczeniu dyrektor Biura Ochrony Konsumentów FTC Samuel Levin. „Osoby, które opracowują i wykorzystują systemy sztucznej inteligencji, nie są zwolnione z podstawowych zasad zwodniczej reklamy”.