Z tą historią
Uprzejmie dla asystenta AI może kosztować miliony dolarów.
Sam Altman, dyrektor generalny Openai, ujawnił, że odpowiednie maniery dla modeli Chatgpt, takie jak „proszę” i „dziękuję” spowodują miliony dolarów kosztów operacyjnych.
Altman odpowiedział na użytkowników na X (wcześniej Twitter). Zapytał, ile firma straciła koszty energii elektrycznej od osób uprzejmych do modelu.
„Dziesięć milionów dolarów zostało dobrze wydanych. Nigdy nie wiadomo”. CEO napisał.
Wygląda na to, że ktoś widział system operacyjny HAL w „2001: A Space Odyssey”, ale na wszelki wypadek będą miły dla asystenta AI. Eksperci odkryli również, że uprzejmość chatbota zwiększa prawdopodobieństwo, że AI zareaguje na Ciebie.
Sądząc po bezczelnym tonie Altmana, ta liczba „milionów” prawdopodobnie nie jest dokładną liczbą. Jednak wiadomości do Chatgpt, bez względu na to, jak trywialne lub nieaktywne, wymagają, aby AI rozpoczęła pełną odpowiedź w czasie rzeczywistym, polegając na systemach obliczeniowych o dużej mocy, zwiększając obciążenie obliczeniowe. Będzie to wykorzystywać dużą ilość energii elektrycznej.
Modele AI w dużej mierze polegają na energii przechowywanej w globalnych centrach danych. To już stanowi około 2% światowego zużycia energii elektrycznej. Według Goldman Sachs (Gs))każde zapytanie Chatgpt-4 wykorzystuje około 10 razy większą moc standardowego Google (Googl)) szukaj.
dane Z Washington Post Jeśli jeden na dziesięciu pracujących Amerykanów używa GPT-4 raz w roku (co oznacza 52 zapytania jako 17 milionów), wymagana moc sugeruje, że każde gospodarstwo domowe w Waszyngtonie, DC będzie porównywalne z mocą spożywaną przez 20 dni.
Rene Hass, dyrektor generalny półprzewodników ARM Holdings (ramię))niedawno ostrzegł, że AI może stanowić ćwierć całkowitego zużycia energii w USA do 2030 r. Liczba ta wynosi obecnie 4%.
Zostanie również dodana uprzejma reakcja do rachunku za wodę Openai. AI wykorzystuje wodę do chłodzenia serwerów, które generują dane. Badanie z University of California Riverside stwierdza, że użycie GPT-4 do wygenerowania 100 słów zużyje maksymalnie trzy butelki wody. Nawet trzy słowa reakcje, takie jak „jesteś wluse”, używają około 1,5 uncji wody.
