Praca ze sprzętem Nvidia stała się symbolem statusu — znakiem, że ktoś poważnie podchodzi do sztucznej inteligencji. Rozmawiając z inżynierami na temat sprzętu, przypomniał mi się czas, gdy widziałem wijącą się kolejkę młodych mężczyzn stojących na zimnie, aby kupić tenisówki streetwearowej marki Supreme.
Na początku tego roku CoreWeave wszedł na giełdę. Venturo i jego współzałożyciele są teraz miliarderami. Firma posiada kilkaset tysięcy procesorów graficznych, a jej platforma szkoli modele dla Meta i innych wiodących laboratoriów, a także OpenAI.
Tego lata odwiedziłem placówkę CoreWeave na obrzeżach Las Vegas. Budynek – duży magazyn – był otoczony grubym płotem i w regularnych odstępach rozmieszczonych kamerami bezpieczeństwa. Przeszedłem przez bramkę obrotową, gdzie przywitał mnie ochroniarz ubrany w kamizelkę kuloodporną i paralizator w kaburze. Po oddaniu telefonu wyjąłem z dozownika dwie limonkowo-zielone zatyczki do uszu i wszedłem do placówki.
Dołączyło do mnie trzech inżynierów CoreWeave, maniaków, którzy przystosowali się do kapitalizmu na wielką skalę, tak jak zięby Darwina na Wyspach Galapagos. Jacob Yundt z korporacji był szczupły i elokwentny, z opadającą częścią włosów. Sprzętem nadzorował Christopher Conley, entuzjastyczny tłumacz w okularach przeciwsłonecznych i brodzie. Sean Anderson, mierzący dwa metry wzrostu były ośrodek koszykówki w college’u, miał na sobie koszulkę z napisem „WĘZŁY JUTRA.”
Węzły, o których mowa, to płytkie półki ze sprzętem komputerowym, każdy ważący około siedemdziesięciu funtów i mieszczący cztery chłodzone wodą procesory graficzne wraz z szeregiem dodatkowego sprzętu. Osiemnaście takich kieszeni jest układanych w stosy, a następnie podłączanych kablami do jednostki sterującej, tworząc szafę komputerową Nvidia GB300, która jest nieco wyższa od lodówki i kosztuje kilka milionów dolarów. W pracowitym roku typowy stojak zużyje więcej prądu niż sto domów. Dziesiątki z nich rozciągnęły się w dal.
CoreWeave przechowuje swoje stojaki w białych metalowych szafkach, aby zapewnić im chłód i tłumić hałas. Conley otworzył drzwi, żeby pokazać mi regał w akcji, i poczułem, jak zalewa mnie powietrze. Hałas był przeraźliwy, jakbym otworzył schowek na miotły i znalazł w środku aktywny silnik odrzutowy. Patrzyłem na migające światła i kręcące się wentylatory. „Szumy uszne stanowią ryzyko zawodowe” – krzyknął na mnie Conley.
Rozejrzałem się. W placówce znajdowały się setki identycznych szafek. Nad nami znajdował się metalowy pomost, na którym stały dystrybutory prądu dla sprzętu komputerowego. Myślałem o mnichach w klasztorach, żołnierzach w koszarach, więźniach w celach. Zastanawiałem się, jaki typ osoby dobrowolnie pracował w takim miejscu. „Dział HR powiedział mi, że nie mogę już zadawać tego typu pytań, ale lubię zatrudniać ludzi, którzy są w stanie znieść wiele bólu” – powiedział później Yundt. – Sportowcy wytrzymałościowi i tym podobne.
CoreWeave nie powiedział mi, który klient korzystał tego dnia z jego technologii, chociaż Yundt zasugerował, że szkolenie, którego byliśmy świadkami, było skromne. Zaczął szczegółowo opisywać konfigurację stojaka. Nie mogąc usłyszeć, co mówi, mądrze pokiwałem głową, jak podczas rozmowy w nocnym klubie. Nawet po podłączeniu wtyczek zaczęło mi dzwonić w uszach i bolała mnie głowa. Yundt zwrócił się do mnie. „Czasami klient zwiąże całe to miejsce na tygodnie” – krzyknął. Jego rozczesane włosy zaczęły trzepotać w wylocie wentylatora. „Nazywamy te „biegi bohaterów”. ”
Sprzęt CoreWeave może trenować sztuczną inteligencję od podstaw do końca. Twórcy oprogramowania, zwykle pracujący na stacji roboczej w Dolinie Krzemowej, przesyłają do centrum danych plik liczbowy zwany „wagami” oraz szeroką gamę danych treningowych, którymi może być tekst, obrazy, dokumentacja medyczna lub właściwie cokolwiek innego. W początkowej konfiguracji wagi są losowe, a sztuczna inteligencja nie ma żadnych możliwości.
Następnie sztuczna inteligencja jest wystawiana na działanie fragmentu danych szkoleniowych i proszona o prognozę tego, co powinno nastąpić – na przykład kilka kolejnych liter w zdaniu. Nieprzeszkolona sztuczna inteligencja zawsze pomyli się w tych przewidywaniach, ale przynajmniej dowie się czego nie zrobić. Aby wchłonąć tę nową informację, należy zmodyfikować wagi. Matematyka jest nieporęczna i szczególnie zależy od operacji znanej jako mnożenie macierzy.
