MTwój wzrok przykuła uderzająca fotografia w najnowszym wydaniu biuletynu Substack Charlesa Arthura Ocieplenie społeczne. Pokazuje wąską uliczkę po „bomba deszczowa”, która spustoszyła region Walencji w Hiszpanii. W ciągu jednego dnia spadło roczne opady, a w niektórych miastach w ciągu ośmiu godzin spadło ponad 490 litrów z metra kwadratowego. Woda jest bardzo ciężka, więc przy nachyleniu będzie spływać w dół z siłą, która jest w stanie unieść ciężkiego SUV-a i rzucić nim jak zabawką. A jeśli skieruje się wąską ulicą miejską, będzie rzucać zaparkowanymi samochodami jak King Kong w złym humorze.
Zdjęcie w artykule Arthura pokazało, co wydarzyło się na konkretnej ulicy. Zdjęcie zrobione teleobiektywem z górnej kondygnacji budynku pokazywało chaotyczną i niemal surrealistyczną scenę: około 70 pojazdów różnej wielkości pomieszanych i rozrzuconych pod dziwnymi kątami wzdłuż ulicy.
To był zdumiewający obraz, który naprawdę mnie zatrzymał. Nic dziwnego, że zrobiło się o nim głośno także w mediach społecznościowych. A potem przyszła reakcja: „Obraz AI, fałszywe wiadomości”. Zdjęcie było tak żywe, tak niesamowicie ostre i nierealne, że widzom wyglądało na coś, co mogli sfałszować za pomocą Midjourney, Dall-E lub wielu innych generatywnych narzędzi AI.
Ale to nie była fałszywka, jak Arthur wykazał w niezłym kawałku detektywistycznej pracy – śledzenie paska na obrazku korzystając z Facebooka, odnajdując ulicę w Apple Maps, a nawet „spacerując” nią za pomocą Street View. „Nie jest oczywiste, dlaczego ci ludzie myśleli, że to zdjęcie nie jest prawdziwe” – pisze. „Być może jest to kwestia połysku samochodów i specyficznej zaokrąglenia kształtów, a może braku widocznych uszkodzeń”. A może rozprzestrzenianie się podróbek generowanych przez sztuczną inteligencję już sprawia, że ludzie są coraz bardziej skłonni nie wierzyć w rzeczy, które są prawdziwe?
Mam przeczucie, że to drugie, ponieważ media społecznościowe zostały opanowane przez tak zwane „slopy AI” – obrazy i tekst tworzone przy użyciu generatywnych narzędzi AI. (Sklep Amazon Kindle to mając podobne problemy z „książkami” generowanymi przez sztuczną inteligencję, ale to inna historia.)
Można by pomyśleć, że firmy z branży mediów społecznościowych będą zaniepokojone tym tsunami bzdur na ich platformach. Pomyśl jeszcze raz. Według Jason Koebler z serwisu informacyjnego 404 Mediaw niedawnej rozmowie telefonicznej dotyczącej wyników kwartalnych, która w przeważającej mierze dotyczyła sztucznej inteligencji, dyrektor naczelny Meta, Mark Zuckerberg, powiedział, że na Facebooku i innych platformach Meta prawdopodobnie pojawią się nowe kanały generowane przez sztuczną inteligencję. Zuckerberg powiedział, że jest podekscytowany „możliwością, jaką daje sztuczna inteligencja, aby pomóc ludziom tworzyć treści, które po prostu poprawiają doświadczenia użytkowników w kanałach informacyjnych”.
Rozgrzewając temat, Zuck kontynuował: „Myślę, że dodamy zupełnie nową kategorię treści, którą będą treści generowane przez sztuczną inteligencję lub jej podsumowania, albo rodzaj istniejących treści zebranych w jakiś sposób przez sztuczną inteligencję. Myślę, że z czasem będzie to bardzo ekscytujące dla Facebooka i Instagrama, a może z czasem także dla Threads lub innego rodzaju kanałów informacyjnych”.
Co w pewnym sensie ma sens: zyski Meta zależą od utrzymywania „zaangażowania” użytkowników jej platform – to znaczy spędzania na nich jak największej ilości czasu – a jeśli sztuczna inteligencja pomaga osiągnąć ten cel, w czym tkwi problem?
Po stronie podaży okazuje się, że rzeczy generowane przez sztuczną inteligencję są również opłacalne dla tych, którzy je tworzą. Koebler spędził rok badając ten mroczny zakątek mediów społecznościowych. W Indiach spotkał Gyana Abhisheka, analityka badającego wirusowość w Internecie. Abhishek pokazał mu zaskakujący obraz wykorzystywany do generowania przychodów – zdjęcie szkieletowego starszego mężczyzny zgarbionego podczas pożerania przez setki robaków.
„Indyjska publiczność jest bardzo emocjonalna” Abhiszek wyjaśnił. „Po obejrzeniu takich zdjęć „lubią”, „komentują” i udostępniają je. Ty też powinieneś stworzyć taką stronę, przesyłać zdjęcia i zarabiać pieniądze dzięki premii za wyniki.” Twierdzi też, że twórcy wirusowych obrazów mogą zarobić 100 dolarów za 1000 „lajków”, co przynajmniej dla tego felietonisty brzmi jak pieniądze na dżem.
Mamy tu więc ładną pętlę pozytywnego sprzężenia zwrotnego, w której twórcy sztucznej inteligencji czerpią korzyści z zasilania algorytmów zaangażowania platform mediów społecznościowych, które z kolei czerpią korzyści z rosnącego „zaangażowania”, które przyciągają wirusowe obrazy. Problem z pętlami pozytywnego sprzężenia zwrotnego polega jednak na tym, że powodują one niekontrolowany wzrost i pytanie, co stanie się z mediami społecznościowymi, gdy staną się śmiertelnie zasrany w rezultacie. To właśnie tam zmierza Meta i spółka.
po promocji w newsletterze
Co czytałem
Jak krucha jest autokracja?
Trzeźwiąca ocena zwycięstwa Trumpa i Ameryki – Jak stąd wygląda przyszłość – profesor Dave Karpf z George Washington University.
Kliknij tutaj, aby uzyskać więcej
Wnikliwy esej Jasona Kottke o sztuce pisania dla Internetu, a hiperłącza mają za zadanie zaostrzać dyskusję.
Efekt piżma
Machiavellis z rynku – aktualny esej Alexa Gourevitcha o ogromnej sile przedsiębiorców.
