Weterani technologiczni, politycy i laurearzy Nagrody Nobla wezwali narody na całym świecie w poniedziałek do szybkiego ustanowienia „czerwonych linii” zbyt niebezpiecznych, aby sztuczna inteligencja mogła się przekroczyć.
Ponad 200 wybitnych liczb, w tym 10 laureatów Nagrody Nobla i naukowców pracujących w AI Giants Anthropic, Google Deepmind, Microsoft i Openai, podpisało się do listu opublikowanego na początku najnowszej sesji Zgromadzenia Ogólnego ONZ.
Aby uzyskać wszystkie najnowsze wiadomości, śledź Google Channel Daily Star. „AI ma ogromny potencjał do rozwoju ludzkiego samopoczucia, ale jej obecna trajektoria stanowi bezprecedensowe niebezpieczeństwa”, czytał list.
„Rządy muszą działać zdecydowanie przed zakończeniem okna w celu uzyskania znaczącej interwencji”.
Według twórców listu, AI Red Lines byłyby uzgodnione na całym świecie zakazy dotyczące zastosowań uznanych za zbyt ryzykowne w żadnych okolicznościach.
Podane przykłady obejmowały powierzenie systemów AI dowodzenia arsenałami jądrowymi lub dowolnym rodzajem śmiertelnego systemu broni autonomicznej.
Inne czerwone linie mogą pozwolić na wykorzystanie sztucznej inteligencji do masowego nadzoru, punktacji społecznej, cyberataków lub podszywania się pod ludzi, według osób stojących za kampanią.
Ci, którzy podpisali wiadomość, wezwali rządy do posiadania czerwonych linii AI do końca przyszłego roku, biorąc pod uwagę tempo, które postępuje technologia.
„AI może wkrótce znacznie przewyższyć ludzkie zdolności i eskalować ryzyko, takie jak pandemia inżynieryjne, powszechna dezinformacja, manipulacja na dużą skalę osób, w tym dzieci, obawy dotyczące bezpieczeństwa krajowego i międzynarodowego, masowe bezrobocie i systematyczne naruszenia praw człowieka”-czytamy list.
„Pozostały niezaznaczone, wielu ekspertów, w tym tych na czele rozwoju, ostrzega, że w nadchodzących latach będzie coraz trudniej wywierać znaczącą kontrolę człowieka”.
