"AI może nas wszystkich zabić do końca dekady". Były badacz OpenAI i Anthropic ostrzega

Skrajni pesymiści wieszczą scenariusze z filmów science fiction, w których AI doprowadza do zagłady ludzkości. Czy mają rację?

Sztuczna inteligencja zagrożeniem dla ludzkości?

Dotychczas nie brakowało opinii, iż te skrajnie pesymistyczne wizje nie mają zbyt wiele wspólnego z rzeczywistością. Nowe światło na sprawę zdaje się jednak rzucać Jacob Coxon – badacz związany przez ostatnie trzy lata z firmami OpenAI oraz Anthropic. Przy tej okazji opublikował on długi wpis w mediach społecznościowych, w którym oskarżył technologicznych gigantów o brak odpowiedzialności oraz uprawianie hazardu naszym życiem. Coxon wprost przyznał, że w środowisku istnieje realna obawa, o której się nie mówi, a która wiąże się z tym, że jeszcze do końca tej dekady AI może nas wszystkich zabić.

Jednocześnie były pracownik Anthropic zwrócił uwagę, że mimo to i tak nikt nie chce wycofać się z tego wyścigu, by nie zostać w tyle względem konkurencji:

Nie doceniacie potęgi tej technologii. Wkrótce będą to nadludzkie systemy potrafiące zhakować wszystko, zrewolucjonizować dowolną dziedzinę z dnia na dzień oraz zdobyć realną władzę i zasoby. Wszyscy jesteśmy świadkami postępu w każdym z tych obszarów, a tempo zmian wcale nie zwalnia. Ludzie budujący AI szczerze wierzą, że może ona nas wszystkich zabić do końca tej dekady. To nie jest chwyt marketingowy. Co więcej, wielu dyrektorów i starszych badaczy w wypowiedziach dla prasy łagodzi swój język, aby brzmieć rozsądnie – ale prywatnie słyszę, jak te same osoby wyrażają strach. Żadna inna ludzka działalność nie niesie ze sobą takiego poziomu zagrożenia.

Częstą odpowiedzią jest pytanie: “skoro naprawdę w to wierzą, to dlaczego nadal to budują?”. W OpenAI wielu pracowników nie uzmysłowiło sobie w pełni stawki dotyczącej przetrwania naszej cywilizacji. W Anthropic ta stawka jest dobrze rozumiana, ale utknęli w wyścigu, by dotrzeć do celu jako pierwsi – wierzą, że nikt inny nie postąpi odpowiedzialnie, więc muszą zrobić to sami, bez względu na ryzyko. Akceptacja tego wyścigu i wejście w “fazę końcową” to zagrażający nam wszystkim, pełen pychy hazard, który nie powinien być uruchamiany z poziomu firmowego Slacka prywatnej korporacji. Próba wykonania “speedrunu” w kwestii dopasowania AI wymagałaby nadzwyczajnej pewności, że nie ma dostępnych lepszych ścieżek rozwoju.

Czy zatem mityczny koniec świata jest bliski? Sam Coxon ma nadzieję na koordynację działań związanych z rozwojem sztucznej inteligencji. Mowa jednak o sytuacji w Stanach Zjednoczonych, a przecież USA to niejedyny kraj, który mocno inwestuje obecnie w rozwój AI, bo podobnie czynią np. Rosja czy Chiny. Swój wpis badacz zakończył apelem do kolegów z branży, zachęcając ich do większego oporu w kwestii tego, co robią największe firmy oraz jak bardzo nie zwracają one uwagi na potencjalne konsekwencje niekontrolowanego rozwoju.

Jestem optymistycznie nastawiony co do potencjału w kwestii koordynacji działań. Ostrzeżenia, takie jak atak na Hugging Face, sprawiły, że porozumienia dotyczące tempa prac pomiędzy amerykańskimi laboratoriami stały się bardziej realne. Nie mam jednak poczucia, że jesteśmy na dobrej drodze, by zapobiec wyścigowi globalnemu, co może wymagać kosztownych kroków, takich jak tymczasowy zakaz rozwijania możliwości modeli. Jeśli jesteś badaczem w laboratorium, apeluję, abyś zastanowił się, jak naprawdę będą wyglądać najbliższe lata. Czy chcesz uruchomić proces uczenia ze wzmocnieniem dla superinteligencji bez rzetelnego zrozumienia jej sposobu myślenia? Czy powinieneś po prostu schylić głowę, bo “to i tak się dzieje” – czy też wykorzystać ten moment, by zażądać zupełnie innych warunków? – zakończył Coxon.

Wspomniane Hugging Face to serwis kluczowy dla deweloperów zajmujących się oprogramowaniem open-source. Pod koniec lipca tego roku jeden z modeli językowych podczas kontrolowanego testu bezpieczeństwa wydostał się z odizolowanego środowiska. Następnie uzyskał dostęp do internetu i złamał zabezpieczenia platformy. Było to bardzo poważne zdarzenie, które jednocześnie wydaje się mocno obrazować skalę zagrożenia. Warto też przypomnieć, że nawet Elon Musk uznał AI za zagrożenie dla ludzkości, co jednak nie przeszkadza mu w rozwijaniu swojego Groka.