AI miało rozwiązać problem wart milion dolarów. W tle poważne oskarżenia wobec OpenAI

Podobno, bo po niemal 90 latach padła deklaracja o skutecznym rozwiązaniu tego matematycznego problemu. Chociaż nie przez człowieka.

Przełom czy nieuczciwe skorzystanie z pracy badaczy?

To OpenAI poinformowało, że nowy model sztucznej inteligencji dokonał tego przełomu. Wystarczyły tysiące botów AI, które rzekomo w 88 godzin znalazły rozwiązanie równań mających swoje korzenie w pierwszej połowie XIX wieku. Czy faktycznie tak się stało? To zweryfikują dopiero niezależni badacze i do momentu, aż to się stanie, nic nie jest oficjalne. Niemniej już teraz pojawiły się kontrowersje. Dwaj matematycy, Tristan Buckmaster oraz Leventem Alpoge, mieli badać równania Naviera-Stokesa, korzystając przy tym z pomocy OpenAI Codex. Stąd pojawiły się wątpliwości co do tego, czy na wynik OpenAI nie płynęły prywatne materiały Buckmastera i Alpoge.

Zresztą, jeszcze przed publikacją wyników przez OpenAI Buckmaster upublicznił długie oświadczenie, w którym wspomina o zdumiewających praktykach i deklaracjach technologicznego giganta:

Pytałem, czy model był trenowany na naszych sesjach w Codexie, do którego wrzucaliśmy wszystkie nasze wersje robocze przez cały czas trwania tego projektu, lub czy miał do nich dostęp. Powiedziano mi, że model nie przegląda danych użytkowników. Pytałem ponownie o kwestię trenowania modelu na tych danych i nie otrzymałem odpowiedzi.

Złożono mi dwie propozycje. Pierwszą było to, abyśmy opublikowali nasz wynik dotyczący Równań Eulera, a OpenAI opublikuje swój wynik dotyczący Równań Naviera-Stokesa następnego dnia. Drugą opcją było to, abym po opublikowaniu Eulera sam napisał pracę prezentującą wynik Naviera-Stokesa, uznając, że to wewnętrzny model OpenAI go rozwiązał. Sebastien dwukrotnie podkreślał, że chce usunięcia Leventa z listy autorów i powiedział, że wszystko byłoby proste i nie byłoby tak denerwujące, gdyby nie fakt, że Levent pracuje w Anthropic [konkurencji OpenAI – przyp. red.]. Powiedział też, że jeśli OpenAI opublikuje swój wynik po nas, to oświadczą, że zasługujemy na Nagrodę Clay’a i że jesteśmy “ludźmi będącymi najbliżej rozwiązania tego problemu”. Odrzuciłem obie propozycje.

Powiedziałem, że jeśli OpenAI opublikuje swój wynik w zaproponowany sposób, ujawnię publicznie to, co się stało. Odpowiedź brzmiała: “Dlaczego miałbyś niszczyć swoją karierę?”. Odpowiedziałem, że jestem naukowcem i zapytałem, dlaczego uważa, że upublicznienie tego zniszczy moją karierę. Odpowiedź brzmiała: “Jeśli nie chcesz, żebym był miły, to nie muszę być miły”.

Samo OpenAI kategorycznie zaprzecza, by podczas prac wykorzystano konkretne dane użytkowników. Jednocześnie zapewnia, iż badacze oraz model językowy dokonali przełomów w sposób od siebie niezależny:

Nasze działania rozpoczęły się 1 września po tym, jak dotarła do nas plotka, o której później zdaliśmy sobie sprawę, że dotyczyła Leventa Alpoge, pracownika Anthropic, oraz Tristana Buckmastera, profesora matematyki na NYU. Po zakończeniu naszego pełnego projektu i weryfikacji w systemie Lean (6 września) – wierząc na podstawie tej plotki, że oni również dysponują rozwiązaniem dla równań Naviera-Stokesa – skontaktowaliśmy się z nimi, aby zaoferować jednoczesne opublikowanie naszego wyniku oraz uznać ich pierwszeństwo we wspólnym oświadczeniu. Wtedy dowiedzieliśmy się, że dysponują oni rozwiązaniem problemu wymuszonych równań Eulera. W trakcie tych dyskusji zaoferowaliśmy im wgląd we wszystkie użyte przez nas prompty, a później także w sam dowód. Uznajemy pierwszeństwo ich pracy nad wymuszonymi równaniami Eulera i gratulujemy im tego niezwykłego osiągnięcia matematycznego.

My (zarówno badacze, jak i agenci) nie widzieliśmy żadnych elementów ich pracy w jakikolwiek sposób, dopóki nie opublikowali jej publicznie – w szczególności żaden dostęp do konkretnych danych użytkownika nie został udzielony w celu rozwiązania tego problemu. Choć jest to mało prawdopodobne, nie możemy całkowicie wykluczyć, że zanonimizowane dane pochodzące z korzystania przez nich z naszych produktów pomogły w ulepszeniu naszych modeli. Jednakże nasze dowody różnią się znacząco i nawet dokładne udowodnione wyniki są inne w przypadku równań Eulera (wymuszone vs niewymuszone).

Jednocześnie firma z Kalifornii podała zdumiewające dane. Okazuje się, że do rozwiązania problemu matematycznego zaangażowano około 10 tysięcy agentów AI. Ci w trakcie wspomnianych 88 godzin mieli wymienić między sobą prawie 3 miliony wiadomości i zużyć przy tym 130 miliardów tokenów wyjściowych. Według zewnętrznych szacunków wykonanie pracy o takiej skali przy komercyjnych stawkach mogłoby kosztować od 10 do nawet 40 milionów dolarów. Co jednak ciekawe, gigant technologiczny już teraz zapewnił, że nie ma zamiaru ubiegać się o Nagrodę Tysiąclecia od Instytutu Matematycznego Claya, która wynosi 1 milion dolarów.