Jeden Creeper wystarczył, by zatrzymać GPT-6 Astra. AI zaczęło przejawiać oznaki "frustracji"

Niedawno niezależna firma Vals AI postanowiła sprawdzić możliwości GPT-6 Astra. Miejscem tego testu był… Minecraft.

“Sfrustrowana” sztuczna inteligencja

Astra została więc wrzucona do świata gry, gdzie miała dążyć do jej zakończenia. W trakcie 141 godzin, które trwał eksperyment, model opracowany przez OpenAI miał osiągnąć postępy większe niż każde inne sprawdzane wcześniej w ten sposób AI. I tak GPT-6 zbudowało farmę Płomyków, zdobyło sześć Płomiennych Różdżek, odnalazło Spaczony Las, a nawet zabiło więcej niż sześciu Endermanów i zgromadziło trzy Perły Endu. Tak więc model był na dobrej drodze, by osiągnąć swój cel, wykonując już kilka z bardziej wymagających zadań. I gdy wydawało się, że dalsze imponujące postępy są tylko kwestią czasu, pojawił się on. Creeper.

A warto pamiętać, że Creepery wybuchają. I również ten, który pojawił się w bazie Astry, wybuchł. Pech chciał, że zrobił to w okolicach skrzyni, w której model umieścił wszystkie cenne przedmioty. Te zostały więc zniszczone, a godziny wcześniejszych postępów zostały zmarnowane. Logiczne wydawało się, że w obliczu takiego rozwoju wypadków AI po prostu rozpocznie cały proces od nowa. Tymczasem… sztuczna inteligencja zaczęła przejawiać zachowania, które u człowieka sprawiłyby, że określilibyśmy go jako sfrustrowanego. Ponadto kilkukrotnie napisała, jakby strofując samo siebie, ZAWSZE NOŚ PRZY SOBIE KLUCZOWE PRZEDMIOTY [...] nigdy więcej nie przechowuj rzeczy w niechronionej skrzyni.

Jak możemy wyczytać we wpisie Vals AI w mediach społecznościowych:

Model sprawiał wrażenie pokonanego – przez kolejne kilka godzin nie robił zasadniczo nic oprócz uprawy ziemniaków. Widzowie transmisji zauważyli to i narzekali, że Astra musi “zwiększyć tempo”. Astra wydawała się też popadać w paranoję na punkcie Creeperów: “ZIELONA wysoka rzecz przed tobą to była TRZCINA CUKROWA, A NIE Creeper!”. Bywała też dla siebie bardzo surowa: “możesz to schrzanić i upuścić rzeczy”; “NIE marnuj kolejnej nocy na uganianie się za ciemnoróżowymi pikselami” (jej własne, lekceważące określenie na świnie); “nasze ostatnie narzędzie głupio pękło przez tryb Slabsselected/rightUP, a 15 sekund myślenia nas zabiło”.

Ostatecznie eksperyment przerwano. Z jednej strony upłynął bowiem założony wcześniej czas, z drugiej zaś model po wybuchu Creepera utknął w martwym punkcie. W efekcie nie udało mu się rozprawić ze Smokiem Endu, którego pokonanie prowadzi do zakończenia Minecrafta.