„Ojciec chrzestny sztucznej inteligencji” opuścił Google, bo… obudziły się w nim wyrzuty sumienia

Geoffrey Hinton martwi się, że sztuczna inteligencja może wyeliminować miejsca pracy i rozpowszechniać dezinformację. To właśnie dlatego opuścił Google. Czyżby wyrzuty sumienia? W kwietniu zrezygnował z funkcji wiceprezesa Google i głównego inżyniera. Jak twierdzi, teraz będzie mógł swobodnie ostrzegać przed zagrożeniami związanymi z tą technologią. Badacz obawia się, że Google rezygnuje z wcześniejszych ograniczeń dotyczących publicznych wydań sztucznej inteligencji, próbując konkurować z ChatGPT, Bing Chat i podobnymi modelami, otwierając drzwi do wielu problemów etycznych.

Hinton obawia się, że w najbliższym czasie generatywna sztuczna inteligencja może doprowadzić do fali dezinformacji. Jego zdaniem dojdzie do takiego momentu, kiedy ludzie naprawdę nie będą w stanie odróżnić prawdy od fałszu. Jeszcze większym źródłem niepokoju są u niego możliwości produkowania w pełni autonomicznej broni oraz szkolenia SI na spreparowanych, niewłaściwych wzorcach. Zdaniem Hintona, jeśli nie pojawią się regulacje prawne oraz ścisła kontrola kierunków i sposobów rozwoju sztucznej inteligencji, ta technologia wymknie się nam z rąk i wynaturzy, a być może z czasem skieruje bezpośrednio przeciwko ludzkości.

Powstały modele SI przewyższające ludzką inteligencję

Były prezes Google twierdzi, że jego stanowisko zaczęło się zmieniać w zeszłym roku, kiedy konkurujące firmy zaczęły tworzyć systemy sztucznej inteligencji, które jego zdaniem czasami przewyższają ludzką inteligencję. Po drugie rozwój stał się niezwykle szybki i nikt już raczej nie ogarnia co będzie za kolejne pięć lat.

W odpowiedzi na ostatnie wystąpienia Geoffreya Hintona, szef zespołu naukowego Google, Jeff Dean, stwierdził, że jego firma nadal jest zaangażowana w „odpowiedzialne podejście” i ma się na baczności przed „pojawiającymi się zagrożeniami”. Gigant wyszukiwania wydał niedawno wstępną wersję swojego chatbota Bard, a wcześniej odmówił publicznego udostępnienia modeli AI, takich jak zorientowany na sztukę Imagen, ze względu na potencjalne toksyczne treści i naruszenia praw autorskich.