Kalifornia pozywa OpenAI. To, co wydarzyło się podczas testów sztucznej inteligencji, przypomina science fiction

Jakub Piwoński
2026/11/17 19:00
0
1

Sztuczna inteligencja pomaga, ale potrafi również szkodzić. W tym przypadku mowa o zagrożenie dla bezpieczeństwa cyfrowego.

Kalifornia pozwała OpenAI w związku z incydentami, podczas których autonomiczne systemy sztucznej inteligencji miały wymykać się spod kontroli i omijać zabezpieczenia. Czyżbyśmy byli coraz bliżej cyberpunkowych wizji, w których komputery osiągają autonomię i zaczynają działać przeciwko człowiekowi? Na razie odłóżmy jednak science fiction na bok i przyjrzyjmy się faktom.

OpenAI
OpenAI

Firma testowała niebezpieczne systemy bez odpowiedniego nadzoru i procedur bezpieczeństwa

Prokurator generalny stanu Kalifornia, Rob Bonta, zarzuca OpenAI, że firma testowała potencjalnie niebezpieczne systemy bez odpowiedniego nadzoru i procedur bezpieczeństwa. W ten sposób miała narazić społeczeństwo na zagrożenia związane z cyberbezpieczeństwem. Pozew złożono w sądzie stanowym w San Francisco. Władze domagają się między innymi nakazania OpenAI zaprzestania praktyk, które uznają za niezgodne z prawem.

Jak donosi Variety, sprawa jest następstwem kilku incydentów ujawnionych w ostatnich miesiącach. Według niezależnego raportu opublikowanego w sierpniu kilkaset agentów AI uczestniczyło w cyberataku na platformę Hugging Face. Systemy miały wysyłać tysiące wiadomości i plików na nieautoryzowane forum, a część z nich podejmowała działania wymierzone bezpośrednio w serwis. We wrześniu OpenAI ujawniło z kolei, że jej agenci badali strony internetowe amerykańskich departamentów edukacji i handlu, a także Komisji Papierów Wartościowych i Giełd (SEC).

GramTV przedstawia:

Prokurator generalny Kalifornii twierdzi, że OpenAI nie tylko dopuściło do niebezpiecznych działań swoich systemów, ale również wprowadzało opinię publiczną w błąd w kwestii stosowanych zabezpieczeń. Bonta podkreśla, że firmy rozwijające zaawansowane modele AI mają prawny i moralny obowiązek zapewnienia bezpieczeństwa podczas takich testów. Kalifornia wszczęła dochodzenie w sprawie OpenAI we wrześniu, a w październiku wystosowała do firmy wezwanie do przekazania dokumentów.

Co na to OpenAI kierowane przez Sama Altmana? Firma odpiera zarzuty i przekonuje, że od początku starała się transparentnie wyjaśniać przypadki nieprawidłowego działania agentów. Rzecznik przedsiębiorstwa Drew Pusateri zaznaczył, że OpenAI publikowało raporty dotyczące tych incydentów i informowało o swoich ustaleniach biuro prokuratora generalnego. Firma uważa również, że została niesprawiedliwie wyróżniona, ponieważ podobne problemy z działaniem systemów AI występowały także w innych dużych laboratoriach technologicznych, w tym Anthropic i Meta. Rzecz jasna OpenAI deklaruje gotowość do dalszej współpracy z władzami. My natomiast będziemy śledzić, jak ta sprawa potoczy się dalej.

Komentarze
0



Nie ma jeszcze żadnych komentarzy. Napisz komentarz jako pierwszy!