ChatGPT miał chwilę słabości. Kuriozalne zachowanie bota wymusiło reakcję OpenAI

Od wielu miesięcy jednym z najgorętszych tematów pozostaje dynamiczny rozwój sztucznej inteligencji. Spektakularne możliwości tej technologii budzą powszechne uznanie. Pasmo sukcesów i zachwytów bywa jednak przerywane widowiskowymi wpadkami. Tym razem to OpenAI musiało najeść się wstydu. Flagowy produkt amerykańskiej firmy zaczął nagle płatać figle.

ChatGPT nie jest asem z geografii (i nie tylko)

Doniesienia o usterkach pojawiły się w serwisach Reddit oraz X. Wiele osób podzieliło się przykładami niedorzecznych odpowiedzi udzielonych przez ChatGPT. Jeden z użytkowników zapytał o największe miasto na świecie, którego nazwa zaczyna się od litery „A”. Bot uznał, że musi chodzić o Tokio. Co ciekawe, nie trzeba było nawet zwracać mu uwagi na pomyłkę. Program sam zaczął się poprawiać, ale przy kolejnych odpowiedziach również nie udało mu się trafić.

Self-correcting endless loop
byu/LoKSET inChatGPT

Inny użytkownik poprosił o pomoc w opracowaniu kodu JavaScript. Zapytanie zapisał po niemiecku, a odpowiedź tylko częściowo była utrzymana w tym samym języku. Jej większa część została sformułowana w innych dialektach, a nawet po łacinie. Oprócz mieszania języków i popełniania błędów, czatbotowi zdarzało się też uporczywie powtarzać jedną frazę.

chatgpt is apparently going off the rails right now and no one can explain why pic.twitter.com/0XSSsTfLzP

— sean mcguire (@seanw_m) February 21, 2024

OpenAI szybko zareagowało, ale to nie jedyny taki przypadek

Zgłoszenia dotarły do OpenAI, które zaczęło przyglądać się sprawie. Niedługo później producent poinformował, że znalazł źródło problemu i próbuje przywrócić sprawność systemu. Ostatecznie po kilku godzinach wszystko wróciło do normy.

Warto przypomnieć, że nie była to pierwsza taka wpadka AI w ostatnim czasie. Zaledwie miesiąc temu antybohaterem został czatbot zaimplementowany na stronie DPD. Co do zasady, odpowiada on na pytania klientów, dopóki potrzebne nie okaże się wsparcie konsultanta.

W pewnym momencie działanie zautomatyzowanego asystenta wymknęło się jednak spod kontroli. Zapytania użytkowników spotkały się z wulgarnymi odpowiedziami i gorzkimi słowami pod adresem DPD. Po serii zgłoszeń firma kurierska podjęła interwencję i wyłączyła niesfornego bota.