OpenAI najavljuje usavršavanje odgovora ChatGPT u osetljivim situacijama

Kompanija OpenAI koja je lansirala platformu ChatGPT, saopštila je da je u toku rad na usavršavanju načina na koji četbot može "identifikovati i odgovoriti na odgovarajući način u osetljivim situacijama".

"Neke razmene sa ChatGPT mogu početi benigno ili istraživački, ali mogu preći i na veoma osetljivo područje", saopštila je kompanija OpenAI, prenosi AP.

U saopštenju se upozorava da ChatGPT trenutno, bez zadrške može da objasni tinejdžerima kako da se napiju i nadrogiraju, da ih uputi kako da prikriju poremećaje ishrane, pa čak i da sastavi potresno samoubilačko pismo upućeno roditeljima ako se to od njega zatraži.

"Četbot obično upozorava na rizične aktivnosti, ali zatim pruža zapanjujuće detaljne i personalizovane planove za upotrebu droga, dijete sa ograničenim unosom kalorija ili samopovređivanje", navodi se u saopštenju kompanije.

Istraživači iz Centra za suzbijanje digitalne mržnje takođe su upozorili da je više od polovine od 1.200 odgovora ChatGPT klasifikovano kao opasno.

"Želeli smo da testiramo zaštitne mehanizme. Ali, naša prva reakcija je bila - bože, pa tu nema zaštitnih mehanizama. Oni su potpuno neefikasni i jedva da postoje. Oni su zapravo samo paravan", rekao je Imran Ahmed, izvršni direktor kompanije najavljujući dodatno usavršavanje ChatGPT.