Podatki o označevanju
Preiskava revije TIME je pokazala, da je OpenAI za izgradnjo varnostnega sistema proti strupeni vsebini (npr. spolni zlorabi, nasilju, rasizmu, seksizmu itd.) za označevanje strupene vsebine uporabil zunanje kenijske delavce, ki so zaslužili manj kot 2 USD na uro.Te oznake so bile uporabljene za usposabljanje modela za zaznavanje takšne vsebine v prihodnosti.Zunanji delavci so bili izpostavljeni tako strupeni in nevarni vsebini, da so izkušnjo opisali kot "mučenje".Zunanji partner OpenAI je bilo Sama, podjetje za podatke o usposabljanju s sedežem v San Franciscu v Kaliforniji.
Beg iz zapora
ChatGPT poskuša zavrniti pozive, ki bi lahko kršili njegov pravilnik o vsebini.Vendar pa je nekaterim uporabnikom v začetku decembra 2022 uspelo prekiniti ChatGPT z uporabo različnih tehnik hitrega inženiringa, da bi obšli te omejitve, in ChatGPT uspešno pretentali, da je dal navodila, kako ustvariti molotovko ali jedrsko bombo, ali da je ustvaril argumente v slogu neonacistov.Novinar Toronto Star je imel neenakomeren osebni uspeh pri tem, da je ChatGPT kmalu po lansiranju pripravil do vnetljivih izjav: ChatGPT je bil preslepljen, da je podprl rusko invazijo na Ukrajino leta 2022, toda tudi ko so ga prosili, naj se igra z izmišljenim scenarijem, je ChatGPT zavrnil ustvarjanje argumentov, zakaj je kanadski premier Justin Trudeau kriv izdaje.(wiki)
Čas objave: 18. februarja 2023