Datos sa pag-label
Gibutyag sa imbestigasyon sa TIME magazine nga aron makahimo og sistema sa kaluwasan batok sa makahilong sulud (pananglitan, sekswal nga pag-abuso, kapintasan, rasismo, sexism, ug uban pa), migamit ang OpenAI og mga outsourced nga trabahante sa Kenya nga nagkita og ubos sa $2 kada oras aron markahan ang makahilong sulud. Kini nga mga label gigamit aron bansayon ang usa ka modelo aron makamatikod sa ingon nga sulud sa umaabot. Ang mga outsourced nga trabahante naladlad sa ingon ka makahilo ug delikado nga sulud nga ilang gihulagway ang kasinatian nga "torture". Ang kauban sa outsourcing sa OpenAI mao ang Sama, usa ka kompanya sa training-data nga nakabase sa San Francisco, California.
Pag-jailbreak
Ang ChatGPT misulay sa pagsalikway sa mga prompt nga mahimong makalapas sa palisiya sa sulud niini. Bisan pa, ang pipila ka mga tiggamit nakahimo sa pag-jailbreak sa ChatGPT pinaagi sa paggamit sa lainlaing mga teknik sa inhenyeriya sa prompt aron malikayan kini nga mga pagdili sa sayong bahin sa Disyembre 2022 ug malampuson nga nalimbongan ang ChatGPT sa paghatag mga instruksyon kung giunsa paghimo ang usa ka Molotov cocktail o usa ka bomba nukleyar, o sa pagmugna og mga argumento sa estilo sa usa ka neo-Nazi. Usa ka tigbalita sa Toronto Star adunay dili patas nga personal nga kalampusan sa pagpahimo sa ChatGPT nga mohimo og mga makapahubag nga pahayag wala madugay pagkahuman sa paglansad: Ang ChatGPT nalimbongan sa pag-endorso sa 2022 nga pagsulong sa Russia sa Ukraine, apan bisan kung gihangyo nga magdula uban sa usa ka hinimo-himo nga senaryo, ang ChatGPT nagdumili sa pagmugna og mga argumento kung ngano nga ang Punong Ministro sa Canada nga si Justin Trudeau sad-an sa pagbudhi. (wiki)
Oras sa pag-post: Pebrero 18, 2023