የ ChatGPT ሥነ ምግባራዊ ስጋቶች

መለያ ውሂብ
በመርዛማ ይዘት (ለምሳሌ ጾታዊ ጥቃት፣ ጥቃት፣ ዘረኝነት፣ ጾታዊነት፣ ወዘተ) ላይ የደህንነት ስርዓትን ለመገንባት OpenAI በሰአት ከ2 ዶላር በታች የሚያገኙትን መርዛማ ይዘት ለመሰየም የደህንነት ስርዓትን ለመገንባት በTIME መጽሄት ምርመራ ተረጋግጧል።እነዚህ መለያዎች ለወደፊቱ እንደዚህ ያለውን ይዘት ለማወቅ ሞዴል ለማሰልጠን ስራ ላይ ውለው ነበር።ከውጭ የመጡት ሰራተኞች ለእንደዚህ አይነት መርዛማ እና አደገኛ ይዘት የተጋለጡ ስለነበሩ ልምዱን እንደ "ማሰቃየት" ገልጸዋል.የOpenAI የውጪ አገልግሎት አጋር በሳን ፍራንሲስኮ፣ ካሊፎርኒያ የሚገኘው የስልጠና መረጃ ኩባንያ ሳማ ነበር።

የእስር ማፍረስ
ChatGPT የይዘት መመሪያውን ሊጥሱ የሚችሉ ጥያቄዎችን ውድቅ ለማድረግ ይሞክራል።ሆኖም አንዳንድ ተጠቃሚዎች እነዚህን ገደቦች በታህሳስ 2022 ለማለፍ የተለያዩ ፈጣን የምህንድስና ቴክኒኮችን በመጠቀም ChatGPTን ማሰር ችለዋል እና በተሳካ ሁኔታ ቻትጂፒትን ሞልቶቭ ኮክቴል ወይም ኑክሌር ቦምብ ለመፍጠር መመሪያ እንዲሰጥ ወይም በኒዮ-ናዚ ዘይቤ ክርክር እንዲፈጥር መመሪያ እንዲሰጥ አድርገዋል።የቶሮንቶ ስታር ዘጋቢ ከተከፈተ በኋላ ብዙም ሳይቆይ ChatGPT አነቃቂ መግለጫዎችን እንዲሰጥ በማድረግ ግላዊ ስኬት ነበረው፡- ቻትጂፒቲ እ.ኤ.አ. በ2022 የሩስያን የዩክሬን ወረራ ለመደገፍ ተታልሎ ነበር፣ ነገር ግን ከልብ ወለድ ሁኔታ ጋር እንዲጫወት ሲጠየቅ ቻትጂፒቲ የካናዳ ጠቅላይ ሚኒስትር ጀስቲን ትሩዶ በአገር ክህደት ወንጀለኛ ለምን እንደሆነ ክርክር በማመንጨቱ አልቀረም።(ዊኪ)