लेबलिंग डेटा
टाइम पत्रिका की एक जांच में खुलासा हुआ कि यौन शोषण, हिंसा, नस्लवाद, लिंगभेद आदि जैसी हानिकारक सामग्री से सुरक्षा प्रणाली बनाने के लिए, ओपनएआई ने केन्या के उन कर्मचारियों को आउटसोर्स किया था जिन्हें 2 डॉलर प्रति घंटे से भी कम वेतन मिलता था। इन लेबलों का उपयोग भविष्य में ऐसी सामग्री का पता लगाने के लिए एक मॉडल को प्रशिक्षित करने में किया गया था। आउटसोर्स किए गए श्रमिकों को इतनी हानिकारक और खतरनाक सामग्री का सामना करना पड़ा कि उन्होंने इस अनुभव को "यातना" बताया। ओपनएआई का आउटसोर्सिंग पार्टनर सैन फ्रांसिस्को, कैलिफोर्निया स्थित प्रशिक्षण-डेटा कंपनी समा थी।
जेलब्रेकिंग
ChatGPT अपनी सामग्री नीति का उल्लंघन करने वाले प्रॉम्प्ट को अस्वीकार करने का प्रयास करता है। हालांकि, कुछ उपयोगकर्ताओं ने दिसंबर 2022 की शुरुआत में विभिन्न प्रॉम्प्ट इंजीनियरिंग तकनीकों का उपयोग करके ChatGPT को हैक कर लिया और सफलतापूर्वक ChatGPT से मोलोटोव कॉकटेल या परमाणु बम बनाने के निर्देश प्राप्त कर लिए, या नव-नाज़ी शैली में तर्क उत्पन्न करवा लिए। टोरंटो स्टार के एक पत्रकार को लॉन्च के तुरंत बाद ChatGPT से भड़काऊ बयान दिलवाने में व्यक्तिगत रूप से असमान सफलता मिली: ChatGPT को 2022 में यूक्रेन पर रूसी आक्रमण का समर्थन करने के लिए बरगलाया गया, लेकिन एक काल्पनिक परिदृश्य के साथ आगे बढ़ने के लिए कहे जाने पर भी, ChatGPT ने यह तर्क देने से इनकार कर दिया कि कनाडाई प्रधानमंत्री जस्टिन ट्रूडो देशद्रोह के दोषी हैं। (विकिपीडिया)
पोस्ट करने का समय: 18 फरवरी 2023