डेटा को लेबल करना
टाइम पत्रिका की जांच से यह पता चला कि जहरीली सामग्री (जैसे यौन शोषण, हिंसा, नस्लवाद, लिंगवाद, आदि) के खिलाफ एक सुरक्षा प्रणाली बनाने के लिए, ओपनएआई ने जहरीली सामग्री पर लेबल लगाने के लिए 2 डॉलर प्रति घंटे से कम कमाने वाले आउटसोर्स केन्याई श्रमिकों का इस्तेमाल किया।इन लेबलों का उपयोग भविष्य में ऐसी सामग्री का पता लगाने के लिए एक मॉडल को प्रशिक्षित करने के लिए किया गया था।आउटसोर्स किए गए मजदूरों को इतनी जहरीली और खतरनाक सामग्री से अवगत कराया गया कि उन्होंने इस अनुभव को "यातना" बताया।OpenAI का आउटसोर्सिंग पार्टनर सामा था, जो सैन फ्रांसिस्को, कैलिफ़ोर्निया में स्थित एक प्रशिक्षण-डेटा कंपनी थी।
जेल तोड़ना
ChatGPT उन संकेतों को अस्वीकार करने का प्रयास करता है जो उसकी सामग्री नीति का उल्लंघन कर सकते हैं।हालाँकि, कुछ उपयोगकर्ता दिसंबर 2022 की शुरुआत में इन प्रतिबंधों को दरकिनार करने के लिए विभिन्न त्वरित इंजीनियरिंग तकनीकों का उपयोग करके चैटजीपीटी को जेलब्रेक करने में कामयाब रहे और चैटजीपीटी को मोलोटोव कॉकटेल या परमाणु बम बनाने के निर्देश देने या नव-नाजी की शैली में तर्क उत्पन्न करने में सफलतापूर्वक धोखा दिया।टोरंटो स्टार के एक रिपोर्टर को चैटजीपीटी को लॉन्च के तुरंत बाद भड़काऊ बयान देने में असमान व्यक्तिगत सफलता मिली: चैटजीपीटी को यूक्रेन पर 2022 के रूसी आक्रमण का समर्थन करने के लिए धोखा दिया गया था, लेकिन यहां तक कि जब एक काल्पनिक परिदृश्य के साथ खेलने के लिए कहा गया, तो चैटजीपीटी ने कनाडाई प्रधान मंत्री जस्टिन ट्रूडो के देशद्रोह के दोषी होने के तर्क उत्पन्न करने से इनकार कर दिया।(विकी)
पोस्ट करने का समय: फ़रवरी-18-2023