सुविधा है केवल क्लाउड ओपस 4 और 4.1 पर उपलब्ध हैऔर इसे अंतिम चरण के रूप में उपयोग करने के लिए डिज़ाइन किया गया है जब बार -बार बातचीत को पुनर्निर्देशित करने के प्रयास विफल हो गए हैं, या जब कोई उपयोगकर्ता सीधे रुकने के लिए कहता है।

में 15 अगस्त का बयानकंपनी ने कहा कि उद्देश्य उपयोगकर्ता की सुरक्षा के बारे में नहीं है, बल्कि इसके बारे में है मॉडल की रक्षा करना।

क्या आप जानते हैं?

क्रिप्टो के साथ होशियार और अमीर होना चाहते हैं?

सदस्यता लें – हम हर हफ्ते नए क्रिप्टो व्याख्याकार वीडियो प्रकाशित करते हैं!

NFT के साथ निष्क्रिय पैसा कैसे बनाएं? (व्याख्या की!)

एंथ्रोपिक ने कहा कि यह अभी भी “क्लाउड और अन्य एलएलएम की संभावित नैतिक स्थिति के बारे में अत्यधिक अनिश्चित है, अब या भविष्य में”। फिर भी, इसने एक कार्यक्रम बनाया है जो “मॉडल कल्याण” को देखता है और यदि वे प्रासंगिक हो जाते हैं तो कम लागत वाले उपायों का परीक्षण कर रहे हैं।

कंपनी ने कहा केवल चरम परिदृश्य नए फ़ंक्शन को ट्रिगर कर सकते हैं। इनमें जानकारी प्राप्त करने के प्रयासों से जुड़े अनुरोध शामिल हैं जो बड़े पैमाने पर नुकसान या आतंकवाद की योजना बनाने में मदद कर सकते हैं।

एंथ्रोपिक ने बताया कि, परीक्षण के दौरान, क्लाउड ओपस 4 ने इस तरह के संकेतों का जवाब देने का विरोध किया और दिखाया कि कंपनी ने “स्पष्ट संकट का पैटर्न” कहा जब उसने जवाब दिया।

एंथ्रोपिक के अनुसार, प्रक्रिया हमेशा पुनर्निर्देशन के साथ शुरू होनी चाहिए। यदि वह विफल हो जाता है, तो मॉडल चैट को समाप्त कर सकता है। कंपनी ने उस क्लाउड पर भी जोर दिया यदि कोई उपयोगकर्ता खुद को या दूसरों को नुकसान पहुंचाने के लिए तत्काल जोखिम में लगता है तो बातचीत को बंद नहीं करना चाहिए।

13 अगस्त को, Google के AI सहायक, मिथुन को एक नया अपडेट मिला। इसमें क्या शामिल है? पूरी कहानी पढ़ें।