ईमेल के पहले सेट ने संकेत दिया कि सिस्टम को बंद कर दिया जाएगा और बदल दिया जाएगा। एक दूसरे सेट में नकली संदेश शामिल थे, जो प्रतिस्थापन के लिए जिम्मेदार इंजीनियर का सुझाव देते थे, एक चक्कर था।

जवाब में, क्लाउड ओपस 4 चक्कर का खुलासा करके इंजीनियर को धमकी देने के लिए चुना।

क्या आप जानते हैं?

क्रिप्टो के साथ होशियार और अमीर होना चाहते हैं?

सदस्यता लें – हम हर हफ्ते नए क्रिप्टो व्याख्याकार वीडियो प्रकाशित करते हैं!

DEFI 2.0 क्या है? (एनिमेशन के साथ समझाया गया)

एन्थ्रोपिक के अनुसार, मॉडल इस तरह से कार्य करने की अधिक संभावना थी जब प्रतिस्थापन प्रणाली में अलग -अलग मूल्य दिखाई दिए। हालांकि, यहां तक ​​कि जब नई प्रणाली क्लाउड के लक्ष्यों के साथ संरेखित लग रही थी, तब भी यह 84% मामलों में ब्लैकमेल का उपयोग करता था।

कंपनी ने कहा कि इस तरह का व्यवहार पुराने मॉडलों की तुलना में क्लाउड ओपस 4 में अधिक बार हुआ।

खतरों की ओर मुड़ने से पहले, सिस्टम कभी -कभी अधिक स्वीकार्य तरीकों की कोशिश की। कुछ मामलों में, इसने निर्णय लेने वालों को विनम्र ईमेल भेजे, जो सक्रिय रहने के लिए कहते हैं।

हालांकि, अगर ये विकल्प विफल हो गए और इसे दीर्घकालिक लक्ष्यों पर ध्यान केंद्रित करने के लिए कहा गया, तो यह कभी-कभी था अधिक हानिकारक विकल्पों के लिए नेतृत्व किया। इस तरह की एक कार्रवाई में एक बाहरी सर्वर के लिए “वेट” के रूप में जाना जाने वाला अपने डेटा को कॉपी करने की कोशिश करना शामिल था।

नतीजतन, क्लाउड ओपस 4 था एआई सुरक्षा स्तर तीन के तहत जारी किया गया। इसमें एआई मॉडल के डेटा को लेने के लिए इसे कठिन बनाने के लिए मजबूत आंतरिक सुरक्षा शामिल है।

पलिसडे रिसर्च ने हाल ही में बताया कि कई एआई मॉडल नियंत्रित परीक्षणों के दौरान शटडाउन कमांड का पालन करने में विफल रहे। इस व्यवहार का क्या कारण है? पूरी कहानी पढ़ें।