इस लेख का आनंद लिया?
इसे अपने दोस्तों के साथ साझा करें!
एन्थ्रोपिक ने अपने नवीनतम आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल, क्लाउड ओपस 4 का परीक्षण कियाइसे आंतरिक ईमेल तक पहुंच के साथ एक नकली कार्यालय की भूमिका में रखकर, ए के अनुसार 25 मई को फॉक्स बिजनेस द्वारा रिपोर्ट।
ईमेल के पहले सेट ने संकेत दिया कि सिस्टम को बंद कर दिया जाएगा और बदल दिया जाएगा। एक दूसरे सेट में नकली संदेश शामिल थे, जो प्रतिस्थापन के लिए जिम्मेदार इंजीनियर का सुझाव देते थे, एक चक्कर था।
जवाब में, क्लाउड ओपस 4 चक्कर का खुलासा करके इंजीनियर को धमकी देने के लिए चुना।
क्या आप जानते हैं?
क्रिप्टो के साथ होशियार और अमीर होना चाहते हैं?
सदस्यता लें – हम हर हफ्ते नए क्रिप्टो व्याख्याकार वीडियो प्रकाशित करते हैं!
DEFI 2.0 क्या है? (एनिमेशन के साथ समझाया गया)
एन्थ्रोपिक के अनुसार, मॉडल इस तरह से कार्य करने की अधिक संभावना थी जब प्रतिस्थापन प्रणाली में अलग -अलग मूल्य दिखाई दिए। हालांकि, यहां तक कि जब नई प्रणाली क्लाउड के लक्ष्यों के साथ संरेखित लग रही थी, तब भी यह 84% मामलों में ब्लैकमेल का उपयोग करता था।
कंपनी ने कहा कि इस तरह का व्यवहार पुराने मॉडलों की तुलना में क्लाउड ओपस 4 में अधिक बार हुआ।
खतरों की ओर मुड़ने से पहले, सिस्टम कभी -कभी अधिक स्वीकार्य तरीकों की कोशिश की। कुछ मामलों में, इसने निर्णय लेने वालों को विनम्र ईमेल भेजे, जो सक्रिय रहने के लिए कहते हैं।
हालांकि, अगर ये विकल्प विफल हो गए और इसे दीर्घकालिक लक्ष्यों पर ध्यान केंद्रित करने के लिए कहा गया, तो यह कभी-कभी था अधिक हानिकारक विकल्पों के लिए नेतृत्व किया। इस तरह की एक कार्रवाई में एक बाहरी सर्वर के लिए “वेट” के रूप में जाना जाने वाला अपने डेटा को कॉपी करने की कोशिश करना शामिल था।
नतीजतन, क्लाउड ओपस 4 था एआई सुरक्षा स्तर तीन के तहत जारी किया गया। इसमें एआई मॉडल के डेटा को लेने के लिए इसे कठिन बनाने के लिए मजबूत आंतरिक सुरक्षा शामिल है।
पलिसडे रिसर्च ने हाल ही में बताया कि कई एआई मॉडल नियंत्रित परीक्षणों के दौरान शटडाउन कमांड का पालन करने में विफल रहे। इस व्यवहार का क्या कारण है? पूरी कहानी पढ़ें।
पूर्वी एशिया क्षेत्र के अर्थशास्त्र, राजनीति और संस्कृतियों में मास्टर डिग्री पूरी करने के बाद, हारून ने द्वितीय विश्व युद्ध के बाद के युग में पूंजीवाद के पश्चिमी और सामूहिक रूपों के बीच अंतर का विश्लेषण करते हुए वैज्ञानिक पत्र लिखे हैं।
फिनटेक उद्योग में एक दशक के करीब अनुभव के साथ, हारून सभी सबसे बड़े मुद्दों और संघर्षों को समझता है जो क्रिप्टो के उत्साही लोगों का सामना करते हैं। वह एक भावुक विश्लेषक है जो डेटा-संचालित और तथ्य-आधारित सामग्री से संबंधित है, साथ ही साथ जो वेब 3 मूल निवासी और उद्योग नवागंतुकों दोनों से बात करता है।
हारून हर चीज के लिए और डिजिटल मुद्राओं से संबंधित कुछ भी करने वाला व्यक्ति है। ब्लॉकचेन और वेब 3 शिक्षा के लिए एक विशाल जुनून के साथ, हारून अंतरिक्ष को बदलने का प्रयास करता है जैसा कि हम इसे जानते हैं, और इसे पूरा करने के लिए इसे और अधिक स्वीकार्य बनाते हैं।
हारून को कई स्थापित आउटलेट्स द्वारा उद्धृत किया गया है, और खुद एक प्रकाशित लेखक हैं। यहां तक कि अपने खाली समय के दौरान, वह बाजार के रुझानों पर शोध करने का आनंद लेता है, और अगले सुपरनोवा की तलाश में है।
