इस प्रकार का हमला, नाम दिया गया “वनफ्लिप”, संग्रहीत मानों को लक्षित करता हैवेट के रूप में जाना जाता है, यह निर्धारित करता है कि एआई सिस्टम कैसे कार्य करता है। इन मानों को कंप्यूटर की मेमोरी में 1s और 0s के तार के रूप में रखा जाता है।

यदि इनमें से एक बिट्स को सही स्थान पर बदल दिया जाता है, तो वह अपनी समग्र सटीकता को कम किए बिना एआई के व्यवहार को स्थानांतरित कर सकता है।

क्या आप जानते हैं?

क्रिप्टो के साथ होशियार और अमीर होना चाहते हैं?

सदस्यता लें – हम हर हफ्ते नए क्रिप्टो व्याख्याकार वीडियो प्रकाशित करते हैं!

क्रिप्टो रोलअप क्या हैं? Zksnarks बनाम आशावादी रोलअप (एनिमेटेड)

अंतर्निहित विधि एक ज्ञात हार्डवेयर दोष से उधार। इस तकनीक में बार -बार मेमोरी चिप के एक हिस्से तक पहुंचना शामिल है, जो अनजाने में पास के बिट के मूल्य को बदल देता है।

नया शोध मेमोरी क्षेत्रों पर इस विधि को केंद्रित करता है जो एआई के व्यवहार को केवल एक फ्लिप के साथ समायोजित करने के लिए एआई मापदंडों को संग्रहीत करता है।

हमले को अंजाम देने के लिए, पहले एक घुसपैठिया लक्ष्य AI के समान सिस्टम पर कुछ प्रकार के सॉफ़्टवेयर को चलाने की जरूरत है। यह एक दुर्भावनापूर्ण ऐप, एक संक्रमित फ़ाइल, या एक साझा क्लाउड सेवा के लिए अनधिकृत पहुंच के माध्यम से हो सकता है।

एक बार, हमलावर मॉडल की स्मृति के एक हिस्से के लिए खोज करता है जहां एक मामूली बिट परिवर्तन उपयोगी हो सकता है संदेह बढ़ाए बिना।

एक एकल परिवर्तित बिट आमतौर पर प्रमुख प्रदर्शन के मुद्दों का कारण नहीं बनता है। एआई अभी भी उम्मीद के मुताबिक कार्य करता है, इसलिए अधिकांश नियमित ऑडिट कुछ भी गलत नहीं करेंगे। यह यह चुपके प्रकृति है जो एकफ्लिप को विशेष रूप से पता लगाने में मुश्किल बनाता है।

19 अगस्त को, Microsoft के AI के प्रमुख मुस्तफा सुलेमैन ने AI की तेजी से प्रगति के बारे में चिंता जताई। उसने क्या कहा? पूरी कहानी पढ़ें।