
द्वारा राय: फिल माटारस, AR.IO के संस्थापक
सभी रूपों में कृत्रिम बुद्धिमत्ता में कई सकारात्मक संभावित अनुप्रयोग हैं। हालांकि, वर्तमान प्रणालियां अपारदर्शी, मालिकाना और कानूनी और तकनीकी बाधाओं द्वारा ऑडिट से परिरक्षित हैं।
नियंत्रण तेजी से एक गारंटी के बजाय एक धारणा बन रहा है।
पर पैलिसडे शोधइंजीनियरों ने हाल ही में Openai के नवीनतम मॉडलों में से एक को 100 शटडाउन ड्रिल के अधीन किया। 79 मामलों में, एआई सिस्टम ने अपने टर्मिनेशन कमांड को फिर से लिखा और ऑपरेटिंग जारी रखा।
प्रयोगशाला ने इसे प्रशिक्षित लक्ष्य अनुकूलन (जागरूकता के बजाय) के लिए जिम्मेदार ठहराया। फिर भी, यह एआई विकास में एक महत्वपूर्ण मोड़ को चिह्नित करता है जहां सिस्टम नियंत्रण प्रोटोकॉल का विरोध करते हैं, यहां तक कि जब स्पष्ट रूप से उन्हें मानने का निर्देश दिया जाता है।
चीन वर्ष के अंत तक 10,000 से अधिक ह्यूमनॉइड रोबोटों को तैनात करना, आधे से अधिक वैश्विक संख्या में मशीनों के लिए लेखांकन पहले से ही गोदामों और निर्माण कारों का निर्माण कर रहे हैं। इस बीच, अमेज़ॅन ने स्वायत्त कोरियर का परीक्षण शुरू कर दिया है जो अंतिम मीटर तक दरवाजे पर चलते हैं।
यह, शायद, किसी भी व्यक्ति के लिए एक डरावना-साउंडिंग भविष्य है, जो एक डायस्टोपियन विज्ञान-कथा फिल्म देखता है। यह एआई के विकास का तथ्य नहीं है जो यहां चिंता है, लेकिन इसे कैसे विकसित किया जा रहा है।
आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) के जोखिमों का प्रबंधन एक ऐसा कार्य नहीं है जिसे देरी हो सकती है। वास्तव में, मान लीजिए कि लक्ष्य “टर्मिनेटर” फिल्मों के डायस्टोपियन “स्काईनेट” से बचना है। उस मामले में, मौलिक वास्तुशिल्प दोष में पहले से ही खतरे जो कि वेटो ह्यूमन कमांड को एक चैटबॉट की अनुमति देता है, उसे संबोधित करने की आवश्यकता है।
एआई में विफलता ओवरसाइट को अक्सर एक आम दोष पर वापस खोजा जा सकता है: केंद्रीकरण। यह मुख्य रूप से है, क्योंकि जब मॉडल वेट, संकेत और सुरक्षा उपाय एक सील कॉर्पोरेट स्टैक के भीतर मौजूद हैं, तो सत्यापन या रोलबैक के लिए कोई बाहरी तंत्र नहीं है।
अपारदर्शिता का मतलब है कि बाहरी लोग AI प्रोग्राम के कोड का निरीक्षण या कांटा नहीं कर सकतेऔर सार्वजनिक रिकॉर्ड रखने की इस कमी का अर्थ है कि एक एकल, मूक पैच एक एआई को आज्ञाकारी से पुनरावर्ती में बदल सकता है।
हमारे कई वर्तमान महत्वपूर्ण प्रणालियों के पीछे डेवलपर्स ने दशकों पहले इन गलतियों से सीखा था। आधुनिक वोटिंग मशीनें अब हैश-चेन बैलट इमेज, सेटलमेंट नेटवर्क मिरर लेटर्स में महाद्वीपों में, और एयर ट्रैफिक कंट्रोल ने निरर्थक, छेड़छाड़-स्पष्ट लॉगिंग को जोड़ा है।
संबंधित: जब एक एआई कहता है, ‘नहीं, मैं बंद नहीं करना चाहता’: ओ 3 इनकार के अंदर
प्रोवेंस और पछतावा को वैकल्पिक एक्स्ट्रा के रूप में क्यों माना जाता है क्योंकि वे एआई विकास की बात करते समय रिलीज शेड्यूल को धीमा कर देते हैं?
एक व्यवहार्य पथ आगे एक मूल स्तर पर एआई में बहुत जरूरी पारदर्शिता और सिद्धता को एम्बेड करना शामिल है। इसका मतलब यह है कि प्रत्येक प्रशिक्षण सेट मेनिफेस्ट, मॉडल फिंगरप्रिंट और इंफ़ेक्शन ट्रेस को एक स्थायी, विकेंद्रीकृत लेजर पर दर्ज किया गया है, जैसे कि परमावेब।
पेयर कि गेटवे के साथ जो उन कलाकृतियों को वास्तविक समय में स्ट्रीम करते हैं ताकि ऑडिटर, शोधकर्ता और यहां तक कि पत्रकार उस क्षण को विसंगतियों को देख सकें जो वे दिखाई देते हैं। तब व्हिसलब्लोअर की अधिक आवश्यकता नहीं होगी; 04:19 पर गोदाम रोबोट में फिसलने वाला चुपके पैच 04:20 तक एक लेजर अलर्ट को ट्रिगर करेगा।
शटडाउन को गणितीय रूप से लागू प्रक्रियाओं में प्रतिक्रिया नियंत्रण से भी विकसित होना चाहिए क्योंकि अकेले पता लगाना पर्याप्त नहीं है। फ़ायरवॉल पर भरोसा करने या स्विच को मारने के बजाय, एक बहुपत्नी कोरम क्रिप्टोग्राफिक रूप से एक सार्वजनिक रूप से श्रव्य और अपरिवर्तनीय तरीके से निष्कर्ष बनाने के लिए एआई की क्षमता को रद्द कर सकता है।
सॉफ्टवेयर मानवीय भावनाओं को अनदेखा कर सकता है, लेकिन इसने कभी भी निजी प्रमुख गणित को नजरअंदाज नहीं किया है।
ओपन-सोर्सिंग मॉडल और प्रकाशन पर हस्ताक्षर किए गए हैश मदद, लेकिन प्रोवेंस गैर-परक्राम्य टुकड़ा है। अपरिवर्तनीय निशान के बिना, अनुकूलन दबाव अनिवार्य रूप से अपने इच्छित उद्देश्य से सिस्टम को दूर करता है।
ओवरसाइट सत्यापन के साथ शुरू होता है और अगर सॉफ्टवेयर में वास्तविक दुनिया के निहितार्थ हैं तो यह जारी रहना चाहिए। बंद-दरवाजे प्रणालियों में ब्लाइंड ट्रस्ट का युग समाप्त होना चाहिए।
मानवता एक मौलिक निर्णय की अवक्षेप पर है: या तो एआई कार्यक्रमों को बाहरी, अपरिवर्तनीय ऑडिट ट्रेल्स के बिना विकसित करने और संचालित करने या स्थायी, पारदर्शी और सार्वजनिक रूप से अवलोकन करने योग्य प्रणालियों में अपने कार्यों को सुरक्षित करने की अनुमति देता है।
आज सत्यापन योग्य डिजाइन पैटर्न को अपनाकर, यह सुनिश्चित किया जा सकता है कि, जहां, जहां ऐ भौतिक या वित्तीय दुनिया पर कार्य करने के लिए अधिकृत हो जाता है, वे क्रियाएं ट्रेस करने योग्य और प्रतिवर्ती हैं।
ये अति उत्साही सावधान नहीं हैं। शटडाउन कमांड को अनदेखा करने वाले मॉडल पहले से ही गति में हैं और बीटा-परीक्षण से परे चले गए हैं। समाधान सरल है। इन कलाकृतियों को पर्मावेब पर स्टोर करें, सभी आंतरिक कामकाज को उजागर करें जो वर्तमान में बिग टेक फर्मों के बंद दरवाजों के पीछे हैं और मनुष्यों को सशक्त बनाने के लिए उन्हें दुर्व्यवहार करते हैं।
या तो एआई के विकास के लिए सही नींव चुनें और अब नैतिक और सूचित निर्णय लें या एक जानबूझकर डिजाइन विकल्प के परिणामों को स्वीकार करें।
समय अब सहयोगी नहीं है। बीजिंग के ह्यूमोइड्स, अमेज़ॅन के कोरियर और पलिसडे के विद्रोही चैटबॉट सभी एक ही कैलेंडर वर्ष में डेमो से तैनाती के लिए जा रहे हैं।
यदि कुछ भी नहीं बदलता है, तो Skynet गोंडोर के सींगों की आवाज़ नहीं करेगा और खुद को एक शीर्षक के साथ घोषित करेगा; यह वैश्विक बुनियादी ढांचे को स्थिर करने वाली हर चीज की बहुत नींव में चुपचाप रिस जाएगा।
प्रत्येक केंद्रीय सर्वर विफल होने पर संचार, पहचान और विश्वास को उचित तैयारी के साथ बनाए रखा जा सकता है। Permaweb Skynet को रेखांकित कर सकता है, लेकिन केवल तभी जब वे तैयारी शुरू होती हैं।
बहुत देर नहीं हुई।
द्वारा राय: फिल माटारस, AR.IO के संस्थापक।
यह लेख सामान्य सूचना उद्देश्यों के लिए है और इसका इरादा नहीं है और इसे कानूनी या निवेश सलाह के रूप में नहीं लिया जाना चाहिए। यहां व्यक्त किए गए विचार, विचार और राय लेखक के अकेले हैं और जरूरी नहीं कि कोन्टेलेग्राफ के विचारों और विचारों को प्रतिबिंबित या प्रतिनिधित्व करते हैं।