द्वारा राय: फिल माटारस, AR.IO के संस्थापक

सभी रूपों में कृत्रिम बुद्धिमत्ता में कई सकारात्मक संभावित अनुप्रयोग हैं। हालांकि, वर्तमान प्रणालियां अपारदर्शी, मालिकाना और कानूनी और तकनीकी बाधाओं द्वारा ऑडिट से परिरक्षित हैं।

नियंत्रण तेजी से एक गारंटी के बजाय एक धारणा बन रहा है।

पर पैलिसडे शोधइंजीनियरों ने हाल ही में Openai के नवीनतम मॉडलों में से एक को 100 शटडाउन ड्रिल के अधीन किया। 79 मामलों में, एआई सिस्टम ने अपने टर्मिनेशन कमांड को फिर से लिखा और ऑपरेटिंग जारी रखा।

प्रयोगशाला ने इसे प्रशिक्षित लक्ष्य अनुकूलन (जागरूकता के बजाय) के लिए जिम्मेदार ठहराया। फिर भी, यह एआई विकास में एक महत्वपूर्ण मोड़ को चिह्नित करता है जहां सिस्टम नियंत्रण प्रोटोकॉल का विरोध करते हैं, यहां तक कि जब स्पष्ट रूप से उन्हें मानने का निर्देश दिया जाता है।

चीन वर्ष के अंत तक 10,000 से अधिक ह्यूमनॉइड रोबोटों को तैनात करना, आधे से अधिक वैश्विक संख्या में मशीनों के लिए लेखांकन पहले से ही गोदामों और निर्माण कारों का निर्माण कर रहे हैं। इस बीच, अमेज़ॅन ने स्वायत्त कोरियर का परीक्षण शुरू कर दिया है जो अंतिम मीटर तक दरवाजे पर चलते हैं।

यह, शायद, किसी भी व्यक्ति के लिए एक डरावना-साउंडिंग भविष्य है, जो एक डायस्टोपियन विज्ञान-कथा फिल्म देखता है। यह एआई के विकास का तथ्य नहीं है जो यहां चिंता है, लेकिन इसे कैसे विकसित किया जा रहा है।

आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) के जोखिमों का प्रबंधन एक ऐसा कार्य नहीं है जिसे देरी हो सकती है। वास्तव में, मान लीजिए कि लक्ष्य “टर्मिनेटर” फिल्मों के डायस्टोपियन “स्काईनेट” से बचना है। उस मामले में, मौलिक वास्तुशिल्प दोष में पहले से ही खतरे जो कि वेटो ह्यूमन कमांड को एक चैटबॉट की अनुमति देता है, उसे संबोधित करने की आवश्यकता है।

केंद्रीकरण वह जगह है जहां निरीक्षण टूट जाता है

एआई में विफलता ओवरसाइट को अक्सर एक आम दोष पर वापस खोजा जा सकता है: केंद्रीकरण। यह मुख्य रूप से है, क्योंकि जब मॉडल वेट, संकेत और सुरक्षा उपाय एक सील कॉर्पोरेट स्टैक के भीतर मौजूद हैं, तो सत्यापन या रोलबैक के लिए कोई बाहरी तंत्र नहीं है।

अपारदर्शिता का मतलब है कि बाहरी लोग AI प्रोग्राम के कोड का निरीक्षण या कांटा नहीं कर सकतेऔर सार्वजनिक रिकॉर्ड रखने की इस कमी का अर्थ है कि एक एकल, मूक पैच एक एआई को आज्ञाकारी से पुनरावर्ती में बदल सकता है।

हमारे कई वर्तमान महत्वपूर्ण प्रणालियों के पीछे डेवलपर्स ने दशकों पहले इन गलतियों से सीखा था। आधुनिक वोटिंग मशीनें अब हैश-चेन बैलट इमेज, सेटलमेंट नेटवर्क मिरर लेटर्स में महाद्वीपों में, और एयर ट्रैफिक कंट्रोल ने निरर्थक, छेड़छाड़-स्पष्ट लॉगिंग को जोड़ा है।

संबंधित: जब एक एआई कहता है, ‘नहीं, मैं बंद नहीं करना चाहता’: ओ 3 इनकार के अंदर

प्रोवेंस और पछतावा को वैकल्पिक एक्स्ट्रा के रूप में क्यों माना जाता है क्योंकि वे एआई विकास की बात करते समय रिलीज शेड्यूल को धीमा कर देते हैं?

सत्यता, न कि केवल ओवरसाइट

एक व्यवहार्य पथ आगे एक मूल स्तर पर एआई में बहुत जरूरी पारदर्शिता और सिद्धता को एम्बेड करना शामिल है। इसका मतलब यह है कि प्रत्येक प्रशिक्षण सेट मेनिफेस्ट, मॉडल फिंगरप्रिंट और इंफ़ेक्शन ट्रेस को एक स्थायी, विकेंद्रीकृत लेजर पर दर्ज किया गया है, जैसे कि परमावेब।