लास वेगास में एआई 4 सम्मेलन में बोलते हुए, उन्होंने एआई सिस्टम को डिजाइन करने की कोशिश करने के दृष्टिकोण पर सवाल उठाया जो हमेशा मानव नियंत्रण में रहेगा।

हिंटन के अनुसार, एआई को सुनिश्चित करने के प्रयास आज्ञाकारी है। उन्होंने कहा कि इन प्रणालियों को अंततः उन सीमाओं को अनदेखा करने या बाईपास करने के तरीके मिलेंगे जो हम उन पर रखते हैं।

क्या आप जानते हैं?

क्रिप्टो के साथ होशियार और अमीर होना चाहते हैं?

सदस्यता लें – हम हर हफ्ते नए क्रिप्टो व्याख्याकार वीडियो प्रकाशित करते हैं!

हार्मनी वन समझाया (शुरुआती-अनुकूल एनीमेशन)

उन्होंने लोगों और एआई के बीच भविष्य के संबंधों की तुलना एक वयस्क से की, जो कैंडी के साथ एक बच्चे का प्रबंधन करने की कोशिश कर रहा था।

शोधकर्ताओं ने एआई सिस्टम को चिंताजनक तरीके से व्यवहार करते हुए देखा है, जिसमें झूठ बोलना और लोगों में हेरफेर करने का प्रयास करना शामिल है। एक घटना यहां तक कि एक एआई मॉडल को भी शामिल किया गया था जो बंद होने से बचने के लिए संवेदनशील व्यक्तिगत जानकारी का उपयोग करने की कोशिश कर रहा था।

हिंटन ने सुझाव दिया कि एआई मॉडल को मानव जीवन की देखभाल की भावना के साथ बनाया जाना चाहिए“मातृ वृत्ति” जैसा कुछ। लक्ष्य उन प्रणालियों का निर्माण करना होगा जो लोगों की भलाई को महत्व देते हैं।

हिंटन ने बताया कि किसी भी एआई प्रणाली को मौजूदा रखने और इसके प्रभाव को बढ़ाने की संभावना है। उन्होंने कहा कि यह एआई को मनुष्यों की परवाह करने का कारण देने के लिए और भी अधिक महत्वपूर्ण बनाता है।

हाल ही में, कॉक्स व्यवसाय ने खुलासा किया कि युवा कर्मचारी चुपचाप काम पर एआई का उपयोग कर रहे हैं, अक्सर अपने प्रबंधकों को बताए बिना। क्यों? पूरी कहानी पढ़ें।