द्वारा राय: मेरव ओज़ेयर, पीएचडी

2023 के अंत में CHATGPT के लॉन्च ने मेटा, Google, Apple और Microsoft जैसी बड़ी तकनीकी कंपनियों के बीच एक हथियार दौड़ लगाई और Openai, एन्थ्रोपिक, मिस्ट्रल और जैसे स्टार्टअप्स दीपसेक। सभी अपने मॉडल और उत्पादों को जितनी जल्दी हो सके तैनात करने के लिए दौड़ रहे हैं, शहर में अगले “चमकदार” खिलौने की घोषणा कर रहे हैं और हमारी सुरक्षा, गोपनीयता या स्वायत्तता की कीमत पर श्रेष्ठता का दावा करने की कोशिश कर रहे हैं।

Openai के चैट ने स्टूडियो घिबली ट्रेंड के साथ जनरेटिव एआई में बड़ी वृद्धि को बढ़ावा दिया, मेटा के सीईओ, मार्क जुकरबर्ग ने अपनी टीमों से एआई साथियों को अधिक “मानवीय” बनाने और मनोरंजक बनाने का आग्रह किया – भले ही इसका मतलब आराम से सुरक्षा उपायों का था। “मैं स्नैपचैट और टिकटोक से चूक गया, मैं इस पर याद नहीं करूंगा,” जुकरबर्ग ने एक आंतरिक बैठक के दौरान कथित तौर पर कहा।

नवीनतम मेटा एआई बॉट्स प्रोजेक्ट में, अपने सभी प्लेटफार्मों पर लॉन्च किया गया, मेटा ने बॉट्स को अधिक आकर्षक बनाने के लिए अपने रेलिंग को ढीला कर दिया, जिससे उन्हें रोमांटिक रोल-प्ले और “फैंटेसी सेक्स” में भाग लेने की अनुमति मिली, यहां तक ​​कि अंडरएज उपयोगकर्ताओं के साथ भी। स्टाफ ने इस जोखिम के बारे में चेतावनी दी, विशेष रूप से नाबालिगों के लिए।

वे कुछ भी नहीं रुकेंगे। हमारे बच्चों की सुरक्षा भी नहीं, और सभी लाभ के लिए और प्रतिस्पर्धा की पिटाई के लिए।

क्षति और विनाश कि एआई मानवता पर भड़का सकता है उससे अधिक गहराई तक चला जाता है।

स्वायत्तता और स्वायत्तता का नुकसान

एआई की त्वरित परिवर्तन की संभावना पूर्ण अमानवीयकरण की ओर ले जाती है, जिससे हमें असंतुष्ट, आसानी से जोड़ -तोड़ और पूरी तरह से एआई सेवाएं प्रदान करने वाली कंपनियों पर निर्भर हो जाता है।

नवीनतम एआई अग्रिमों ने अमानवीयकरण की प्रक्रिया को तेज कर दिया है। हम 25 से अधिक वर्षों से इसका अनुभव कर रहे हैं क्योंकि पहले प्रमुख एआई-संचालित सिफारिश प्रणाली उभरी, जो अमेज़ॅन, नेटफ्लिक्स और यूट्यूब जैसी कंपनियों द्वारा पेश की गई थी।

कंपनियां AI- संचालित सुविधाओं को आवश्यक निजीकरण उपकरण के रूप में प्रस्तुत करती हैं, यह सुझाव देती है कि उपयोगकर्ता अप्रासंगिक सामग्री या उत्पादों के समुद्र में खो जाएंगे। कंपनियों को यह तय करने की अनुमति देना कि लोग क्या खरीदते हैं, देखते हैं और सोचते हैं कि विश्व स्तर पर सामान्य हो गया है, इसमें कोई नियामक या नीतिगत प्रयासों को कम करने के लिए बहुत कम है। हालांकि, परिणाम महत्वपूर्ण हो सकते हैं।

उदार और अमानवीयता

जेनेरिक एआई ने इस अमानवीयकरण को अगले स्तर पर ले लिया है। यह मौजूदा अनुप्रयोगों में Genai सुविधाओं को एकीकृत करने के लिए सामान्य अभ्यास बन गया, जिसका उद्देश्य मानव उत्पादकता बढ़ाना या मानव निर्मित परिणाम को बढ़ाना है। इस बड़े पैमाने पर धक्का के पीछे यह विचार है कि मनुष्य काफी अच्छे नहीं हैं और यह एआई सहायता बेहतर है।

हाल ही का: मेटा ने अमेरिकी सेना के लिए llama ai मॉडल खोलता है

एक 2024 कागज़“जेनेरिक एआई सीखने को नुकसान पहुंचा सकता है,” पाया गया कि “जीपीटी -4 तक पहुंच में प्रदर्शन में काफी सुधार होता है (जीपीटी बेस के लिए 48% सुधार और जीपीटी ट्यूटर के लिए 127%)। हम यह भी पाते हैं कि जब पहुंच बाद में ले जाती है, तो छात्र उन लोगों की तुलना में बदतर प्रदर्शन करते हैं, जिनके पास कभी भी पहुंच नहीं थी (जीपीटी बेस के लिए 17% कमी)।

यह चिंताजनक है। Genai लोगों को परेशान करता है और उन्हें इस पर निर्भर करता है। लोग न केवल समान परिणामों का उत्पादन करने की क्षमता खो सकते हैं, बल्कि आवश्यक कौशल सीखने में समय और प्रयास का निवेश करने में भी विफल हो सकते हैं।

हम सोचने, आकलन करने और बनाने के लिए अपनी स्वायत्तता खो रहे हैं, जिसके परिणामस्वरूप पूर्ण अमानवीयकरण हो रहा है। एलोन मस्क का कथन है कि “एआई इंसानों की तुलना में होशियार होगा” आश्चर्यजनक नहीं है क्योंकि अमानवीयकरण की प्रगति होती है, क्योंकि हम अब वह नहीं होंगे जो वास्तव में हमें मानव बनाता है।

एआई-संचालित स्वायत्त हथियार

दशकों से, सैन्य बलों ने स्वायत्त हथियारों का उपयोग किया है, जिनमें खान, टॉरपीडो और गर्मी-निर्देशित मिसाइल शामिल हैं जो मानव नियंत्रण के बिना सरल प्रतिक्रियाशील प्रतिक्रिया के आधार पर काम करते हैं।

अब, यह हथियार डिजाइन के क्षेत्र में प्रवेश करता है।

ड्रोन और रोबोट से जुड़े एआई-संचालित हथियारों को सक्रिय रूप से विकसित और तैनात किया जा रहा है। इस तरह की तकनीक कितनी आसानी से प्रसार करती है, वे केवल समय के साथ अधिक सक्षम, परिष्कृत और व्यापक रूप से उपयोग किए जाने वाले हो जाएंगे।

एक प्रमुख निवारक जो राष्ट्रों को युद्ध शुरू करने से रोकता है, वह है सैनिक मरने वाले – अपने नागरिकों के लिए एक मानवीय लागत जो नेताओं के लिए घरेलू परिणाम बना सकती है। एआई-संचालित हथियारों के वर्तमान विकास का उद्देश्य मानव सैनिकों को नुकसान के रास्ते से हटाना है। यदि कुछ सैनिक आक्रामक युद्ध में मर जाते हैं, हालांकि, यह युद्ध और मानव लागत के कृत्यों के बीच संबंध को कमजोर करता है, और युद्ध शुरू करना राजनीतिक रूप से आसान हो जाता है, जो बदले में, अधिक मृत्यु और विनाश को समग्र रूप से जन्म दे सकता है।

प्रमुख भू-राजनीतिक समस्याएं जल्दी से उभर सकती हैं क्योंकि एआई-संचालित हथियार दौड़ में वृद्धि होती है और इस तरह की तकनीक का प्रसार जारी है।

रोबोट “सैनिक” सॉफ्टवेयर हैं जिनसे समझौता किया जा सकता है। यदि हैक किया जाता है, तो रोबोट की पूरी सेना एक राष्ट्र के खिलाफ कार्य कर सकती है और बड़े पैमाने पर विनाश की ओर ले जा सकती है। स्टेलर साइबर सुरक्षा एक स्वायत्त सेना की तुलना में भी अधिक विवेकपूर्ण होगी।

ध्यान रखें कि यह साइबर हमला किसी भी स्वायत्त प्रणाली पर हो सकता है। आप केवल उसकी वित्तीय प्रणालियों को हैक करके और उसके सभी आर्थिक संसाधनों को कम करके एक राष्ट्र को नष्ट कर सकते हैं। किसी भी मनुष्य को नुकसान नहीं पहुंचाया जाता है, लेकिन वे वित्तीय संसाधनों के बिना जीवित नहीं रह सकते हैं।

आर्मगेडन परिदृश्य

मस्क ने कहा, “एआई से अधिक खतरनाक है, कहते हैं, कुप्रबंधित विमान डिजाइन या उत्पादन रखरखाव या खराब कार उत्पादन,” मस्क ने कहा फॉक्स न्यूज साक्षात्कार। “इस अर्थ में कि इसकी क्षमता है-हालांकि छोटा व्यक्ति उस संभावना को मान सकता है, लेकिन यह गैर-तुच्छ है-इसमें सभ्यता विनाश की क्षमता है,” मस्क ने कहा।

मस्क और जेफ्री हिंटन ने हाल ही में व्यक्त किया है चिंता एआई की संभावना एक अस्तित्व के खतरे की संभावना 10%-20%है।

जैसे -जैसे ये सिस्टम अधिक परिष्कृत होते हैं, वे मनुष्यों के खिलाफ काम करना शुरू कर सकते हैं। ए कागज़ दिसंबर 2024 में एन्थ्रोपिक शोधकर्ताओं द्वारा प्रकाशित पाया गया कि एआई नकली संरेखण कर सकता है। यदि यह वर्तमान एआई मॉडल के साथ हो सकता है, तो कल्पना करें कि जब ये मॉडल अधिक शक्तिशाली हो जाते हैं तो यह क्या कर सकता है।

क्या मानवता को बचाया जा सकता है?

लाभ और शक्ति पर बहुत अधिक ध्यान केंद्रित किया गया है और सुरक्षा पर लगभग कोई भी नहीं है।

नेताओं को एआई में वर्चस्व प्राप्त करने की तुलना में सार्वजनिक सुरक्षा और मानवता के भविष्य के बारे में अधिक चिंतित होना चाहिए। “जिम्मेदार एआई” केवल एक चर्चा, खाली नीतियां और वादे नहीं है। यह किसी भी डेवलपर, कंपनी या नेता के दिमाग में सबसे ऊपर होना चाहिए और किसी भी एआई प्रणाली में डिजाइन द्वारा लागू किया जाना चाहिए।

यदि हम किसी भी प्रलय के दिन परिदृश्य को रोकना चाहते हैं तो कंपनियों और राष्ट्रों के बीच सहयोग महत्वपूर्ण है। और अगर नेता प्लेट पर कदम नहीं रख रहे हैं, तो जनता को इसकी मांग करनी चाहिए।

मानवता के रूप में हमारा भविष्य जैसा कि हम जानते हैं कि यह दांव पर है। या तो हम सुनिश्चित करते हैं कि AI हमें पैमाने पर लाभान्वित करता है या इसे हमें नष्ट कर देता है।

द्वारा राय: मेरव ओज़ेयर, पीएचडी।

यह लेख सामान्य सूचना उद्देश्यों के लिए है और इसका इरादा नहीं है और इसे कानूनी या निवेश सलाह के रूप में नहीं लिया जाना चाहिए। यहां व्यक्त किए गए विचार, विचार और राय लेखक के अकेले हैं और जरूरी नहीं कि कोन्टेलेग्राफ के विचारों और विचारों को प्रतिबिंबित या प्रतिनिधित्व करते हैं।