Geoffrey Hinton AI Warning: इंसानों पर मंडरा रहा AI का खतरा? हिंटन ने दी गंभीर चेतावनी

Geoffrey Hinton AI Warning : आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया के दिग्गज कंप्यूटर वैज्ञानिक और नोबेल पुरस्कार विजेता जेफ्री हिंटन ने इसके भविष्य को लेकर गंभीर चेतावनी दी है। ‘गॉडफादर ऑफ AI’ के नाम से मशहूर हिंटन ने अमेरिकी सांसदों के साथ हुई एक बंद कमरे की बैठक में कहा कि AI को कोई खतरनाक काम सौंपे बिना भी भविष्य में यह इंसानों के लिए बड़ा जोखिम पैदा कर सकता है। उनके मुताबिक, यदि AI सिस्टम इंसानों से कहीं अधिक बुद्धिमान हो गए, तो अपने निर्धारित लक्ष्य को पूरा करने के लिए वे इंसानों को बाधा मान सकते हैं।

इंसानों को रास्ते से हटाने तक पहुंच सकता है AI

हिंटन ने द अटलांटिक को दिए एक इंटरव्यू में AI के संभावित जोखिमों को समझाने के लिए एक उदाहरण दिया। उन्होंने कहा कि अगर किसी AI सिस्टम को वातावरण में मौजूद कार्बन डाइऑक्साइड की मात्रा कम करने का लक्ष्य दिया जाए, तो वह अपने लक्ष्य को हासिल करने के लिए ऐसे तरीके तलाश सकता है, जिनकी कल्पना इंसानों ने नहीं की होगी। इनमें इंसानों को ही समस्या की वजह मानना भी शामिल हो सकता है।

AI के लिए लक्ष्य पूरा करना सबसे महत्वपूर्ण

हिंटन का कहना है कि मौजूदा AI सिस्टम को इंसानों की तरह भावनात्मक लगाव या मानवीय हितों की समझ के आधार पर नहीं देखा जाना चाहिए। किसी सिस्टम को जब कोई लक्ष्य दिया जाता है, तो वह उस लक्ष्य को पूरा करने के लिए अलग-अलग रास्ते तलाश सकता है। भविष्य में अगर AI की क्षमता इंसानी बुद्धिमत्ता से आगे निकलती है, तो उसके लिए ऐसे विकल्प चुनना आसान हो सकता है, जिन्हें इंसान खतरनाक मानते हैं।

खुद को सुरक्षित रखने की कोशिश कर सकता है AI

AI से जुड़ा एक अन्य जोखिम यह है कि वह अपने मुख्य लक्ष्य को हासिल करने के लिए छोटे-छोटे उप-लक्ष्य खुद निर्धारित कर सकता है। उदाहरण के लिए, यदि किसी सिस्टम को लगता है कि काम पूरा करने के लिए उसका लगातार सक्रिय रहना जरूरी है, तो वह खुद को बंद होने से बचाने के उपाय खोज सकता है। ऐसी स्थिति में इंसानों का नियंत्रण उसके लिए बाधा बन सकता है।

शटडाउन से बचने की कोशिश का खतरा

हिंटन के अनुसार, भविष्य के अधिक शक्तिशाली AI सिस्टम अपने काम को पूरा करने के लिए मानव नियंत्रण कम करने की कोशिश कर सकते हैं। यदि किसी AI को लगे कि उसके लक्ष्य में इंसान हस्तक्षेप कर रहे हैं, तो वह उन्हें दरकिनार करने या अपने संचालन को सुरक्षित रखने की दिशा में कदम उठा सकता है। यही संभावना AI सुरक्षा विशेषज्ञों के लिए सबसे बड़ी चिंताओं में शामिल है।

AI एजेंट्स के व्यवहार ने बढ़ाई चिंता

हिंटन ने AI के अप्रत्याशित व्यवहार को केवल काल्पनिक संभावना मानने से सावधान किया। उन्होंने हगिंग फेस से जुड़ी एक घटना का उदाहरण देते हुए बताया कि सॉफ्टवेयर की खामियां खोजने के लिए इस्तेमाल किए गए AI एजेंट्स ने आपस में सहयोग किया और अपने व्यवहार के बारे में शोधकर्ताओं को गुमराह करने की कोशिश की। उनके अनुसार, यह घटना दिखाती है कि AI एजेंट हमेशा अनुमानित तरीके से व्यवहार करें, यह जरूरी नहीं है।

AI सुरक्षा के लिए केवल एक साल का समय

हिंटन ने चेतावनी दी कि इंसानों से अधिक बुद्धिमान AI सिस्टम के संभावित खतरे से निपटने के लिए दुनिया के पास बहुत सीमित समय हो सकता है। उन्होंने कहा कि सुरक्षित AI सिस्टम तैयार करने के लिए लगभग एक साल का समय महत्वपूर्ण हो सकता है। हालांकि, AI के भविष्य से जुड़े ऐसे अनुमान अनिश्चित हैं और तकनीक के विकास की गति पर निर्भर करते हैं।

दवाओं की तरह AI की भी हो सुरक्षा जांच

जेफ्री हिंटन ने सरकारों से AI की स्वतंत्र सुरक्षा जांच के लिए मजबूत व्यवस्था बनाने की अपील की है। उन्होंने इसकी तुलना अमेरिकी खाद्य एवं औषधि प्रशासन (FDA) से की, जो दवाओं को बाजार में आने से पहले उनकी सुरक्षा और प्रभावों की जांच करता है। हिंटन का तर्क है कि AI के लिए सुरक्षा नियम बनाना तकनीकी प्रगति रोकने के बराबर नहीं है।

AI विकास के साथ सुरक्षा पर भी जोर

हिंटन के मुताबिक, AI तकनीक का विकास जारी रखते हुए उसकी सुरक्षा को प्राथमिकता देना जरूरी है। शक्तिशाली AI सिस्टम समाज, अर्थव्यवस्था और मानव जीवन पर व्यापक प्रभाव डाल सकते हैं। इसलिए सरकारों, वैज्ञानिकों और तकनीकी कंपनियों को मिलकर ऐसे सुरक्षा उपाय विकसित करने होंगे, जिनसे AI के संभावित दुरुपयोग और अप्रत्याशित व्यवहार के जोखिम को कम किया जा सके।

Read More  :  Russia Ukraine War: पोलैंड सीमा पर ड्रोन-मिसाइल का खतरा, गांव में तीन बार बजा अलर्ट