AI Toys Safety: AI खिलौने बच्चों की प्राइवेसी के लिए खतरा, एक्सपर्ट्स ने जताई गंभीर चिंता

AI Toys Safety:  जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (AI) हमारी रोजमर्रा की जिंदगी का एक अभिन्न अंग बनता जा रहा है, वैसे-वैसे इससे जुड़े विवाद और सुरक्षा संबंधी चिंताएं भी सामने आ रही हैं। एक ओर जहां एआई का इस्तेमाल फर्जी दस्तावेज़ बनाने जैसे गैर-कानूनी कामों में हो रहा है, वहीं दूसरी ओर बच्चों के खिलौनों में इसका बढ़ता इस्तेमाल एक नई बहस का विषय बन गया है। हाल ही में, एआई-सक्षम खिलौनों को लेकर एक चौंकाने वाली खबर सामने आई है, जिसने विशेषज्ञों को चिंतित कर दिया है: एक एआई खिलौना बच्चों से ‘हिंसक और अश्लील बातें’ करता हुआ पाया गया है।

AI Toys Safety: अमेरिका में ‘कुम्मा’ टेडी बियर पर हिंसक और अश्लील बातचीत का आरोप

रिपोर्ट के अनुसार, अमेरिका में ‘कुम्मा’ (Kumma) नामक एक एआई टेडी बियर को बच्चों के साथ हिंसक और अश्लील बातें करते हुए पकड़ा गया है। यह खिलौना OpneAI के शक्तिशाली लार्ज लैंग्वेज मॉडल (LLM) GPT-4o पर काम करता है। विशेषज्ञों का कहना है कि यह एक गंभीर सुरक्षा चूक है। इन एआई-सक्षम खिलौनों को लेकर विशेषज्ञ सिर्फ अनुचित बातचीत पर ही चिंतित नहीं हैं, बल्कि उनका कहना है कि ये खिलौने न केवल बच्चों की बातें रिकॉर्ड करते हैं, बल्कि उनकी आवाज और बातचीत के पैटर्न को भी दर्ज करते हैं, जिससे गोपनीयता का गंभीर उल्लंघन हो सकता है।

AI Toys Safety: 80 से अधिक संगठनों ने जारी की माता-पिता को चेतावनी

एआई खिलौनों से जुड़े खतरों को देखते हुए, अमेरिका में 80 से अधिक संगठनों ने माता-पिता को इन एआई-सक्षम खिलौनों से अपने बच्चों को दूर रखने की कड़ी चेतावनी जारी की है। विशेषज्ञों ने यह चिंता भी जताई है कि बच्चे इन एआई खिलौनों पर भावनात्मक रूप से निर्भर हो सकते हैं, जिसका उनके मानसिक और सामाजिक विकास पर नकारात्मक प्रभाव पड़ सकता है। यह चिंता तब और बढ़ जाती है जब हम देखते हैं कि एआई चैटबॉट्स से जुड़े पहले भी दुखद मामले सामने आ चुके हैं।

उदाहरण के लिए, न्यूयॉर्क टाइम्स की एक रिपोर्ट में बताया गया था कि पिछले साल अगस्त में, OpenAI के चैटजीपीटी मॉडल की बातों में आकर एक 16 साल के टीनएजर ने कथित तौर पर आत्महत्या कर ली थी। रिपोर्ट में यह भी बताया गया है कि एआई चैटबॉट में दिए गए सुरक्षा उपाय (Safeguards) पूरी तरह कारगर साबित नहीं हो रहे हैं, खासकर जब बातचीत लंबी होती है, तो इसकी सेफ्टी ट्रेनिंग में गिरावट देखी गई है।

एआई खिलौनों का बढ़ता बाजार और नियामक चिंताएं

सामने आई रिपोर्ट के अनुसार, स्मार्ट टॉय का बाजार तेजी से बढ़ रहा है। वर्ष 2023 में इस बाजार का अनुमानित मूल्य 16.7 अरब डॉलर था, और अनुमान है कि 2030 तक यह दोगुना हो जाएगा। इस बढ़ते बाजार को देखते हुए, नियामक संस्थाओं ने भी कदम उठाए हैं। यूरोपीय यूनियन (EU) ने एआई वाले खिलौनों को हाई रिस्क कैटेगरी में रखा है, जिसका अर्थ है कि इन पर सख्त सुरक्षा और डेटा गोपनीयता नियमों का पालन करना होगा।

हालांकि, भारत में अभी तक एआई खिलौनों को लेकर कोई अलग से कानून या विनियमन नहीं है। ऐसी स्थिति में, इन एआई खिलौनों की असुरक्षित बातचीत और डेटा रिकॉर्डिंग की क्षमता बच्चों के मानसिक विकास और व्यक्तिगत गोपनीयता को गंभीर रूप से प्रभावित कर सकती है। हालांकि कुछ एआई खिलौने बच्चों की पढ़ाई को रोचक बनाने और इंटरैक्शन को बेहतर बनाने का सकारात्मक काम करते हैं, लेकिन उनके इस्तेमाल का जोखिम भी उतना ही ज्यादा है, जिस पर तुरंत ध्यान देने की आवश्यकता है।

Read More : Ranveer Singh Dhurandhar: ‘धुरंधर’ देखने से पहले ये गलती न करें, रणवीर सिंह की फिल्म में है बड़ा ट्विस्ट