Meta AI Moderation: पोस्ट कब हटाता है AI और कब पड़ती है इंसान की जरूरत?

Meta AI Moderation : आर्टिफिशियल इंटेलिजेंस यानी AI अब लोगों की रोजमर्रा की जिंदगी का अहम हिस्सा बन चुका है। AI चैटबॉट्स की मदद से यूजर्स पढ़ाई, लेखन, रिसर्च, जानकारी जुटाने और कई दूसरे काम तेजी से पूरे कर रहे हैं। इसका असर सोशल मीडिया प्लेटफॉर्म पर भी साफ दिखाई दे रहा है, जहां AI की मदद से तैयार किए गए टेक्स्ट, तस्वीरें और अन्य तरह के कंटेंट की संख्या लगातार बढ़ रही है। ऐसे में प्लेटफॉर्म के सामने यह चुनौती है कि नियमों का उल्लंघन करने वाले AI कंटेंट की पहचान कैसे की जाए।

Meta के सामने AI पोस्ट को लेकर बढ़ी मॉडरेशन की चुनौती

Meta ने अपने सोशल मीडिया प्लेटफॉर्म पर कंटेंट मॉडरेशन को लेकर समय-समय पर कई बदलाव किए हैं। कंपनी के सिस्टम में AI आधारित तकनीक का इस्तेमाल पोस्ट की जांच और संभावित नियम उल्लंघन की पहचान के लिए किया जाता है। हालांकि, हाल की घटनाओं और चर्चा के बाद यह सवाल ज्यादा महत्वपूर्ण हो गया है कि कोई AI सिस्टम किसी पोस्ट को खुद कब हटा सकता है और किन परिस्थितियों में उस पोस्ट को मानव मॉडरेटर के पास भेजा जाता है। खासकर संवेदनशील विषयों में यह अंतर काफी अहम हो जाता है।

क्या सिर्फ Keywords देखकर पोस्ट हटा देता है Meta?

मीडिया रिपोर्ट्स के मुताबिक, सरकार की ओर से Meta के कंटेंट मॉडरेशन सिस्टम को लेकर सवाल उठाए गए हैं। सरकार का तर्क है कि किसी सोशल मीडिया पोस्ट को केवल कुछ खास शब्दों या टर्म की मौजूदगी के आधार पर हटाना उचित नहीं माना जा सकता। यदि पोस्ट में किसी शब्द का इस्तेमाल वैध या अलग संदर्भ में हुआ है, तो सिर्फ उस शब्द के आधार पर कार्रवाई करने से गलत फैसले की संभावना बढ़ सकती है। ऐसे मामलों में ह्यूमन रिव्यू सिस्टम गलत मॉडरेशन को कम करने में मदद कर सकता है।

Meta ने कहा- सिस्टम सिर्फ एक शब्द देखकर फैसला नहीं करता

वहीं, Meta का पक्ष इससे अलग बताया गया है। कंपनी के अनुसार, उसका कंटेंट मॉडरेशन सिस्टम केवल किसी एक शब्द या कीवर्ड की मौजूदगी देखकर पोस्ट को हटाने का फैसला नहीं करता। AI आधारित सिस्टम किसी कंटेंट का व्यापक स्तर पर विश्लेषण करता है और यह पता लगाने की कोशिश करता है कि संबंधित पोस्ट वास्तव में प्लेटफॉर्म की नीतियों का उल्लंघन करती है या नहीं। कंपनी का कहना है कि फैसला कंटेंट के पूरे संदर्भ और अलग-अलग हिस्सों की जांच के आधार पर लिया जाता है।

टेक्स्ट और तस्वीरों समेत कई हिस्सों की होती है जांच

Meta के अनुसार, AI सिस्टम किसी पोस्ट के अलग-अलग हिस्सों की जांच कर सकता है। इसमें पोस्ट में मौजूद टेक्स्ट, फोटो और अन्य संबंधित तत्व शामिल हो सकते हैं। इन सभी पहलुओं का विश्लेषण करने के बाद सिस्टम यह निर्धारित करने की कोशिश करता है कि कंटेंट प्लेटफॉर्म के नियमों के खिलाफ है या नहीं। अगर सिस्टम को नियमों का स्पष्ट उल्लंघन मिलता है, तभी पोस्ट को हटाने जैसी कार्रवाई की जा सकती है। यानी कंपनी के मुताबिक, सिर्फ किसी एक शब्द के इस्तेमाल से पोस्ट अपने आप नहीं हटती।

संदर्भ समझने में इंसानी मॉडरेटर की जरूरत

हालांकि, AI सिस्टम की अपनी सीमाएं भी हैं। कई बार किसी शब्द या वाक्य का वास्तविक अर्थ उसके संदर्भ पर निर्भर करता है। एक ही शब्द का इस्तेमाल सामान्य बातचीत, मजाक, आलोचना या आपत्तिजनक टिप्पणी में अलग-अलग अर्थ दे सकता है। ऐसे मामलों में AI के लिए सही संदर्भ समझना मुश्किल हो सकता है। यही वजह है कि संदिग्ध या जटिल मामलों को मानव मॉडरेटर के पास भेजने की जरूरत पड़ सकती है।

Hate Speech के मामलों में बढ़ जाती है चुनौती

हेट स्पीच यानी नफरत फैलाने वाले कंटेंट की पहचान करना सोशल मीडिया प्लेटफॉर्म के लिए सबसे संवेदनशील कामों में से एक है। किसी शब्द का इस्तेमाल हमेशा नफरत फैलाने के उद्देश्य से नहीं होता। उसका अर्थ बातचीत के संदर्भ, भाषा, व्यंग्य और पूरे संदेश के आधार पर बदल सकता है। ऐसे मामलों में केवल AI पर निर्भर रहने से गलत पोस्ट हटने या सही कंटेंट पर कार्रवाई होने का खतरा रहता है। इसलिए ह्यूमन रिव्यू महत्वपूर्ण भूमिका निभाता है।

AI और इंसानी मॉडरेशन का संतुलन जरूरी

सोशल मीडिया पर AI कंटेंट बढ़ने के साथ आने वाले समय में कंटेंट मॉडरेशन की भूमिका और चुनौती दोनों बढ़ने वाली हैं। AI तेजी से बड़ी मात्रा में पोस्ट का विश्लेषण कर सकता है, जबकि इंसानी मॉडरेटर जटिल परिस्थितियों और संदर्भ को बेहतर तरीके से समझ सकते हैं। ऐसे में प्रभावी मॉडरेशन के लिए AI की गति और इंसानी समझ के बीच संतुलन बनाना जरूरी माना जा रहा है। यही व्यवस्था गलत तरीके से कंटेंट हटाने की घटनाओं को कम करने में मदद कर सकती है।

Read More  : Ambikapur Road Accident : अंबिकापुर में ट्रक-पिकअप की भीषण टक्कर, तीन मजदूरों की मौत, सात गंभीर घायल