हिंदी
हिंदी
हिंदी
Meta को सरकार की दो टूक (IMG: Pinterest)
New Delhi: सोशल मीडिया पर डीपफेक और सिंथेटिक कंटेंट का खतरा बढ़ने के बीच भारत सरकार ने Meta को साफ संदेश दिया है कि देश में काम करना है तो भारतीय कानूनों और स्थानीय परिस्थितियों के मुताबिक ही प्लेटफॉर्म चलाना होगा। सरकार और Meta के बीच हालिया बातचीत में कंपनी के पूरे एल्गोरिदम को बदलने की बात नहीं हुई, बल्कि कंटेंट मॉडरेशन, डीपफेक, बच्चों के यौन शोषण से जुड़े कंटेंट यानी CSAM और सिंथेटिक कंटेंट को लेकर मौजूदा सिस्टम को ज्यादा मजबूत और जवाबदेह बनाने पर जोर दिया गया।
सरकारी सूत्रों के मुताबिक, बातचीत के दौरान सबसे अहम संदेश यही रहा कि भारत में काम करने वाले सोशल मीडिया प्लेटफॉर्म को भारतीय कानून और यहां की स्थानीय परिस्थितियों को ध्यान में रखकर काम करना होगा। भारत में अलग-अलग भाषाओं, संस्कृतियों और सामाजिक संवेदनशीलताओं को देखते हुए कंटेंट मॉडरेशन अपने आप में बड़ी चुनौती है। सरकार का मानना है कि विदेशों में बैठी Meta की टीमें कई बार भारतीय संदर्भ को उसी तरह नहीं समझ पातीं, जिस तरह स्थानीय स्तर पर समझा जा सकता है।
बच्चों के यौन शोषण से जुड़े कंटेंट यानी CSAM को लेकर सरकार ने बेहद सख्त रुख अपनाया है। सूत्रों के मुताबिक, इस तरह के कंटेंट को लेकर जीरो टॉलरेंस की नीति पर कोई समझौता नहीं किया जा सकता। सरकारी अधिकारियों का कहना है कि किसी भी प्लेटफॉर्म पर इस तरह का कंटेंट मौजूद रहना गंभीर उल्लंघन है। इसलिए Meta को ऐसे कंटेंट की पहचान, रोकथाम और हटाने के लिए ज्यादा मजबूत और सक्रिय व्यवस्था बनानी होगी।
डीपफेक को लेकर भी सरकार और Meta के बीच बातचीत में कई अहम मुद्दे उठे। खासकर मशहूर हस्तियों के नाम और चेहरे का इस्तेमाल करके बनाए जा रहे फर्जी वीडियो और दूसरे सिंथेटिक कंटेंट को लेकर चिंता जताई गई। सरकारी अधिकारियों ने यह भी स्पष्ट किया कि किसी अधिकृत या वेरिफाइड हैंडल से पोस्ट किए गए कंटेंट को सिर्फ ऑटोमेटेड सिस्टम के आधार पर डीपफेक मान लेना सही नहीं होगा।
कंटेंट मॉडरेशन में AI और ऑटोमेशन की भूमिका लगातार बढ़ रही है, लेकिन सरकार का जोर इस बात पर है कि संवेदनशील मामलों में पूरी तरह मशीन के भरोसे फैसला नहीं छोड़ा जाना चाहिए। खासकर डीपफेक जैसे मामलों में तकनीक कभी-कभी वास्तविक और सिंथेटिक कंटेंट के बीच सही अंतर करने में गलती कर सकती है। ऐसे में मानव समीक्षा को सिस्टम का हिस्सा बनाए जाने पर जोर दिया जा रहा है।
सरकार के सामने सबसे बड़ा सवालों में से एक यह भी है कि अगर किसी कंटेंट को डीपफेक मानकर प्लेटफॉर्म से हटा दिया गया है, तो वही कंटेंट या उससे मिलता-जुलता कंटेंट दोबारा यूजर्स तक कैसे पहुंच रहा है? अधिकारियों ने Meta से इस बारे में ठोस जवाब और व्यवस्था की जानकारी मांगी है। सरकार यह समझना चाहती है कि एक बार किसी कंटेंट की पहचान होने और उसे हटाने के बाद उसकी दोबारा पहुंच को रोकने के लिए कंपनी क्या करती है।
सरकार ने Meta के रिकमेंडेशन सिस्टम और वायरल कंटेंट को बढ़ावा देने वाले एल्गोरिदम को लेकर भी सवाल उठाए हैं। अधिकारियों ने पूछा कि जब यूजर किसी खास तरह के कंटेंट में रुचि नहीं दिखाता, तब भी उसे उससे अलग कंटेंट बार-बार क्यों दिखाया जाता है। सरकार के मुताबिक, यह स्थिति रिकमेंडेशन सिस्टम की संभावित कमियों की तरफ इशारा कर सकती है। इसलिए इस सिस्टम को और ज्यादा पारदर्शी और जवाबदेह बनाने की जरूरत है।
इस पूरी बातचीत का सबसे अहम पहलू यही है कि सरकार की चिंता सिर्फ आपत्तिजनक कंटेंट को हटाने तक सीमित नहीं है। सरकार चाहती है कि Meta के पूरे कंटेंट इकोसिस्टम में ऐसे कंटेंट की पहुंच को रोका जाए। मसलन, अगर कोई डीपफेक वीडियो पहचान में आता है और उसे हटा दिया जाता है, तो सिस्टम को यह भी देखना होगा कि उसी वीडियो की कॉपी, एडिटेड वर्जन या उससे मिलता-जुलता कंटेंट दोबारा यूजर्स के सामने न आए।
सरकार और Meta के बीच तकनीकी स्तर पर बातचीत अभी खत्म नहीं हुई है। सूत्रों के मुताबिक, दोनों पक्षों के बीच बातचीत जारी रहेगी और अगले सप्ताह फिर बैठक होने की संभावना है। अधिकारियों के मुताबिक, कुछ मुद्दों पर अभी भी चिंताएं बनी हुई हैं। सरकार का मुख्य उद्देश्य यह सुनिश्चित करना है कि Meta की गाइडलाइंस और कंटेंट पॉलिसी भारत के कानूनों के अनुरूप हों और संवेदनशील मामलों में प्लेटफॉर्म की कार्रवाई प्रभावी हो।
AI के तेजी से विस्तार के साथ डीपफेक और सिंथेटिक कंटेंट सोशल मीडिया प्लेटफॉर्म के लिए बड़ी चुनौती बन चुके हैं। किसी व्यक्ति का चेहरा या आवाज बदलकर बनाए गए वीडियो कुछ ही समय में हजारों-लाखों लोगों तक पहुंच सकते हैं। ऐसे में सरकार के सामने चुनौती यह है कि फर्जी और नुकसान पहुंचाने वाले कंटेंट को तेजी से रोका जाए, लेकिन साथ ही वास्तविक कंटेंट पर गलत कार्रवाई भी न हो। Meta के लिए भी चुनौती कम नहीं है। भारत जैसे बड़े और बहुभाषी बाजार में अलग-अलग भाषाओं और सांस्कृतिक संदर्भों को समझते हुए कंटेंट मॉडरेशन करना आसान नहीं है।
