TRENDING TAGS :
Instagram पर CSAM वाले कथित विज्ञापनों को लेकर NHRC सख्त, Meta के AI सिस्टम की भूमिका पर उठाए सवाल
Instagram पर CSAM से जुड़े कथित Paid Ads के मामले में NHRC ने MeitY, MIB और Delhi Police से दो हफ्ते में ATR मांगी है। Meta के AI और Algorithmic Systems की भूमिका पर भी सवाल उठे हैं।
Meta AI CSAM case: Instagram पर बच्चों के यौन शोषण से जुड़ी सामग्री (CSAM) तक कथित तौर पर पहुंच उपलब्ध कराने वाले पेड विज्ञापनों के आरोपों को लेकर राष्ट्रीय मानवाधिकार आयोग (NHRC) ने सख्त रुख अपनाया है। आयोग ने इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY), सूचना एवं प्रसारण मंत्रालय (MIB) और दिल्ली पुलिस से मामले में बिंदुवार एक्शन टेकेन रिपोर्ट (ATR) दो सप्ताह के भीतर मांगी है।
NHRC ने एक मीडिया रिपोर्ट का संज्ञान लेते हुए कहा कि Instagram पर कथित तौर पर ‘rape video’ और ‘child video’ जैसे शब्दों का इस्तेमाल करने वाले पेड विज्ञापन सामने आए थे। आरोप है कि इन विज्ञापनों के जरिए यूजर्स को Telegram चैनलों तक पहुंचाया जाता था, जहां ऐसी आपत्तिजनक सामग्री कथित तौर पर बिक्री के लिए उपलब्ध कराई जा रही थी।
Meta के AI सिस्टम पर NHRC का बड़ा सवाल
NHRC की प्रियंक कानूनगो की अध्यक्षता वाली पीठ ने इस मामले में एक महत्वपूर्ण सवाल उठाया है कि Meta के AI और एल्गोरिदम-सिस्टम की बढ़ती भूमिका को देखते हुए क्या कंपनी को केवल एक निष्क्रिय मध्यस्थ माना जा सकता है।
आयोग ने यह जांचने को कहा है कि यदि किसी डिजिटल प्लेटफॉर्म के सिस्टम खुद कंटेंट को बनाना, बदलना, चुनना और व्यवस्थित करना, सुझाव देना, प्रकाशित करना, बढ़ावा देना या पैसे कमाना (generate, modify, curate, recommend, publish, amplify या monetise) करते हैं, तो क्या उसकी कानूनी स्थिति महज एक मध्यस्थ तक सीमित रह सकती है।
NHRC ने कहा कि यह फैसला केवल इस आधार पर नहीं होना चाहिए कि किसी प्लेटफॉर्म को किस नाम से परिभाषित किया गया है। इसके बजाय यह देखा जाना चाहिए कि प्लेटफॉर्म वास्तव में कंटेंट के साथ कितनी संपादकीय भागीदारी और control रखता है।
कंटेंट रिकमेंडेशन और monetisation भी जांच के दायरे में
आयोग ने विशेष रूप से कंटेंट क्यूरेशन, रिकमेंडेशन, टारगेटेड एम्प्लीफिकेशन और मॉनेटाइज़ेशन से जुड़े जोखिमों को रेखांकित किया है। बच्चों से संबंधित मामलों और CSAM/CSEAM जैसे संवेदनशील कंटेंट में इन तकनीकों के इस्तेमाल को लेकर NHRC ने गंभीर चिंता जताई है।
आयोग के समक्ष रखी गई सामग्री में Meta के सिस्टम के कथित screenshots भी शामिल हैं। शिकायतकर्ता के अनुसार, इन सिस्टमों की ओर से कंटेंट के आइडिया, फ़ॉर्मैट, स्लाइड का क्रम, कैप्शन, कॉल-टू-एक्शन, पोस्ट करने का शेड्यूल, ऑडियंस एंगेजमेंट की रणनीतियाँ और मॉनेटाइज़ेशन के तरीके से जुड़े सुझाव दिए जाते हैं।
POCSO Act की Section 19 को लेकर MeitY से जवाब
NHRC ने MeitY से विशेष रूप से POCSO Act, 2012 के सेक्शन 19 के तहत अनिवार्य रेपोर्टिंग की स्थिति स्पष्ट करने को कहा है।
आयोग ने पूछा है कि कथित अपराधों की जानकारी मिलने के बाद क्या मामला Special Juvenile Police Unit (SJPU) या स्थानीय पुलिस को रिपोर्ट किया गया था।
यदि रिपोर्ट नहीं की गई थी, तो मंत्रालय को यह बताने के लिए कहा गया है कि इसके लिए कौन अधिकारी या प्राधिकरण जिम्मेदार था और उसके खिलाफ क्या कार्रवाई की गई।
सुप्रीम कोर्ट के फैसले का भी दिया हवाला
NHRC ने Just Rights for Children Alliance & Anr. v. S. Harish & Ors. मामले में सुप्रीम कोर्ट के फैसले का उल्लेख करते हुए कहा कि ऐसे मामलों में तत्काल रिपोर्टिंग, इलेक्ट्रॉनिक साक्ष्यों का संरक्षण, समन्वित जांच और बच्चों की पहचान, बचाव एवं सुरक्षा पर विशेष ध्यान जरूरी है।
आयोग ने यह भी रेखांकित किया कि Information Technology Act की Section 79 किसी इकाई को अपने POCSO संबंधी दायित्वों से स्वतः मुक्त नहीं करती।
MIB से पूछा- क्या Meta publisher के दायरे में आता है?
NHRC ने सूचना एवं प्रसारण मंत्रालय से भी यह जांचने को कहा है कि यदि Meta के सिस्टम कंटेंट को बनाना, बदलना, चुनना और व्यवस्थित करना, सुझाव देना, प्रकाशित करना या बढ़ाना करते हैं, तो क्या कंपनी IT Rules, 2021 के तहत पब्लिशर या ऑनलाइन क्यूरेटेड कंटेंट के प्रकाशक के नियामकीय दायरे में आ सकती है।
MIB को यह भी बताने को कहा गया है कि मौजूदा नियामक ढांचा के तहत Meta की स्थिति क्या है और यदि उस पर कोई अतिरिक्त दायित्व लागू होते हैं, तो मंत्रालय को क्या कदम उठाने चाहिए।
दिल्ली पुलिस से भी मांगी गई अतिरिक्त जानकारी
NHRC ने दिल्ली पुलिस की ओर से पहले दाखिल की गई रिपोर्ट को रिकॉर्ड पर लिया है और पुलिस कमिश्नर, दिल्ली को अतिरिक्त जानकारी उपलब्ध कराने के लिए दो सप्ताह का और समय दिया है।
पुलिस से मामले में अब तक की कार्रवाई का विवरण, Telegram से मांगी गई या प्राप्त जानकारी और उस जानकारी के आधार पर की गई आगे की कार्रवाई का ब्यौरा मांगा गया है।
NHRC के सामने असल सवाल क्या है?
इस पूरे मामले में आयोग का मुख्य सवाल यह है कि जब कोई डिजिटल प्लेटफॉर्म सिर्फ यूजर कंटेंट होस्ट करने तक सीमित न रहकर AI और algorithmic systems के जरिए कंटेंट को तैयार करने, सुझाने, बढ़ावा देने या उससे कमाई करने में सक्रिय भूमिका निभाता है, तो क्या उसे केवल एक passive intermediary माना जा सकता है?
हालांकि, NHRC के सामने उठाए गए आरोपों की पुष्टि जांच और संबंधित एजेंसियों की रिपोर्ट के आधार पर ही होगी।
