YouTube ने सेलिब्रिटी एआई स्कैम वाले 1200 से अधिक वीडियो को अपने प्लेटफार्म से किया बाहर

YouTube New Policy: काफी समय से एआई तकनीक का गलत इस्तेमाल कर डीप फेक वीडियो के मामले लगातार सामने आ रहें हैं। अब इस तरह की गतिविधियों पर लगाम कसने के लिए यूट्यूब ने एक नई असूचना नीति का गठन किया है। इस नीति में बनाए गए नए नियमों में यूट्यूब अपने प्लेटफार्म से ऐसी सामग्री को हटा रहा है जो किसी भी तरह का विवाद, भड़काऊ या गलत तरह की सूचना लोगों के बीच फैलाती हो। इस नीति के अनुसार, जिन यूट्यूब चैनल्स ने इस गाईडलाइन के नियमों का उल्लंघन किया है, उन्हें इस प्लेटफार्म से हटा दिया गया है। इस प्रक्रिया के तहत गूगल के स्वामित्व वाले यूट्यूब ने अपने प्लेटफॉर्म से मशहूर हस्तियों के करीब 1200 से अधिक डीपफेक स्कैम विज्ञापन वीडियो को वहां से हटाया है। इस कार्रवाई को लेकर यूट्यूब का कहना है कि वह एआई सेलिब्रिटी स्कैम वाले विज्ञापनों पर प्रतिबंध लगाने के लिए “भारी निवेश” कर रहा है।यूट्यूब को इस बात की भी जानकारी दी है कि उसके प्लेटफॉर्म का इस्तेमाल मशहूर हस्तियों के एआई-जनरेटेड विज्ञापनों के साथ किया जा रहा है और वह इस तरह के सेलिब्रिटी डीपफेक को रोकने के लिए कड़ी मेहनत कर रहा है।

मशहूर हस्तियों के डीप फेक वीडियो की जांच के चलते हुई कार्रवाई

यूट्यूब द्वारा AI फेक विज्ञापनों पर चलाई गई कैंची के पीछे की मुख्य वजह ये मशहूर हस्तियां हैं।ऐसे फर्जी सेलिब्रिटी विज्ञापनों की 404 मीडिया द्वारा की गई जांच के बाद, यूट्यूब ने एक विज्ञापन समूह से जुड़े करीब 1200 से अधिक वीडियो को हटा दिया गया है, जिसमें टेलर स्विफ्ट, स्टीव हार्वे और जो रोगन जैसी मशहूर हस्तियों द्वारा मेडिकेयर घोटालों को बढ़ावा देने के लिए एआई का इस्तेमाल किया गया था। खासतौर से यूएसए के मशहूर पॉप सिंगर टेलर स्विफ्ट के गैर-सहमति वाले डीपफेक पोर्न के वायरल होने के बाद ये मामला और भी ज्यादा विवादों में आ गयाऔर यूट्यूब को तत्परता के साथ यह कार्रवाई करनी पड़ी। यह पोस्ट हटाए जाने से पहले लगभग 17 घंटे तक प्लेटफॉर्म पर लाइव थी। यूट्यूब द्वारा इस एक पोस्ट को हटाने से पहले इसे करीब 45 मिलियन से अधिक बार देखा जा चुका था। साथ ही इसे 24,000 बार रीपोस्ट भी किया जा चुका था।इन वीडियो को देखने वाले और इसमें शामिल मशहूर हस्तियां दोनों लगातार इसको लेकर अपनी- अपनी आपत्ति जता रहे थे साथ ही यूट्यूब चैनलों के खिलाफ अपनी शिकायत भी दर्ज कर रहे थे।

404 मीडिया द्वारा जारी की गई रिपोर्ट के तहत डीपफेक पोर्न से जुड़ी तस्वीरें टेलीग्राम पर एक विज्ञापन समूह की तरफ से पोस्ट की गईं थी। जहां ज्यादातर इसके यूजर्स महिलाओं की स्पष्ट एआई का इस्तेमाल कर तैयार की गईं फेक पिक्चर्स को शेयर करते रहते हैं।

इस कदम को लेकर यूट्यूब का बयान

यूट्यूब में अपने निर्णय का समर्थन करते हुए अपना बयान जारी किया है जिसमें उसने यूट्यूब चैनलों से बनाई गईं नीतियों का पालन करने की जरूरत को बेहद महत्वपूर्ण बताया है। उसने व्यापक रूप से सुनिश्चित किया है की यूट्यूब प्लेटफार्म पर सामग्री का मानक को रखने के लिए सक्रिय रूप से कदम उठाए जा रहे हैं। इस प्रकार की कार्रवाई का मुख्य कारण निज स्वतंत्रता के अंतर्गत समाज में परोसी जा रही सामग्री और मनोरंजन की गुणवत्ता को बनाए रखना है।

साइबर सिक्योरिटी फर्म डीपट्रेस के नवीनतम शोध के अनुसार, लगभग 96 प्रतिशत से भी अधिक अश्लील डीपफेक पिक्चर्स और वीडियो हमेशा महिलाओं पर बनाए जाने वाले AI द्वारा जनरेटेड होते हैं।