By प्रभासाक्षी न्यूज नेटवर्क | Apr 17, 2024
सोशल मीडिया क्षेत्र की दिग्गज कंपनी मेटा के निगरानी बोर्ड ने दो मामलों में एआई की मदद से तैयार अश्लील चित्रों पर की जाने वाली कार्रवाई पर सार्वजनिक राय मांगी है। ये मामले भारत और अमेरिका में मशहूर हस्तियों से संबंधित हैं।
कंटेंट मॉडरेशन पर फैसला करने वाले बोर्ड ने कहा कि इनमें से एक मामला इंस्टाग्राम पर पोस्ट की गई एक महिला के चित्र से जुड़ा है। इस चित्र को एआई की मदद से तैयार किया गया है।
एक बयान के मुताबिक, ‘‘यह चित्र भारत की एक मशहूर शख्सियत से मिलता-जुलता है और इसे कृत्रिम मेधा (एआई) का इस्तेमाल करके बनाया गया है। जिस खाते से इस कंटेंट को पोस्ट किया गया है, वह केवल भारतीय महिलाओं के एआई से तैयार चित्रों को साझा करता है। इस पर प्रतिक्रिया देने वाले अधिकांश उपयोगकर्ता भारत के हैं, जहां डीपफेक की समस्या बढ़ती जा रही है।’’
मेटा ने इस मुद्दे पर जनता की राय मांगी है, हालांकि इलेक्ट्रॉनिक्स एवं आईटी मंत्रालय पहले ही सोशल मीडिया फर्मों को एआई की मदद से तैयार नकली चित्रों और वीडियो को हटाने के लिए कह चुका है।
रश्मिका मंदाना और प्रियंका चोपड़ा सहित कई भारतीय अभिनेत्रियों की नकली तस्वीरें और वीडियो इंस्टाग्राम, फेसबुक और ‘एक्स’ सहित सोशल मीडिया मंचों पर वायरल हो चुके हैं। बोर्ड ने कहा कि भारत से संबंधित मामले में पोस्ट को हटा दिया गया है।
बोर्ड ने अमेरिका में एक मामले पर सार्वजनिक विचार भी आमंत्रित किए हैं, जहां एक फेसबुक समूह में एक अमेरिकी मशहूर हस्ती की एआई से तैयार अश्लील तस्वीर पोस्ट की गई थी। इस मामले में तस्वीर को पहले ही फेसबुक के सामुदायिक मानकों का उल्लंघन मानते हुए मंच से हटा दिया गया था।