By अभिनय आकाश | Nov 07, 2023
रश्मिका मंदाना सोशल मीडिया एप एक्स पर छाईं रहीं। वजह थी उनके एक फेक वीडियो का सामने आना। रश्मिका डीप फेक वीडियो की लेटेस्ट विक्टिम बनीं। एक वीडियो में कथित तौर पर अभिनेत्री रश्मिका मंदाना को एक लिफ्ट में प्रवेश करते हुए दिखाया गया है। इसने इंटरनेट पर एक नई बहस छेड़ दी है। मूल वीडियो में एक ब्रिटिश भारतीय लड़की ज़ारा पटेल है और उसके चेहरे के साथ छेड़छाड़ करके उसकी जगह मंदाना का चेहरा लगा दिया गया था। वीडियो पर प्रतिक्रिया देते हुए केंद्रीय इलेक्ट्रॉनिक्स और प्रौद्योगिकी मंत्री राजीव चंद्रशेखर ने सोशल मीडिया प्लेटफॉर्म एक्स पर कहा कि डीप फेक लेटेस्ट और गलत सूचना का अधिक खतरनाक और हानिकारक रूप है, जिससे सोशल मीडिया प्लेटफॉर्म को निपटने की जरूरत है। उन्होंने डिजिटल धोखाधड़ी से संबंधित सोशल मीडिया प्लेटफॉर्म के कानूनी दायित्वों और आईटी नियमों का भी हवाला दिया। ये एकलौता केस नहीं है जब चेहरा बदलकर किसी का वीडियो बनाया गया हो। महिला सेलब्स अक्सर इसका शिकार होती हैं। ये वीडियो डीफफेक की कैटेगरी के नाम से खूब चलते हैं।
क्या होता है डीप फेक
ये 2 शब्दों डीप लर्निंग और फेक के मेल से बनता है। डीप लर्निंग आर्टिफिशियल इंटेलिजेंस का एक हिस्सा है। आर्टिफिशियल इंटेलिजेंस को सरल शब्दों में समझें तो ऐसी टेक्नोलॉजी जो खुद काम कर सकती है। यानी अपनी खुद की अक्ल लगाकर। जैसे आप गूगल अस्टिटेंट से कह दें कि म्यूजिक बजाओ। उसमें आपको खुद उठकर म्यूजिक नहीं प्ले करना पड़ता है। इंसानी दिमाग के जितना करीब हो आर्टिफिशियल इंटेलिजेंस उतनी ही बेहतर मानी जाएगी। डीप फेक ह्यूमन इमेज सिंथेसिस नाम की टेक्नोलॉजी पर काम करता है। जैसे हम किसी भी चीज की फोटोकॉपी कर लेते हैं वैसे ही ये टेक्नोलॉजी चलती फिरती चीजों की कॉपी कर सकती है। यानी स्क्रीन पर आप एक इंसान चलते, फिरते, बोलते देख सकते हैं पर वो नकली होगा। इस टेक्नोलॉजी की नींव पर बनी एप्स बेहद नुकसान पहुंचा सकती है। इससे किसी व्यक्ति के चेहरे पर दूसरे का चेहरा लगाया जा सकता है। वो भी इतनी सफाई और बारिकी से कि नीचे वाले चेहरे के सभी हाव भाव ऊपर वाले चेहरे पर दिख सकते हैं। ये उसी तरह है जैसे एकता कपूर के सिरीयल में प्लास्टिक सर्जरी से पुराने चेहरे को नया बना दिया जाता था। फिर लोगों को लगता था कि सारे काम वो व्यक्ति कर रहा है जो ऊपर दिख रहा है।
कलर और लाइटिंग का मिसमैच होना
डीप फेक के क्रिएटरों को एक्युरेट कलर टोन और लाइट की कॉपी करने में कठिनाई हो सकती है। सबजेक्ट के फेस और आसपास की लाइटिंग में किसी भी विसंगति पर ध्यान दें।
ऑडियो क्वालिटी
डीपफेक वीडियो अक्सर एआई-जनरेटेड ऑडियो का उपयोग करते हैं जिनमें कुछ खामियां हो सकती हैं। विजुअल के साथ ऑडियो क्वालिटी को मैच करें।
क्या यह सिर्फ वीडियो के बारे में है?
नहीं, डीपफेक तकनीक शुरुआत से ही ठोस लेकिन पूरी तरह से काल्पनिक तस्वीरें बना सकती है। सार्वजनिक हस्तियों की वॉयस स्किन्स या वॉयस क्लोन बनाने के लिए ऑडियो को डीपफेक भी किया जा सकता है। पिछले मार्च में एक जर्मन ऊर्जा कंपनी की यूके सहायक कंपनी के प्रमुख ने जर्मन सीईओ की आवाज की नकल करने वाले एक धोखेबाज द्वारा फोन किए जाने के बाद हंगरी के एक बैंक खाते में लगभग £200,000 का भुगतान किया था। कंपनी के बीमाकर्ताओं का मानना है कि आवाज डीपफेक थी, लेकिन सबूत स्पष्ट नहीं है। इसी तरह के घोटालों में कथित तौर पर रिकॉर्ड किए गए व्हाट्सएप वॉयस संदेशों का उपयोग किया गया है।
कैसे बनाये जाते हैं?
एक सोशल मीडिया प्लेटफॉर्म रेडिट है। फेसबुक या एक्स से अलग ये एक विचार का मंच है। अलग अलग टॉपिक के थ्रेड यहां पर होते हैं। रेडिट पर एक यूजर ने सबसे पहले आर्टिफिशियल इंटेलिजेंस का इस्तेमाल करते हुए एक फेक वीडियो डाला। यूजर का नाम डीप फेक था। यहीं से पोर्न की एक नई कैटेगरी चालू हुई। वीडियो में मशहूर हस्तियों गैल गैडोट, टेलर स्विफ्ट, स्कारलेट जोहानसन और अन्य के चेहरे पोर्न कलाकारों के चेहरे पर बदल दिए गए। चेहरे की अदला-बदली वाला वीडियो बनाने में कुछ चरण लगते हैं। सबसे पहले, आप एनकोडर नामक एआई एल्गोरिदम के माध्यम से दो लोगों के हजारों चेहरे के शॉट चलाते हैं। एनकोडर दो चेहरों के बीच समानताएं ढूंढता है और सीखता है, और प्रक्रिया में छवियों को संपीड़ित करते हुए, उन्हें उनकी साझा सामान्य विशेषताओं में कम कर देता है। फिर एक दूसरे एआई एल्गोरिदम जिसे डिकोडर कहा जाता है। कंप्रेस्ड इमेज से चेहरों को पुनर्प्राप्त करना सिखाता है। चेहरे अलग-अलग हैं, आप एक डिकोडर को पहले व्यक्ति का चेहरा पुनर्प्राप्त करने के लिए प्रशिक्षित करते हैं और दूसरे डिकोडर को दूसरे व्यक्ति का चेहरा पुनर्प्राप्त करने के लिए प्रशिक्षित करते हैं। फेस स्वैप करने के लिए आप बस एन्कोडेड छवियों को गलत डिकोडर में फीड करें। उदाहरण के लिए व्यक्ति ए के चेहरे की एक संपीड़ित छवि व्यक्ति बी पर प्रशिक्षित डिकोडर में डाली जाती है। डिकोडर फिर चेहरे ए के भावों और अभिविन्यास के साथ व्यक्ति बी के चेहरे का पुनर्निर्माण करता है।
डीपफेक की लिंग आधारित प्रकृति
मशहूर औरत को नग्न देखने की चाह और उसका ये नतीजा बेहद खतरनाक है। पिछले कुछ वर्षों से डीपफेक का उपयोग महिलाओं को परेशान करने और डराने-धमकाने के साथ-साथ दुर्भावनापूर्ण सामग्री वाली वेबसाइटों पर ट्रैफ़िक लाने के लिए किया जा रहा है। मशहूर हस्तियों की डीपफेक अश्लील सामग्री ऑनलाइन बेची जाती है और यह एक मिलियन डॉलर का उद्योग बन गया है। साथ ही, डीपफेक का उपयोग उन व्यक्तियों को ब्लैकमेल करने और उनका शोषण करने के लिए भी किया जाता है जो लोगों की नज़र में नहीं हैं। सॉफ्टवेयर के संस्थापक मिशी चौधरी ने कहा कि एआई में विकास के साथ डीपफेक चिंता का एक बढ़ता हुआ क्षेत्र रहा है। उनका उपयोग गलत सूचना फैलाने, दुष्प्रचार करने, परेशान करने, डराने-धमकाने, अश्लील चित्र बनाने और कई अन्य तरीकों से लोगों को कमजोर करने के लिए किया जा रहा है।
सजा का प्रावधान
मंत्रालय ने कहा है कि इस तरह के कृत्य के लिए तीन साल की जेल की सजा हो सकती है और एक लाख रुपये का जुर्माना लगाया जा सकता है। मंत्रालय की ओर से जारी एडवाइजरी में सूचना प्रौद्योगिकी अधिनियम, 2000 के 66डी सहित मौजूदा नियमों को दोहराते हुए कहा गया है कि कंप्यूटर संसाधन का इस्तेमाल करके धोखाधड़ी करने पर 3 साल तक की कैद की सजा और 1 लाख रुपये तक का जुर्माना लगेगा। आईटी मध्यस्थ नियम: नियम 3(1)(बी)(vii) के तहत सोशल मीडिया कंपनियों को भी नियमों और गोपनीयता नीति का पालन करना होगा। सोशल मीडिया कंपनियों को इस तरह के कंटेंट पोस्ट करने वाले यूजर्स को रोकना होगा। नियम 3(2)(बी) के मुताबिक किसी कंटेंट को लेकर शिकायत प्राप्त होने के 24 घंटे के भीतर उसे अपने प्लेटफॉर्म से हटाना होगा।