जब PM ने खुद के गरबा का फर्जी वीडियो देखा, रश्मिका भी हुई थीं शिकार, ये डीप फेक क्या है?

हाल में ही दक्षिण भारतीय सिनेमा की मशहूर एक्ट्रेस रश्मिका मंदाना डीप फेक का शिकार हो चुकी हैं. अभी एक्ट्रेस काजोल का डीप फेक वीडियो भी वायरल हो रहा है. ये डीप फेक क्या है, जिसको लेकर पीएम भी चिंता जाहिर कर रहे हैं?

शुक्रवार को भारतीय जनता पार्टी (बीजेपी) के मुख्यालय में दिवाली मिलन कार्यक्रम का आयोजन किया गया. इसी कार्यक्रम में पीएम मोदी ने आर्टिफिशियल इंटेलिजेंस (AI) और डीप फेक से पैदा होने वाली चुनौतियों पर भी बात की. पीएम ने मीडिया से आग्रह किया कि लोगों को इन बातों के लिए जागरूक किया जाना चाहिए.

आइए जानते हैं कि डीप फेक क्या होता है?

Merriam-Webster डिक्शनरी के मुताबिक डीप फेक (Deepfake or deep fake) शब्द का इस्तेमाल आमतौर पर ऐसे वीडियो के लिए होता है, जिसे एलॉगरिद्म का इस्तेमाल कर एडिट किया गया है. वीडियो में मौजूद शख्स (खासकर पब्लिक फीगर, सेलिब्रिटी) को हाई एंड टेक्नोलॉजी जैसे अडवांस्ड मशीन लर्निंग टेक्नोलॉजी और सॉफ्टवेयर से एडिट कर किसी और के चेहरे से इतनी बारीकी से बदल दिया गया है कि वीडियो असली लग रहा है. इसी को डीप फेक कहते हैं. डिक्शनरी के मुताबिक यह शब्द 2018 के शुरुआत में प्रमुख न्यूज पेपर और मैग्जीन में इस्तेमाल होने लगा था. शुरुआत में डीप फेक का इस्तेमाल पोर्नोग्राफिक वीडियो में होता था. बाद में समझ में आने लगा कि इससे कोई सेक्टर अछूता नहीं है और अब यह फेक न्यूज यानी फर्जी खबरों का बड़ा सोर्स है.

डीप फेक बनाया कैसे जाता है?

आपको लग रहा होगा कि यह कोई भारी भरकम कवायद है, तो ऐसा नहीं है. किसी का चेहरा बदल कोई दूसरा चेहरा लगाना AI के जमाने में बेहद आसान है. बस कुछ स्टेप्स फॉलो करने होते हैं.

द गार्जियन की एक रिपोर्ट के मुताबिक पहले दो लोगों के चेहरे के हजारों शॉट्स को एक AI एलॉगरिद्म इनकोडर से गुजारा जाता है. इनकोडर इन दोनों चेहरों के बीच समानताएं ढूंढकर उन्हें याद कर लेता है. इतना ही नहीं वो तस्वीरों को कंप्रेस करते हुए सिर्फ उनमें समानताओं को रहने देता है.

इसके बाद बारी आती है दूसरे AI एलगॉरिद्म की, जिसे डिकोडर कहते हैं. इसे कंप्रेस तस्वीरों से चेहरे को फिर से तैयार करना सिखाया जाता है. यहां चेहरे अलग-अलग हैं, इसलिए एक डिकोडर को एक शख्स का चेहरा रिकवर करना सिखाते हैं और दूसरे को दूसरे शख्स का. अब इसके बाद चेहरा बदलने के लिए आपको सिर्फ इनकोड से निकली गई तस्वीर को ‘गलत’ डिकोडर में फीड करनी है. उदाहरण के लिए आपको A नाम के शख्स की कंप्रेस तस्वीर को B नाम के शख्स के लिए तैयार किए गए डिकोडर में फीड करनी है. ये डिकोडर A के चेहरे के कॉमन फीचर्स, एक्सप्रेशंस (भाव) और चेहरे के ओरिएंटेशन का इस्तेमाल कर B का चेहरा बना देगा.

आपका वीडियो बिल्कुल सही लगे इसके लिए ऐसा हर फ्रेम के साथ करना होगा. फिर किसी भी वीडियो में किसी शख्स का चेहरा लगाया जा सकेगा.

डीप फेक टेक्नोलॉजी का इस्तेमाल वीडियो के अलावा काल्पनिक तस्वीरें तैयार करने और डीप फेक ऑडियो बनाने में भी किया जा सकता है. अब तो AI सपोर्टेड इसके तमाम टूल मौजूद हैं.

इसी वीडियो की बात कर रहे थे पीएमः

PM Modi Jee dancing in Garba.
Exceptional video of Modi Jee.
🙏 pic.twitter.com/9LNpTvvYuc

— Think India (@India1000Years) November 11, 2023

पीएम मोदी ने दिवाली मिलन कार्यक्रम में डीप फेक को लेकर चिंता जाहिर की है. उन्होंने कहा है कि, ‘हमारे जैसे विविधतापूर्ण समाज में ‘डीप फेक’ एक बड़ा संकट पैदा कर सकते हैं और यहां तक कि समाज में असंतोष की आग भी भड़का सकते हैं क्योंकि लोग मीडिया से जुड़ी किसी भी चीज पर उसी तरह भरोसा करते हैं जैसे आम तौर पर गेरुआ वस्त्र पहने व्यक्ति को सम्मान देते हैं.’ PM ने सुझाव दिया है कि जिस तरह सिगरेट जैसे उत्पाद स्वास्थ्य संबंधी चेतावनियों के साथ आते हैं, उसी तरह ‘डीप फेक’ के मामलों में भी होना चाहिए.

रश्मिका मंदाना और काजोल के साथ क्या हुआ था?

पिछले दिनों मशहूर एक्ट्रेस रश्मिका मंदाना का डीप फेक वीडियो सामने आया. असल में यह वीडियो ब्रिटिश-इंडियन जारा पटेल का था. इस वीडियो से रश्मिका मंदाना का डीप फेक वीडियो बनाया गया, जिसे लेकर वह काफी आहत हुई थीं. अमिताभ बच्चन जैसे सेलिब्रिटीज ने इसके खिलाफ आवाज उठाई. बाद में सरकार ने इसे लेकर सोशल मीडिया कंपनियों को परामर्श जारी किया.

अभी यह मामला थमा ही नहीं था कि अब काजोल का डीप फेक वीडियो वायरल हो रहा है. इसमें उन्हें कैमरे पर कपड़े बदलते दिखाया जा रहा है. ये वीडियो सोशल मीडिया एंफ्लूएंसर रोजी ब्रीन का है. रोजी ब्रीन ने अपना वीडियो टिकटॉक पर पोस्ट किया था. इसमें उन्होंने गेट रेडी विद मी (GRWM) ट्रेंड को फॉलो करते हुए ड्रेसअप का वीडियो पोस्ट किया था. लोगों ने डीप फेक से उनके वीडियो में काजोल का चेहरा लगा दिया.

पिछले दिनों डीप फेक से फाइनेंशियल फ्रॉड को अंजाम देने के मामले भी सामने आ चुके हैं. कुल मिलाकर देखें, तो डीप फेक को लेकर चिंता बढ़ रही है. खासकर AI के मजबूत होने के साथ इसके दुरुपयोग की आशंकाएं भी तेजी से बढ़ी हैं.