नवम्बर 20 2023
वीडियो में ए.आई का इस्तेमाल कर छेड़छाड़ की गई है और टिकटॉक पर अपलोड किए गए मूल वीडियो में यू.के की एक फैशन इन्फ़्लुएंसर को दिखाया गया है.
आर्टिफिशियल इंटेलिजेंस (एआई) तकनीक के उदय ने सोशल मीडिया पर ग़लत/दुष्प्रचार में चिंताजनक बढ़ोत्तरी की है. मिडजर्नी और अन्य फ़ेस-स्वैपिंग टूल जैसे एआई प्रोग्राम अब बहुत कम समय में डीपफ़ेक बनाने की अनुमति देते हैं. बीते कुछ समय में, राजनीतिक नेताओं और मशहूर हस्तियों के डीपफ़ेक वीडियो और तस्वीरें सोशल मीडिया पर वायरल होते रहे हैं.
दावा क्या है?
सोशल मीडिया पर एक वीडियो वायरल हो रहा है जिसमें दावा किया जा रहा है कि बॉलीवुड अभिनेत्री काजोल कैमरे के सामने अपने कपड़े बदल रही हैं.
कई यूज़र्स ने इस वीडियो को फ़ेसबुक, इंस्टाग्राम और यूट्यूब पर शेयर किया है. फ़ेसबुक पर ऐसी ही एक पोस्ट को रिपोर्ट लिखे जाने तक 5,200 से अधिक लाइक, 108 कमेंट्स और 90 शेयर मिले हैं. ऐसे ही एक पोस्ट के साथ शेयर किए गए कैप्शन में लिखा है: "#kajoldevgan ड्रेस चेंजिंग." ऐसी ही एक वायरल पोस्ट का आर्काइव वर्ज़न यहां पाया जा सकता है.
फ़ेसबुक और इंस्टाग्राम पर वायरल पोस्ट का स्क्रीनशॉट (सोर्स: फ़ेसबुक, इंस्टाग्राम/स्क्रीनशॉट)
हालांकि, इस वीडियो में काजोल नहीं हैं और यह यू.के स्थित फैशन इन्फ़्लुएंसर द्वारा पोस्ट किए गए वीडियो का एक डीपफ़ेक वर्ज़न है.
सच्चाई क्या है?
जब हमने वायरल वीडियो को ध्यान से देखा तो हमें एक जगह ख़ामी नज़र आई, जिससे हमें यकीन हो गया कि वीडियो में डिजिटल टूल्स का इस्तेमाल कर छेड़छाड़ की गई है. वीडियो के अंत में, एक ख़ामी नज़र आती है जब महिला अपने जूते पहन रही होती है, तो उसकी एक आंख ऊपर की ओर जबकि दूसरी आंख नीचे की ओर देख रही है. (आमतौर पर एआई-हेरफेर किए गए वीडियो का एक हस्ताक्षर चिह्न यह है कि ट्रांजीशन फ्रेम में आंखें अजीब दिखती हैं)
वायरल वीडियो का स्क्रीनशॉट (फ़ेसबुक/स्क्रीनशॉट)
जब हमने वायरल वीडियो के कीफ़्रेम्स को रिवर्स इमेज सर्च पर चलाया तो हमें एक न्यूज़ रिपोर्ट मिली, जिसमें मूल वीडियो दिखाया गया था. 7 जून, 2023 को द यू.एस. सन द्वारा प्रकाशित रिपोर्ट के अनुसार, मूल वीडियो में महिला का नाम रोज़ी ब्रीन है, और क्लिप को सबसे पहले टिकटॉक पर अपलोड किया गया था.
ब्रीन एक फैशन इन्फ्लुएंसर हैं जिनके टिकटॉक पर 5,84,000 से ज्यादा फॉलोअर्स हैं. सोशल मीडिया प्लेटफॉर्म पर उनके बायो में लिखा है, "मिडसाइज्ड फैशन + अन्य बिट्स 🦋☔️🍂💐🩷."
हमने 5 जून, 2023 को टिकटॉक पर वायरल वीडियो के असल वीडियो को भी खोजा, जो 0:27 मिनट लंबा है और इसमें ब्रीन को तीन अलग-अलग पोशाकें बदलते हुए दिखाया गया है. वीडियो के कैप्शन में आउटफिट की कीमतें भी बताई गई हैं. वही, इसी वीडियो को 3 जून, 2023 को ब्रीन के इंस्टाग्राम अकाउंट पर अपलोड किया गया था. इंस्टाग्राम पर उनके अकाउंट के बायो में लिखा है, "U.K. - Indian Irish midsized gal." (यू.के. - भारतीय आयरिश मध्यम आकार की लड़की.)
वायरल वीडियो 0:14 मिनट लंबा है और इसे मूल वीडियो के 0:02 से 0:11 सेकंड की समयावधि से लिया गया है. डिजिटल रूप से हेरफेर किये जाने के अलावा, मूल वीडियो से ली गई 0:09 मिनट की क्लिप को 0:14 मिनट लंबा वायरल वीडियो बनाने के लिए धीमा भी किया गया था.
हमने वायरल वीडियो की तुलना मूल वीडियो से की और पाया कि संभवतः एआई-संचालित फेस-स्वैपिंग सॉफ़्टवेयर का उपयोग करके ब्रीन का चेहरा काजोल के चेहरे से बदल दिया गया है.
वायरल वीडियो और मूल वीडियो के बीच तुलना. (सोर्स: फ़ेसबुक, टिकटॉक/स्क्रीनशॉट)
मूल वीडियो और वायरल वीडियो की तुलना करने से पता चलता है कि वीडियो में दिख रही महिला काजोल नहीं हैं.
हमने अपनी जांच के दौरान पाया कि मूल वीडियो पोस्ट करने वाली ब्रीन ने अपने टिकटॉक और इंस्टाग्राम अकाउंट पर आउटफिट बदलते हुए कई ऐसे ही वीडियो अपलोड किए हैं.
यह वायरल वीडियो एक ऐसे ही डीपफ़ेक वीडियो के कुछ ही दिनों बाद सामने आया, जिसमें कथित तौर पर अभिनेत्री रश्मिका मंदाना दिखाई दे रही थीं, जो वायरल हो गया और लॉजिकली फैक्ट्स सहित कई संगठनों द्वारा इसका फ़ैक्ट-चेक किया गया था.
निर्णय
एक डीपफ़ेक वीडियो को बॉलीवुड एक्ट्रेस काजोल द्वारा कैमरे के सामने कपड़े बदलने का बताकर शेयर किया गया वीडियो दरअसल एक टिकटॉक वीडियो से लिया गया है जिसमें एक फैशन इन्फ्लुएंसर महिला को तीन पोशाकें बदलते हुए दिखाया गया है और उसके चेहरे को बदलने के लिए संभवतः एआई टूल का उपयोग करके डिजिटल रूप से हेरफेर किया गया था. इसलिए, हम वायरल दावे को ग़लत मानते हैं.