Tag: डीपफेक

शैलोफेक्स कृत्रिम बुद्धिमत्ता (एआई) की मदद के बिना तैयार किए गए फोटो, वीडियो और वॉयस क्लिप हैं, और व्यापक रूप से उपलब्ध संपादन और सॉफ्टवेयर टूल का उपयोग करते हैं।

पहले मामले में इंस्टाग्राम पर पोस्ट की गई एक नग्न महिला की एआई-जनित छवि शामिल है, जो भारत की एक सार्वजनिक हस्ती से मिलती जुलती है।

नई दिल्ली: इंटरनेट पर अक्सर दुर्भावनापूर्ण इरादे के लिए प्रमुख हस्तियों का रूप धारण करने वाले डीपफेक का प्रचलन तेजी से चिंताजनक हो गया है। इसी तरह की एक घटना हांगकांग में घटी जहां घोटालेबाजों ने एक वीडियो मीटिंग बनाने के लिए डीपफेक तकनीक का इस्तेमाल किया, जिसके परिणामस्वरूप 25.6 मिलियन डॉलर की आश्चर्यजनक चोरी हुई। यह घटना डीपफेक तकनीक से उत्पन्न महत्वपूर्ण जोखिमों को रेखांकित करती है और इसके दुरुपयोग से निपटने के उपायों की तत्काल आवश्यकता पर प्रकाश डालती है।

साउथ चाइना मॉर्निंग पोस्ट की रिपोर्ट के मुताबिक, ऐसी ही घटना हांगकांग स्थित एक कंपनी के साथ हुई। घोटालेबाजों ने हेरफेर की गई वीडियो कॉन्फ्रेंस कॉल के दौरान कंपनी की स्थानीय शाखा को धोखा देने के लिए अत्यधिक परिष्कृत डीपफेक तकनीक का उपयोग किया। कथित तौर पर, जालसाजों ने धन हस्तांतरण के निर्देश जारी करने के लिए कंपनी के मुख्य वित्तीय अधिकारी का डिजिटल रूप से प्रतिरूपण किया। (यह भी पढ़ें: बम्बल ने स्पैम, घोटाले और फर्जी प्रोफाइल को रोकने के लिए एआई-संचालित फीचर पेश किया; विवरण देखें)

प्रकाशन के अनुसार, पीड़ित को छोड़कर वीडियो कॉल में भाग लेने वाले सभी व्यक्ति वास्तविक लोगों का नकली प्रतिनिधित्व थे। रिपोर्ट में कहा गया है, “घोटालेबाजों ने सार्वजनिक रूप से उपलब्ध वीडियो और अन्य फुटेज को बैठक के प्रतिभागियों के विश्वसनीय संस्करणों में बदलने के लिए डीपफेक तकनीक का इस्तेमाल किया।” (यह भी पढ़ें: टेलीग्राम ने अपने नए अपडेट में वॉयस और वीडियो कॉल को नया स्वरूप दिया; बदलाव देखें)

हांगकांग पुलिस के मुताबिक यह घोटाला हांगकांग के इतिहास में अभूतपूर्व है. कार्यवाहक वरिष्ठ अधीक्षक बैरन चान शुन-चिंग ने कहा, “इस बार, एक बहु-व्यक्ति वीडियो कॉन्फ्रेंस में, यह पता चला है कि आप जो भी देख रहे हैं वह नकली है।”

अधिकारी ने आगे कहा, “उन्होंने एक स्क्रिप्ट से पढ़ने वाले अपने लक्ष्य की आवाज़ की नकल करने के लिए डीपफेक तकनीक का इस्तेमाल किया।” कुल मिलाकर, HK $25.6 मिलियन के 15 हस्तांतरण किए गए और हांगकांग में कई बैंक खातों में भेजे गए।

यह घटना सेलिब्रिटी डीपफेक के कई उदाहरणों के बाद आई है जिन्होंने ऑनलाइन ध्यान आकर्षित किया है। पिछले साल, भारतीय अभिनेत्री रश्मिका मंदाना के साथ एक घटना घटी थी, जहां उनका चेहरा एक ऑनलाइन प्रभावशाली व्यक्ति के वीडियो पर लगाया गया था। हाल ही में, कथित तौर पर गायक टेलर स्विफ्ट की विशेषता वाले नकली स्पष्ट वीडियो भी इंटरनेट पर व्यापक रूप से प्रसारित हुए हैं।

नई दिल्ली: एक नए शोध के अनुसार, आर्टिफिशियल इंटेलिजेंस द्वारा संचालित ऐप और सेवाएं जो महिलाओं के कपड़े उतारकर तस्वीरें खींचती हैं, पिछले कुछ महीनों में तेजी से लोकप्रियता हासिल कर रही हैं। अकेले सितंबर में, लगभग 24 मिलियन लोगों ने इन ऐप्स को देखा, जो नियमित छवियों को स्पष्ट छवियों में बदलने की एक महत्वपूर्ण वैश्विक मांग को उजागर करता है।

ग्राफ़िका की रिपोर्ट बताती है कि इनमें से कई सेवाएँ बिना किसी प्रतिबंध के लोकप्रिय प्लेटफार्मों पर स्वतंत्र रूप से विपणन कर रही हैं। एक्स और रेडिट जैसे सोशल मीडिया प्लेटफॉर्म पर इन ऐप्स को बढ़ावा देने वाले लिंक की संख्या 2,400% से अधिक बढ़ गई है।

यह प्रवृत्ति विशेष रूप से महिलाओं के लिए परेशान करने वाली है, क्योंकि इनमें से कुछ सेवाएँ स्पष्ट रूप से उन्हें लक्षित करती हैं। इन ऐप्स द्वारा उत्पन्न स्पष्ट सामग्री उन महिलाओं के खिलाफ ऑनलाइन दुर्व्यवहार, हमले और मानहानि में वृद्धि में योगदान करती है जो पहले से ही ऑनलाइन प्लेटफ़ॉर्म पर असुरक्षित हैं। इस बात का वास्तविक जोखिम है कि दुर्भावनापूर्ण इरादे वाला कोई व्यक्ति पीड़ित की जानकारी के बिना अनुचित सामग्री बनाने और वितरित करने के लिए इन ऐप्स का उपयोग कर सकता है।

मामला डीपफेक न्यूड वीडियो तक फैला हुआ है, जो महिलाओं के लिए एक बुरा सपना बन गया है। ऐसे वीडियो के प्रसार ने प्रधान मंत्री नरेंद्र मोदी सहित भारत में महत्वपूर्ण ध्यान और चिंता आकर्षित की है। हाल ही में, दक्षिण भारतीय अभिनेत्री रश्मिका मंदाना का एक डीपफेक वीडियो वायरल हुआ, जिसके बाद आईटी मंत्री राजीव चंद्रशेखर ने सोशल मीडिया प्लेटफार्मों को ऐसी अनुचित सामग्री को तेजी से हटाने की याद दिलाई।

मंडराता ख़तरा स्पष्ट और अपरिहार्य है। अधिकारियों द्वारा विनियमन के बिना इन ऐप्स और सेवाओं का प्रसार एक गंभीर जोखिम पैदा करता है, जिससे कुछ ही क्लिक के साथ स्पष्ट तस्वीरें बनाना आसान हो जाता है। इस मुद्दे से निपटने के लिए शिक्षा और जागरूकता के लिए यह महत्वपूर्ण है, और अधिकारियों के लिए व्यक्तियों को ऐसी आक्रामक प्रथाओं से बचाने के लिए इन प्रौद्योगिकियों को विनियमित करने के लिए कदम उठाना महत्वपूर्ण है।