सोचिए, सुबह उठते ही आपको पता चले कि सोशल मीडिया पर आपका एक वीडियो वायरल है। उसमें चेहरा आपका है, आवाज भी आपकी जैसी है, लेकिन आपने उसमें कही गई कोई बात कभी कही ही नहीं। परिवार और परिचित भ्रमित हो सकते हैं, लोग सवाल उठा सकते हैं और सफाई देने तक वीडियो हजारों लोगों तक पहुंच सकता है। आर्टिफिशियल इंटेलिजेंस के दौर में डीपफेक अब सिर्फ तकनीकी चुनौती नहीं, बल्कि आम लोगों की पहचान, प्रतिष्ठा और सुरक्षा से जुड़ा गंभीर खतरा बन चुका है।
नितिन गडकरी से लेकर तमिलनाडु CM के नाम तक, फर्जी AI वीडियो ने बढ़ाई चिंता
डीपफेक का खतरा हाल के मामलों में और स्पष्ट हुआ है। केंद्रीय मंत्री नितिन गडकरी को कथित तौर पर एथेनॉल मिले ईंधन से जुड़ी विवादित सामग्री वाले छेड़छाड़ किए गए वीडियो से जोड़ने का मामला सामने आया। यह विवाद बॉम्बे हाईकोर्ट तक पहुंचा, जहां सोशल मीडिया प्लेटफॉर्म को संबंधित सामग्री हटाने का निर्देश दिया गया। इसी तरह तमिलनाडु के मुख्यमंत्री सी. जोसेफ विजय की पहचान का इस्तेमाल कर AI से तैयार वीडियो प्रसारित होने की बात सामने आई, जिसमें आर्थिक मदद का दावा और संपर्क नंबर दिए गए थे। लोगों को ऐसे नंबरों पर संपर्क न करने और पैसे न भेजने की चेतावनी दी गई।
डीपफेक का शिकार सिर्फ नेता नहीं, आम व्यक्ति की जिंदगी भी मिनटों में बदल सकती है
राजनेताओं से जुड़े मामले सुर्खियों में आते हैं, लेकिन असली चिंता यह है कि यही तकनीक किसी शिक्षक, छात्र, डॉक्टर, कर्मचारी या छोटे कारोबारी को भी निशाना बना सकती है। किसी व्यक्ति का नकली वीडियो बनाकर उसे आपत्तिजनक बयान देते, किसी उत्पाद का प्रचार करते या किसी गलत काम को स्वीकार करते हुए दिखाया जा सकता है। बाद में वीडियो फर्जी साबित होने के बावजूद उसकी प्रतिष्ठा, नौकरी और निजी रिश्तों को नुकसान पहुंच सकता है। इंटरनेट पर झूठ की रफ्तार अक्सर सच की सफाई से कहीं ज्यादा तेज होती है।
चुनाव के दौरान डीपफेक और खतरनाक, कुछ घंटों में मतदाताओं की सोच प्रभावित करने की क्षमता
चुनावी समय में ऐसी तकनीक का दुरुपयोग लोकतांत्रिक प्रक्रिया को प्रभावित कर सकता है। किसी उम्मीदवार का नकली वीडियो बनाकर उसे विवादित बयान देते या भ्रष्टाचार स्वीकार करते हुए दिखाया जा सकता है। भले ही बाद में वह वीडियो फर्जी साबित हो जाए, तब तक काफी लोग उसे देख और साझा कर चुके होते हैं। भारत में AI से बनाए या बदले गए चुनावी कंटेंट की स्पष्ट पहचान और प्लेटफॉर्म की जिम्मेदारी को लेकर नियम बनाए गए हैं, लेकिन बड़ी चुनौती इन नियमों को तेजी से लागू करने की है। एक वीडियो को हटाना पर्याप्त नहीं, क्योंकि उसकी प्रतियां दूसरे प्लेटफॉर्म और निजी मैसेजिंग ग्रुप में फैल सकती हैं।
कानून मौजूद हैं, लेकिन शिकायत से लेकर फर्जी वीडियो हटाने तक तेज कार्रवाई जरूरी
भारत ने डीपफेक और AI से तैयार सामग्री को लेकर सूचना प्रौद्योगिकी नियमों में प्रावधान मजबूत किए हैं। ऐसे कंटेंट की पहचान, लेबलिंग और गैरकानूनी सामग्री पर कार्रवाई के लिए प्लेटफॉर्म की जिम्मेदारियां तय की गई हैं। इसके बावजूद सिर्फ नियम बना देना पर्याप्त नहीं होगा। सोशल मीडिया कंपनियों को शिकायत दर्ज करने की आसान व्यवस्था, तेज मानवीय समीक्षा और संदिग्ध वीडियो की जल्द पहचान के लिए मजबूत सिस्टम तैयार करने होंगे। साथ ही बार-बार डीपफेक फैलाने वाले अकाउंट पर प्रभावी कार्रवाई और पारदर्शी रिपोर्टिंग भी जरूरी है।
हर AI वीडियो गलत नहीं, लेकिन असली व्यक्ति को भ्रमित करने वाले कंटेंट पर सख्ती जरूरी
AI तकनीक का इस्तेमाल फिल्म, शिक्षा, कला, मनोरंजन और व्यंग्य जैसे क्षेत्रों में सकारात्मक तरीके से भी किया जा सकता है। समस्या तब पैदा होती है जब किसी व्यक्ति की अनुमति के बिना उसके चेहरे या आवाज का इस्तेमाल लोगों को धोखा देने, बदनाम करने या ठगी करने के लिए किया जाता है। इसलिए AI से तैयार या बदली गई सामग्री पर ऐसा स्पष्ट लेबल होना चाहिए जिसे यूजर आसानी से देख सके। आम लोगों को भी किसी सनसनीखेज वीडियो पर तुरंत भरोसा करने के बजाय उसके स्रोत की जांच करनी चाहिए। खासकर नौकरी, इनाम, सरकारी मदद या आर्थिक लाभ का दावा करने वाले वीडियो में दिए नंबर या लिंक पर बिना पुष्टि के संपर्क नहीं करना चाहिए।
डीपफेक की सबसे बड़ी चुनौती सिर्फ झूठे वीडियो पर विश्वास करना नहीं है। खतरा यह भी है कि भविष्य में असली वीडियो को भी यह कहकर खारिज किया जा सकता है कि वह AI से बनाया गया है। इसलिए सोशल मीडिया कंपनियों, सरकार, जांच एजेंसियों और यूजर्स—सभी की जिम्मेदारी बढ़ गई है। सवाल अब यह नहीं है कि AI झूठ को कितना असली दिखा सकता है, बल्कि यह है कि झूठ के वायरल होने से पहले सच की पहचान और सुरक्षा कितनी तेजी से की जा सकती है।