Deepfake पर कसेगा शिकंजा : अब क्रिएटर और प्लेटफॉर्म दोनों पर लगेगा जुर्माना…

इम्पैक्ट डेस्क.

Deepfake वीडियोज ने दुनियाभर में खलबली मचा रखी है। पिछले कुछ दिनों में कई सेलिब्रिटी के डीपफेक वीडियो सामने आ चुके हैं और सरकार अब इस पर सख्त कदम उठाने के लिए तैयार। केंद्रीय सूचना टेक्नोलॉजी और दूरसंचार मंत्री अश्विनी वैष्णव ने डीपफेक को “लोकतंत्र के लिए खतरा” बताते हुए कहा कि सरकार इसके लिए नए नियमों को लागू करने की योजना बना रही है, जो डीपफेक होस्ट करने वाले क्रिएटर और प्लेटफॉर्म दोनों पर जुर्माना लगाने की अनुमति दे सकता है। नए नियम एआई-जनरेटेड डीपफेक और गलत सूचना पर नकेल कसेगा।

डीपफेक लोकतंत्र के लिए एक नया खतरा- अश्विनी वैष्णव
अश्विनी वैष्णव ने कहा सरकार और अन्य स्टेकहोल्डर्स डीपफेक का पता लगाने, उनके अपलोडिंग और वायरल शेयरिंग को रोकने और ऐसे कंटेंट के लिए रिपोर्टिंग मैकेनिज्म को मजबूत करने के तरीकों पर 10 दिनों में कार्रवाई योग्य आइटम तैयार करेंगे, जिससे नागरिकों को इंटरनेट पर एआई-जनरेटेड हानिकारक कंटेंट के खिलाफ एक्शन लेने की अनुमति मिल सके। मंत्री ने कहा “डीपफेक लोकतंत्र के लिए एक नया खतरा बनकर उभरा है। डीपफेक समाज और उसके संस्थानों में विश्वास को कमजोर करते हैं।”

क्रिएटर और प्लेटफॉर्म दोनों पर जुर्माना

वैष्णव ने कहा कि नए रेगुलेशन में वित्तीय दंड भी शामिल हो सकता है। उन्होंने कहा, “जब हम रेगुलेशन करते हैं, तो हमें अपलोड करने वाले या बनाने वाले व्यक्ति के साथ-साथ प्लेटफ़ॉर्म पर भी जुर्माना लगाना होगा।” मंत्री ने डीपफेक कंटेंट से निपटने के बारे में इनपुट के लिए गुरुवार को मेटा, गूगल और अमेजन समेत टेक इंडस्ट्री के प्रतिनिधियों से मुलाकात की। वैष्णव ने जोर देकर कहा कि सोशल मीडिया प्लेटफार्म्स को अधिक सक्रिय होने की आवश्यकता है, यह देखते हुए कि डीपफेक कंटेंट से होने वाला नुकसान तत्काल हो सकता है, और यहां तक कि थोड़ी देर से प्रतिक्रिया भी प्रभावी नहीं हो सकती है।

उन्होंने आगे कहा “सोशल मीडिया का उपयोग यह सुनिश्चित कर रहा है कि डिफेक्ट, बिना किसी जांच के तेजी से फैल सकते हैं, और ये अपलोड होने के कुछ ही मिनटों के अंदर तेजी से वायरल भी हो रहे हैं। इसलिए हमें अपने लोकतंत्र की रक्षा के लिए समाज में विश्वास को मजबूत करने के लिए बहुत जरूरी कदम उठाने की जरूरत है।”

इन चार चीजों पर हुई चर्चा

वैष्णव ने कहा “सभी अगले 10 दिनों में क्लियर, एक्शनेबल आइटम के साथ आने पर सहमत हुए हैं। बैठक में इन चार प्रमुख बातों पर चर्चा की गई: डीपफेक का पता लगाना, डीपफेक और डीप गलत सूचना कंटेंट की पब्लिशिंग और वायरल शेयरिंग को रोकना, ऐसे कंटेंट के लिए रिपोर्टिंग मैकेनिज्म को मजबूत करना, और सरकार और इंडस्ट्री संस्थाओं के संयुक्त प्रयासों के माध्यम से जागरूकता फैलाना”

डीपफेक सिंथेटिक या सिद्धांतबद्ध मीडिया को संदर्भित करता है जिसे आर्टिफिशयल इंटेलिजेंस या एआई का उपयोग करके किसी को गलत तरीके से प्रस्तुत करने या उसकी नकल करने के लिए डिजिटल रूप से हेरफेर किया जाता है और बदल दिया जाता है।

पूरी तरह से नया कानून भी आ सकता है
नए रेगुलेशन को या तो भारत के आईटी नियमों में संशोधन के रूप में या पूरी तरह से एक नए कानून के रूप में पेश किया जा सकता है। वैष्णव ने कहा “हम एक नए स्टैंडअलोन कानून, या मौजूदा नियमों में संशोधन, या मौजूदा कानूनों के तहत नियमों के एक नए सेट के माध्यम से इसे रेगुलेट कर सकते हैं। अगली बैठक दिसंबर के पहले सप्ताह के लिए निर्धारित की गई है, जिसमें हम डीपफेक के रेगुलेशन के ड्राफ्ट पर चर्चा करेंगे, जिसके बाद इसे पब्लिक कंसल्टेशन के लिए खोला जाएगा।”

मंत्री ने कहा कि सूचना टेक्नोलॉजी (आईटी) अधिनियम के तहत प्लेटफार्म्स को मिलने वाली ‘सेफ हर्बर इम्युनिटी’ तब तक लागू नहीं होगी जब तक कि वे कड़ी कार्रवाई करने के लिए तेजी से आगे नहीं बढ़ते। गुरुवार की बैठक के दौरान चर्चा किए गए अन्य पहलुओं में एआई बायस और डिस्क्रिमिनेशन का मुद्दा भी शामिल था, और पहले से मौजूद रिपोर्टिंग मैकेनिज्म को कैसे बदला जा सकता है।
सरकार ने पिछले हफ्ते डीपफेक कंटेंट की रिपोर्ट के बाद सोशल मीडिया प्लेटफॉर्म को नोटिस जारी किया था। प्रधानमंत्री नरेंद्र मोदी और अभिनेत्री कैटरीना कैफ सहित कई हाई-प्रोफाइल हस्तियों को निशाना बनाए जाने के बाद डीपफेक वीडियो को लेकर चिंताएं बढ़ गई हैं। प्रधानमंत्री ने बुधवार को वर्चुअल शिखर सम्मेलन में G20 के नेताओं को अपने संबोधन में भी डीपफेक का मुद्दा उठाया।

गुरुवार की बैठक में चर्चा को लेकर इंडस्ट्री स्टेकहोल्डर्स काफी हद तक सकारात्मक थे

बैठक का हिस्सा रहे गूगल के एक प्रवक्ता ने कहा कि कंपनी “टेक्नोलॉजी के दुरुपयोग को रोकने में मदद करने के लिए टूल्स और रेलिंग का निर्माण कर रही है, साथ ही लोगों को ऑनलाइन जानकारी का बेहतर मूल्यांकन करने में सक्षम बना रही है। हमारे प्रोडक्ट्स और प्लेटफार्म्स पर हानिकारक कंटेंट की पहचान करने और उसे हटाने के लिए हमारे पास लंबे समय से चली आ रही, मजबूत नीतियां, तकनीक और प्रणालियां हैं। कंपनी ने एक बयान में कहा, हम जेनेरेटिव एआई द्वारा संचालित नए उत्पाद लॉन्च करते समय इसी लोकाचार और दृष्टिकोण को लागू कर रहे हैं। हालांकि, मेटा ने प्रश्नों का तुरंत उत्तर नहीं दिया।

सॉफ्टवेयर इंडस्ट्री बॉडी नैसकॉम में पब्लिक पॉलिसी के वाइस प्रेसिडेंट आशीष अग्रवाल ने कहा कि हालांकि भारत में पहले से ही प्रतिरूपण के अपराधियों को दंडित करने के लिए कानून हैं, लेकिन डीपफेक बनाने वालों की पहचान करने के लिए नियमों को मजबूत करना महत्वपूर्ण होगा। उन्होंने कहा, “अधिक महत्वपूर्ण चर्चा यह है कि डीपफेक बनाने वाले 1% मलिशियस यूजर्स को कैसे पकड़ा जाए – यह एक आइडेंटिफिकेशन और एनफोर्समेंट समस्या है जो हमारे सामने है।”
“आज की तकनीक सिंथेटिक कंटेंट की पहचान करने में मदद कर सकती है। हालांकि, चुनौती हानिकारक सिंथेटिक कंटेंट को अलग करने और हानिरहित कंटेंट को अलग करने और उसे तुरंत हटाने की है। एक टूल जिस पर व्यापक रूप से विचार किया जा रहा है वह डिजिटल रूप से परिवर्तित सभी कंटेंट में वॉटरमार्क या लेबल एम्बेडेड है या बनाया गया, ताकि यूजर्स को सिंथेटिक कंटेंट और संबंधित जोखिमों के बारे में चेतावनी दी जा सके और इसके साथ ही यूजर्स को तुरंत इसकी रिपोर्ट करने के लिए सशक्त बनाने के लिए टूल्स को मजबूत किया जा सके।”