दिल्ली हाई कोर्ट ने डीपफेक टेक्नोलॉजी (deepfake technology) पर चिंता जताई है। हाई कोर्ट ने कहा है कि डीपफेक तकनीक समाज में एक गंभीर खतरा बनने जा रही है और सरकार को इस बारे में सोचना शुरू कर देना चाहिए। इसके साथ ही अदालत ने कहा कि सिर्फ तकनीक ही आर्टिफिशियल इंटेलिजेंस (AI) की काट हो सकती है।
हाई कोर्ट देश में डीपफेक तकनीक के संभावित दुरुपयोग और इसके गैर-नियमन के खिलाफ दो याचिकाओं पर सुनवाई कर रहा था।
डीपफेक टेक्नोलॉजी पर कोर्ट ने क्या कहा?
कार्यवाहक मुख्य न्यायाधीश मनमोहन और न्यायमूर्ति तुषार राव गेडेला ने कहा, “आपको (केंद्र सरकार को) इस पर काम शुरू करना होगा। आपको इस बारे में सोचना होगा। यह (डीपफेक) समाज में एक गंभीर खतरा बनने जा रहा है।”
न्यायमूर्ति मनमोहन ने कहा-
“आप भी कुछ अध्ययन करें। यह ऐसा कुछ है कि आप जो देख रहे हैं और जो सुन रहे हैं, आप उस पर भरोसा नहीं कर सकते। यह कुछ ऐसा है जो चकित करता है। जो मैंने अपनी आंखों से देखा और जो मैंने अपने कानों से सुना, मुझे उस पर भरोसा नहीं करना है, यह बहुत ही चौंकाने वाला है।”
सुनवाई के दौरान हाई कोर्ट ने कहा कि चुनावों से पहले, सरकार इस मुद्दे पर चिंतित थी और अब चीजें बदल गई हैं।
सरकार ने कोर्ट में क्या कहा?
इस पर, केंद्र की ओर से पेश अतिरिक्त सॉलिसिटर जनरल चेतन शर्मा ने कहा कि “संभव है कि हमारी भाव-भंगिमा बदल गई होगी, लेकिन हम अब भी उतने ही चिंतित हैं जितने तब थे।’’ केंद्र के वकील ने यह भी कहा कि अधिकारी मानते हैं कि यह ऐसी समस्या है, जिससे निपटने की जरूरत है।
डीपफेक संबंधी वेबसाइट की पहचान करने और उन्हें स्वतः ‘ब्लॉक’ करने को लेकर इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने अपने जवाब में कहा कि उसे इंटरनेट पर किसी भी ऑनलाइन सामग्री की स्वतः निगरानी करने का अधिकार नहीं है। उसने कहा कि इंटरनेट पर किसी भी सामग्री या वेबसाइट को स्थापित कानूनी प्रक्रिया के अनुसार ही ब्लॉक किया जा सकता है।
डीपफेक टेक्नोलॉजी (deepfake technology) क्या है?
डीपफेक (Deepfake) एक ऐसी तकनीक है, जिसमें आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करके किसी व्यक्ति की वीडियो या ऑडियो को इस तरह से बदल दिया जाता है कि वह असली लगे। इसमें किसी व्यक्ति के चेहरे के हाव-भाव, आवाज, या बोलने के तरीके को नकली वीडियो या ऑडियो में इस प्रकार से डाला जाता है कि वह देखने-सुनने में बिल्कुल वास्तविक लगता है।
डीपफेक तकनीक के तहत किसी तस्वीर या वीडियो में किसी व्यक्ति की जगह अन्य व्यक्ति की तस्वीर लगा दी जाती है। इसके तहत मूल व्यक्ति के शब्दों और कार्यों को बदलकर दर्शकों को गुमराह किया जा सकता है और गलत सूचना फैलाई जा सकती है।
यह तकनीक अक्सर मनोरंजन, विज्ञापन, या फिल्म इंडस्ट्री में इस्तेमाल की जाती है, लेकिन इसका गलत उपयोग भी हो सकता है, जैसे किसी को बदनाम करने या गलत सूचना फैलाने के लिए। इसलिए, डीपफेक तकनीक के बारे में जागरूक होना और इसे पहचानना महत्वपूर्ण है।
डीपफेक तकनीक के खिलाफ किसने दायर की याचिका?
देश में डीपफेक तकनीक के गैर-नियमन के खिलाफ एक याचिका वरिष्ठ पत्रकार रजत शर्मा ने दायर की है। याचिका में उन्होंने ऐसी सामग्री के निर्माण में मदद देने वाले ऐप्लिकेशन और सॉफ्टवेयर तक सार्वजनिक पहुंच को रोकने का निर्देश दिए जाने का अनुरोध किया।
इंडिपेंडेंट न्यूज सर्विस प्राइवेट लिमिटेड (इंडिया टीवी) के अध्यक्ष और प्रधान संपादक रजत शर्मा ने जनहित याचिका (पीआईएल) में कहा है कि डीपफेक तकनीक का प्रसार समाज के विभिन्न पहलुओं के लिए गंभीर खतरा पैदा करता है। याचिका में कहा गया है कि यह सार्वजनिक विमर्श और लोकतांत्रिक प्रक्रिया की अखंडता को कमजोर करता है।
शर्मा ने दलील दी-
‘‘हम एआई विरोधी तकनीक का इस्तेमाल करके ऐसी स्थिति को खत्म कर सकते हैं, अन्यथा बहुत नुकसान हो सकता है। इन मुद्दों से निपटने के लिए चार चीजों की जरूरत है – पता लगाना, रोकथाम, शिकायत निवारण तंत्र और जागरूकता बढ़ाना। कोई भी कानून या सलाह बहुत असरकारी नहीं होगी।’’
इस पर पीठ ने जवाब दिया कि एआई के लिए केवल तकनीक ही उसकी काट होगी। पीठ ने कहा, “इस तकनीक से होने वाले नुकसान को समझें, क्योंकि आप सरकार हैं। एक संस्था के रूप में हमारी कुछ सीमाएं होंगी।”
अदालत ने याचिकाकर्ताओं को अपने सुझावों को शामिल करते हुए एक अतिरिक्त हलफनामा दायर करने के लिए दो सप्ताह का समय दिया। मामले में अगली सुनवाई 24 अक्टूबर को होगी।