न्यूझीलंडमधील खासदाराने संसदेत दाखवला स्वतःचा नग्न फोटो:म्हणाल्या- हे AI ने 5 मिनिटांत बनवले, डीपफेक थांबवण्यासाठी कायदे करायला हवेत
न्यूझीलंडच्या खासदार लॉरा मॅकक्लूर यांनी संसदेत स्वतःचा एक AI-निर्मित नग्न फोटो दाखवला. असे बनावट फोटो तयार करणे किती सोपे आहे आणि ते किती धोकादायक असू शकते हे लोकांना सांगणे हा त्यांचा उद्देश होता. लॉरा यांनी संसदेत सांगितले की, गुगल सर्चमधून सापडलेल्या वेबसाइटचा वापर करून त्यांनी अवघ्या काही मिनिटांत त्यांचा डीपफेक फोटो तयार केला. त्यांनी डीपफेक आणि एआयचे नियमन करण्यासाठी कायदा करण्याची मागणी केली आहे. त्या म्हणाल्या- हा माझा नग्न फोटो आहे, पण तो खरा नाहीये. असे डीपफेक फोटो तयार करण्यासाठी मला पाच मिनिटांपेक्षा कमी वेळ लागला. १४ मे रोजी लॉरा यांनी या गोष्टी सांगितल्या, ज्या आता व्हायरल होत आहेत. लॉरा म्हणाल्या, "समस्या तंत्रज्ञानात नाही, तर लोकांना त्रास देण्यासाठी त्याचा गैरवापर करण्यात आहे. आपल्याला यावर उपाय शोधावा लागेल." डीपफेकचे सर्वाधिक बळी महिला आहेत. न्यूझीलंडमध्ये सध्या डीपफेकचे थेट नियमन करणारे कोणतेही कायदे नाहीत, जरी डिजिटल कम्युनिकेशन्सशी संबंधित काही नियम आहेत. लॉरा डीपफेक डिजिटल हार्म अँड एक्सप्लॉयटेशन बिलाला पाठिंबा देत आहेत, जे रिव्हेंज पॉर्न आणि खासगी रेकॉर्डिंगभोवती असलेल्या विद्यमान कायद्यांना अपडेट करेल. याअंतर्गत, संमतीशिवाय डीपफेक तयार करणे किंवा शेअर करणे हा गुन्हा असेल. न्यूझीलंडच्या तज्ज्ञांचे म्हणणे आहे की बहुतेक डीपफेक पॉर्न संमतीशिवाय बनवले जातात आणि त्यांचे लक्ष्य बहुतेक महिला असतात. लॉरा यांना आशा आहे की त्यांच्या या निर्णयामुळे कायदेशीर सुधारणांना गती मिळेल. त्या म्हणाल्या, "संमतीशिवाय कोणीही डीपफेक पॉर्नचे लक्ष्य बनू नये. हा स्पष्टपणे छळ आहे. आपले कायदे लवकर अपडेट करणे आवश्यक आहे." ९० ते ९५% डीपफेक व्हिडिओंमध्ये अश्लील सामग्री असते. लॉरा मॅकक्लूर यांनी स्पष्ट केले की, डीपफेक फोटो तयार करण्यासाठी, तुम्हाला फक्त एका बॉक्समध्ये टिक करायची आहे आणि तुमचे वय १८ वर्षांपेक्षा जास्त आहे आणि तुमच्याकडे फोटोमधील व्यक्तीची संमती आहे असे म्हणावे लागेल. तथापि, बहुतेक प्रकरणांमध्ये संमती घेतली जात नाही. लॉ असोसिएशनच्या मते, ९० ते ९५% ऑनलाइन डीपफेक व्हिडिओ हे संमतीशिवायचे अश्लील कंटेंट असतात. यापैकी सुमारे ९०% व्हिडिओ महिलांना नकारात्मक दृष्टिकोनातून दाखवतात. मॅकक्लूर म्हणाल्या की, डीपफेकशी संबंधित धमक्या किंवा सेक्सटॉर्शनमुळे प्रभावित झालेल्या अनेक लोकांनी त्यांच्याशी संपर्क साधला आहे. त्यांनी सांगितले की याचा गंभीर मानसिक परिणाम झाला आहे, विशेषतः तरुणांवर. मॅकक्लूर डीपफेक तयार करणे आणि शेअर करणे यावर बंदी घालण्यासाठी कायदा बदलू इच्छितात. मॅकक्लूर यांच्या विधेयकाला अधिकृत सरकारी कायदा म्हणून मान्यता मिळेल का, यावर प्रवक्त्यांनी हेराल्डला सांगितले की सरकार सध्या यावर विचार करत नाही. लॉरा मॅकक्लूर यांच्या विधेयकातील ठळक मुद्दे अमेरिकेत संमतीशिवाय फोटो वापरणे गुन्हा आहे अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी मे महिन्यात टेक इट डाउन कायद्यावर स्वाक्षरी केली, ज्यामुळे एखाद्या व्यक्तीच्या संमतीशिवाय त्याचा फोटो वापरणे गुन्हा ठरेल. या नियमानुसार, पीडितेच्या विनंतीनुसार सोशल मीडिया प्लॅटफॉर्मना ४८ तासांच्या आत असे फोटो काढून टाकावे लागतील. अनेक भारतीय सेलिब्रिटीही डीपफेकचे बळी ठरले रश्मिका मंदाना नोव्हेंबर २०२४ मध्ये, अभिनेत्री रश्मिका मंदानाचा एक डीपफेक व्हिडिओ सोशल मीडियावर व्हायरल झाला होता, ज्यामध्ये रश्मिकाचा चेहरा एआय तंत्रज्ञानाचा वापर करून एका प्रभावशाली व्यक्तीच्या चेहऱ्यावर मॉर्फ करण्यात आला होता. सोशल मीडियावरील हजारो लोकांनी रश्मिकाचा हा बनावट व्हिडिओ खरा समजला, कारण त्यातील चेहऱ्यावरील हावभाव पूर्णपणे खरे दिसत होते. प्रियंका चोप्रा डिसेंबर २०२३ मध्ये एका व्हिडिओमध्ये अभिनेत्री प्रियंका चोप्रा एका ब्रँडची जाहिरात करताना आणि तिचे वार्षिक उत्पन्न उघड करताना दिसली. व्हिडिओमध्ये प्रियंकाचा चेहरा बदललेला नव्हता. तथापि, तिचा आवाज आणि मूळ व्हिडिओमधील ओळीचा ऑडिओ बनावट ब्रँड जाहिरातीने बदलण्यात आला. आलिया भट्ट आलिया भट्ट दोनदा डीपफेकची शिकार झाली आहे. डीपफेक व्हिडिओमध्ये आलिया भट्ट काळा कुर्ता घालून तयार होताना दिसत होती. संपूर्ण क्लिपमध्ये ती कॅमेऱ्यासमोर मेकअप करताना दिसत होती. आलिया भट्ट व्यतिरिक्त, इन्फोसिसचे संस्थापक नारायण मूर्ती, क्रिकेटपटू सचिन तेंडुलकर, अभिनेत्री आणि नृत्यांगना नोरा फतेह आणि विराट कोहली हे देखील डीपफेकचे शिकार झाले आहेत. डीपफेक म्हणजे काय आणि ते कसे बनवले जाते? डीपफेक हा शब्द पहिल्यांदा २०१७ मध्ये वापरण्यात आला. त्यानंतर अमेरिकन सोशल न्यूज अ‍ॅग्रीगेटर रेडिटवर डीपफेक आयडी वापरून सेलिब्रिटींचे अनेक व्हिडिओ पोस्ट करण्यात आले. यामध्ये अभिनेत्री एम्मा वॉटसन, गॅल गॅडोट, स्कारलेट जोहानसन यांचे अनेक पॉर्न व्हिडिओ होते. दुसऱ्याचा चेहरा, आवाज आणि हावभाव खऱ्या व्हिडिओ, फोटो किंवा ऑडिओमध्ये बसवणे याला डीपफेक म्हणतात. हे इतके काटेकोरपणे केले जाते की कोणीही त्यावर विश्वास ठेवू शकतो. यामध्ये बनावट गोष्टी देखील खऱ्या दिसतात. यामध्ये मशीन लर्निंग आणि आर्टिफिशियल इंटेलिजेंसचा वापर केला जातो. यामध्ये तंत्रज्ञान आणि सॉफ्टवेअरच्या मदतीने व्हिडिओ आणि ऑडिओ तयार केले जातात. एआय आणि सायबर तज्ज्ञ पुनीत पांडे म्हणतात की, आता वापरण्यास तयार तंत्रज्ञान आणि पॅकेजेस उपलब्ध आहेत. आता कोणीही ते वापरू शकते. सध्याच्या तंत्रज्ञानात आवाजातही सुधारणा झाली आहे. यामध्ये, व्हॉइस क्लोनिंग खूप धोकादायक बनले आहे. भारतातील डीपफेकबाबतचे नियम
न्यूझीलंडच्या खासदार लॉरा मॅकक्लूर यांनी संसदेत स्वतःचा एक AI-निर्मित नग्न फोटो दाखवला. असे बनावट फोटो तयार करणे किती सोपे आहे आणि ते किती धोकादायक असू शकते हे लोकांना सांगणे हा त्यांचा उद्देश होता. लॉरा यांनी संसदेत सांगितले की, गुगल सर्चमधून सापडलेल्या वेबसाइटचा वापर करून त्यांनी अवघ्या काही मिनिटांत त्यांचा डीपफेक फोटो तयार केला. त्यांनी डीपफेक आणि एआयचे नियमन करण्यासाठी कायदा करण्याची मागणी केली आहे. त्या म्हणाल्या- हा माझा नग्न फोटो आहे, पण तो खरा नाहीये. असे डीपफेक फोटो तयार करण्यासाठी मला पाच मिनिटांपेक्षा कमी वेळ लागला. १४ मे रोजी लॉरा यांनी या गोष्टी सांगितल्या, ज्या आता व्हायरल होत आहेत. लॉरा म्हणाल्या, "समस्या तंत्रज्ञानात नाही, तर लोकांना त्रास देण्यासाठी त्याचा गैरवापर करण्यात आहे. आपल्याला यावर उपाय शोधावा लागेल." डीपफेकचे सर्वाधिक बळी महिला आहेत. न्यूझीलंडमध्ये सध्या डीपफेकचे थेट नियमन करणारे कोणतेही कायदे नाहीत, जरी डिजिटल कम्युनिकेशन्सशी संबंधित काही नियम आहेत. लॉरा डीपफेक डिजिटल हार्म अँड एक्सप्लॉयटेशन बिलाला पाठिंबा देत आहेत, जे रिव्हेंज पॉर्न आणि खासगी रेकॉर्डिंगभोवती असलेल्या विद्यमान कायद्यांना अपडेट करेल. याअंतर्गत, संमतीशिवाय डीपफेक तयार करणे किंवा शेअर करणे हा गुन्हा असेल. न्यूझीलंडच्या तज्ज्ञांचे म्हणणे आहे की बहुतेक डीपफेक पॉर्न संमतीशिवाय बनवले जातात आणि त्यांचे लक्ष्य बहुतेक महिला असतात. लॉरा यांना आशा आहे की त्यांच्या या निर्णयामुळे कायदेशीर सुधारणांना गती मिळेल. त्या म्हणाल्या, "संमतीशिवाय कोणीही डीपफेक पॉर्नचे लक्ष्य बनू नये. हा स्पष्टपणे छळ आहे. आपले कायदे लवकर अपडेट करणे आवश्यक आहे." ९० ते ९५% डीपफेक व्हिडिओंमध्ये अश्लील सामग्री असते. लॉरा मॅकक्लूर यांनी स्पष्ट केले की, डीपफेक फोटो तयार करण्यासाठी, तुम्हाला फक्त एका बॉक्समध्ये टिक करायची आहे आणि तुमचे वय १८ वर्षांपेक्षा जास्त आहे आणि तुमच्याकडे फोटोमधील व्यक्तीची संमती आहे असे म्हणावे लागेल. तथापि, बहुतेक प्रकरणांमध्ये संमती घेतली जात नाही. लॉ असोसिएशनच्या मते, ९० ते ९५% ऑनलाइन डीपफेक व्हिडिओ हे संमतीशिवायचे अश्लील कंटेंट असतात. यापैकी सुमारे ९०% व्हिडिओ महिलांना नकारात्मक दृष्टिकोनातून दाखवतात. मॅकक्लूर म्हणाल्या की, डीपफेकशी संबंधित धमक्या किंवा सेक्सटॉर्शनमुळे प्रभावित झालेल्या अनेक लोकांनी त्यांच्याशी संपर्क साधला आहे. त्यांनी सांगितले की याचा गंभीर मानसिक परिणाम झाला आहे, विशेषतः तरुणांवर. मॅकक्लूर डीपफेक तयार करणे आणि शेअर करणे यावर बंदी घालण्यासाठी कायदा बदलू इच्छितात. मॅकक्लूर यांच्या विधेयकाला अधिकृत सरकारी कायदा म्हणून मान्यता मिळेल का, यावर प्रवक्त्यांनी हेराल्डला सांगितले की सरकार सध्या यावर विचार करत नाही. लॉरा मॅकक्लूर यांच्या विधेयकातील ठळक मुद्दे अमेरिकेत संमतीशिवाय फोटो वापरणे गुन्हा आहे अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी मे महिन्यात टेक इट डाउन कायद्यावर स्वाक्षरी केली, ज्यामुळे एखाद्या व्यक्तीच्या संमतीशिवाय त्याचा फोटो वापरणे गुन्हा ठरेल. या नियमानुसार, पीडितेच्या विनंतीनुसार सोशल मीडिया प्लॅटफॉर्मना ४८ तासांच्या आत असे फोटो काढून टाकावे लागतील. अनेक भारतीय सेलिब्रिटीही डीपफेकचे बळी ठरले रश्मिका मंदाना नोव्हेंबर २०२४ मध्ये, अभिनेत्री रश्मिका मंदानाचा एक डीपफेक व्हिडिओ सोशल मीडियावर व्हायरल झाला होता, ज्यामध्ये रश्मिकाचा चेहरा एआय तंत्रज्ञानाचा वापर करून एका प्रभावशाली व्यक्तीच्या चेहऱ्यावर मॉर्फ करण्यात आला होता. सोशल मीडियावरील हजारो लोकांनी रश्मिकाचा हा बनावट व्हिडिओ खरा समजला, कारण त्यातील चेहऱ्यावरील हावभाव पूर्णपणे खरे दिसत होते. प्रियंका चोप्रा डिसेंबर २०२३ मध्ये एका व्हिडिओमध्ये अभिनेत्री प्रियंका चोप्रा एका ब्रँडची जाहिरात करताना आणि तिचे वार्षिक उत्पन्न उघड करताना दिसली. व्हिडिओमध्ये प्रियंकाचा चेहरा बदललेला नव्हता. तथापि, तिचा आवाज आणि मूळ व्हिडिओमधील ओळीचा ऑडिओ बनावट ब्रँड जाहिरातीने बदलण्यात आला. आलिया भट्ट आलिया भट्ट दोनदा डीपफेकची शिकार झाली आहे. डीपफेक व्हिडिओमध्ये आलिया भट्ट काळा कुर्ता घालून तयार होताना दिसत होती. संपूर्ण क्लिपमध्ये ती कॅमेऱ्यासमोर मेकअप करताना दिसत होती. आलिया भट्ट व्यतिरिक्त, इन्फोसिसचे संस्थापक नारायण मूर्ती, क्रिकेटपटू सचिन तेंडुलकर, अभिनेत्री आणि नृत्यांगना नोरा फतेह आणि विराट कोहली हे देखील डीपफेकचे शिकार झाले आहेत. डीपफेक म्हणजे काय आणि ते कसे बनवले जाते? डीपफेक हा शब्द पहिल्यांदा २०१७ मध्ये वापरण्यात आला. त्यानंतर अमेरिकन सोशल न्यूज अ‍ॅग्रीगेटर रेडिटवर डीपफेक आयडी वापरून सेलिब्रिटींचे अनेक व्हिडिओ पोस्ट करण्यात आले. यामध्ये अभिनेत्री एम्मा वॉटसन, गॅल गॅडोट, स्कारलेट जोहानसन यांचे अनेक पॉर्न व्हिडिओ होते. दुसऱ्याचा चेहरा, आवाज आणि हावभाव खऱ्या व्हिडिओ, फोटो किंवा ऑडिओमध्ये बसवणे याला डीपफेक म्हणतात. हे इतके काटेकोरपणे केले जाते की कोणीही त्यावर विश्वास ठेवू शकतो. यामध्ये बनावट गोष्टी देखील खऱ्या दिसतात. यामध्ये मशीन लर्निंग आणि आर्टिफिशियल इंटेलिजेंसचा वापर केला जातो. यामध्ये तंत्रज्ञान आणि सॉफ्टवेअरच्या मदतीने व्हिडिओ आणि ऑडिओ तयार केले जातात. एआय आणि सायबर तज्ज्ञ पुनीत पांडे म्हणतात की, आता वापरण्यास तयार तंत्रज्ञान आणि पॅकेजेस उपलब्ध आहेत. आता कोणीही ते वापरू शकते. सध्याच्या तंत्रज्ञानात आवाजातही सुधारणा झाली आहे. यामध्ये, व्हॉइस क्लोनिंग खूप धोकादायक बनले आहे. भारतातील डीपफेकबाबतचे नियम
What's Your Reaction?
Suraj Singh
hello
