जगातील सर्वात श्रीमंत व्यावसायिक एलॉन मस्क यांच्या एआय चॅटबॉट ग्रोक (Grok) द्वारे महिला आणि मुलांची अश्लील छायाचित्रे तयार करण्याच्या प्रकरणात भारत सरकारला X ने आपले उत्तर सादर केले आहे. माहिती तंत्रज्ञान मंत्रालयाने 2 डिसेंबर रोजी मस्क यांच्या कंपनीला बुधवार संध्याकाळी 5 वाजेपर्यंतची मुदत दिली होती.

वृत्तसंस्थेनुसार, कंपनीने कारवाई अहवाल (ॲक्शन टेकन रिपोर्ट) दाखल केला आहे, ज्याची मंत्रालय चौकशी करत आहे. सरकारने इशारा दिला होता की, जर एआय साधनांच्या गैरवापरावर कठोर पावले उचलली नाहीत, तर X ला भारतीय कायद्यांनुसार मिळणारे कायदेशीर संरक्षण संपुष्टात आणले जाईल.

खरं तर, शिवसेना (UBT) च्या खासदार प्रियंका चतुर्वेदी यांनी शुक्रवारी एआय चॅटबॉट ग्रोक (Grok) च्या गैरवापरावर चिंता व्यक्त केली होती. त्यांनी माहिती तंत्रज्ञान मंत्र्यांना पत्र लिहिले होते. त्यात म्हटले होते की, काही लोक एआयच्या मदतीने महिलांच्या मूळ छायाचित्रांना आक्षेपार्ह स्वरूपात बदलत आहेत, जो एक अत्यंत गंभीर मुद्दा आहे.

आधी हे संपूर्ण प्रकरण समजून घ्या

काही वापरकर्ते सोशल मीडिया प्लॅटफॉर्म X वर बनावट खाती तयार करतात. या खात्यांवरून ते महिलांचे फोटो पोस्ट करतात. यानंतर Grok AI ला प्रॉम्प्ट दिला जातो की महिलांचे फोटो चुकीच्या आणि आक्षेपार्ह स्वरूपात दाखवले जावेत. AI ला कपडे बदलणे किंवा फोटो लैंगिक स्वरूपात सादर करणे यासारखे प्रॉम्प्ट दिले जातात.

या फोटोंसाठी महिलांची कोणतीही परवानगी घेतली जात नाही. अनेक वेळा त्या महिलांना स्वतःलाही माहीत नसते की त्यांच्या फोटोंचा असा वापर होत आहे. आरोप आहे की Grok अशा चुकीच्या मागण्या थांबवण्याऐवजी त्या स्वीकारतो.

काही युजर्स Grok वर अशा प्रकारचे प्रॉम्प्ट्स देऊन महिलांचे अश्लील फोटो तयार करतात.

या प्रॉम्प्ट्सच्या मदतीने Grok वर अश्लील कंटेंट तयार केला जातो.

सरकारने आदेशात काय म्हटले

मंत्रालयाचे म्हणणे आहे की X ने माहिती तंत्रज्ञान अधिनियम, 2000 आणि आयटी नियम 2021 अंतर्गत निर्धारित कायदेशीर जबाबदाऱ्यांचे पालन केले नाही. नियमांचे पालन न झाल्यास, X, त्याचे जबाबदार अधिकारी आणि असे कंटेंट पसरवणाऱ्या वापरकर्त्यांविरुद्ध आयटी कायदा, आयटी नियम आणि इतर लागू कायद्यांनुसार कठोर कारवाई केली जाऊ शकते.

प्रियंका चतुर्वेदी यांनी पत्रात लिहिले-

आदेश न पाळल्यास कायदेशीर संरक्षण गमावण्याचा धोका

आयटी कायद्यानुसार, जर X वर कोणताही अश्लील, आक्षेपार्ह, महिलाविरोधी किंवा बेकायदेशीर कंटेंट टाकला जातो, तर प्लॅटफॉर्मला त्याची माहिती मिळताच तो त्वरित काढून टाकावा लागतो. जर केंद्र सरकार किंवा न्यायालय X ला कोणताही कंटेंट काढण्यास किंवा खाते ब्लॉक करण्यास सांगते, तर ते कायदेशीररित्या पाळणे आवश्यक आहे.

जर X आदेश पाळत नाही तर X ला मिळणारे कायदेशीर संरक्षण काढून घेतले जाऊ शकते. यानंतर X वापरकर्त्यांनाच बेकायदेशीर कंटेंटसाठी जबाबदार धरले जाईल.

त्याचबरोबर कंपनीवर फौजदारी खटला, दंड, जबाबदार अधिकाऱ्यांवर एफआयआर आणि तपास यंत्रणांकडून चौकशी होऊ शकते. सरकार आयटी कायद्याच्या कलम 69A अंतर्गत X च्या कोणत्याही विशिष्ट खात्याला, कोणत्याही सामग्रीला किंवा संपूर्ण प्लॅटफॉर्मच्या काही वैशिष्ट्यांना भारतात ब्लॉक करू शकते.