सोशल मीडिया प्लॅटफॉर्म X ने त्यांच्या कंटेंट मॉडरेशन त्रुटी मान्य केल्या आहेत. कंपनीने सांगितले की ते अश्लील प्रतिमा तयार करण्यावर पूर्णपणे बंदी घालेल आणि भारतीय कायद्यांचे पालन करेल. सरकारी सूत्रांनुसार, अश्लील कंटेंट व्हायरल झाल्यानंतर हा निर्णय घेण्यात आला. प्लॅटफॉर्मने सांगितले की त्यांनी ३,५०० हून अधिक कंटेंट ब्लॉक केले आहेत आणि ६०० हून अधिक अकाउंट डिलीट केले आहेत. खरं तर, शिवसेना (UBT) खासदार प्रियंका चतुर्वेदी यांनी २ जानेवारी रोजी आयटी मंत्र्यांना एआय चॅटबॉट ग्रोकच्या गैरवापराबद्दल एक पत्र लिहिले. त्यानंतर, केंद्र सरकारने त्या दिवशी एक्स ला एआय अॅप ग्रोकद्वारे तयार करण्यात येणारा अश्लील कंटेंट त्वरित काढून टाकण्यास सांगितले, अन्यथा कायदेशीर कारवाई केली जाईल. X ने म्हटले, “भारत आमच्यासाठी एक मोठी बाजारपेठ आहे.” X ने आपली कारवाई जाहीर करताना म्हटले की भारत त्यांच्यासाठी एक मोठी बाजारपेठ आहे. कंपनीने म्हटले की ते येथील नियमांचे पालन करेल. या पावलामुळे कंटेंट मॉडरेशन मजबूत होईल. प्रियांका चतुर्वेदी म्हणाल्या, “X ने कंटेंट ब्लॉक करण्याऐवजी मर्यादित केला आहे.” राज्यसभा खासदार प्रियांका चतुर्वेदी यांनी शनिवारी X वर या मुद्द्याबाबत पुन्हा पोस्ट केली. त्यांनी लिहिले की सोशल मीडिया प्लॅटफॉर्म X ने ग्रोक द्वारे आक्षेपार्ह आणि लैंगिक उत्तेजक प्रतिमा पूर्णपणे ब्लॉक करण्याऐवजी केवळ सशुल्क वापरकर्त्यांपुरत्याच मर्यादित केल्या आहेत. त्यांनी आरोप केला की या हालचालीमुळे महिला आणि मुलांच्या प्रतिमांचा अनधिकृत गैरवापर प्रभावीपणे होऊ शकतो, ज्यामुळे त्यांना धोका निर्माण होतो. त्यांनी सांगितले की हे प्लॅटफॉर्म निंदनीय वर्तनाचे पैसे कमवत आहे, जे लज्जास्पद आहे. मस्क म्हणाले होते- जबाबदारी टूलची नाही, युझरची यापूर्वी, एक्सचे मालक एलॉन मस्क यांनी ३ जानेवारी रोजी म्हटले होते की काही लोक म्हणत आहेत की ग्रोक आक्षेपार्ह प्रतिमा तयार करत आहे, परंतु ते पेनला काहीतरी आक्षेपार्ह लिहिण्यासाठी दोष देण्यासारखे आहे. पेन काय लिहायचे हे ठरवत नाही; ती धरणारी व्यक्ती ठरवते. मस्क म्हणाले की ग्रोक देखील अशाच प्रकारे काम करते. तुम्हाला जे मिळते ते तुम्ही त्यात काय इनपुट करता यावर अवलंबून असते. कारण जबाबदारी टूलची नाही तर ते वापरणाऱ्या व्यक्तीची आहे. शिवसेना (यूबीटी) खासदार प्रियंका चतुर्वेदी यांनी हा मुद्दा उपस्थित केला शिवसेना (यूबीटी) खासदार प्रियंका चतुर्वेदी यांनी २ जानेवारी रोजी आयटी मंत्री अश्विनी वैष्णव यांना एआय चॅटबॉट ग्रोकच्या गैरवापराबद्दल पत्र लिहिले. एआयच्या ग्रोक वैशिष्ट्याचा सोशल मीडियावर, विशेषतः एक्सवर गैरवापर केला जात आहे. काही पुरुष बनावट अकाउंट तयार करत आहेत आणि महिलांचे फोटो पोस्ट करत आहेत, एआयला त्यांचे कपडे लहान दिसावेत किंवा प्रतिमा चुकीच्या पद्धतीने सादर कराव्यात असे सांगत आहेत. हे केवळ बनावट अकाउंटपुरते मर्यादित नाही; स्वतःचे फोटो शेअर करणाऱ्या महिलांनाही लक्ष्य केले जात आहे. हे अत्यंत चुकीचे आहे आणि एआयचा गंभीर गैरवापर आहे.
सर्वात चिंताजनक बाब म्हणजे ग्रोक या अनुचित मागण्या मान्य करत आहे. हे महिलांच्या गोपनीयतेचे उल्लंघन आहे आणि परवानगीशिवाय त्यांचे फोटो वापरणे आहे. हे फक्त चुकीचे नाही तर एक गुन्हा आहे. महिलांचे फोटो अश्लील प्रतिमांमध्ये रूपांतरित काही वापरकर्ते X सोशल मीडिया प्लॅटफॉर्मवर बनावट अकाउंट तयार करतात. ते या अकाउंटवरून महिलांचे फोटो पोस्ट करतात. त्यानंतर ग्रोक एआयला फोटो अयोग्य आणि आक्षेपार्ह पद्धतीने दाखवण्यास सांगितले जाते. एआयला कपडे बदलणे किंवा लैंगिक पद्धतीने फोटो सादर करणे असे प्रॉम्प्ट दिले जातात. या फोटोंसाठी महिलांकडून कोणतीही परवानगी घेतली जात नाही. कधीकधी, महिलांना स्वतःला माहिती नसते की त्यांचे फोटो अशा प्रकारे वापरले जात आहेत. असा आरोप आहे की ग्रोक अशा अनुचित विनंत्या रोखण्याऐवजी त्या स्वीकारतो.
Source link
