एलन मस्क यांच्या X ने ग्रोक AI द्वारे खऱ्या लोकांच्या अश्लील प्रतिमा तयार करण्यावर जगभरात बंदी घातली आहे. हा निर्णय AI-शक्तीवर चालणाऱ्या चॅटबॉटद्वारे महिला आणि मुलांच्या फोटोंचा गैरवापर करण्याच्या तक्रारींनंतर घेण्यात आला आहे.

आता वापरकर्ते या टूलचा वापर करून कोणत्याही खऱ्या व्यक्तीचा असा फोटो तयार करू शकणार नाहीत जो आक्षेपार्ह असेल किंवा ज्यामध्ये त्यांना कमी कपड्यांमध्ये दाखवले असेल. हे निर्बंध सशुल्क आणि विनाशुल्क अशा सर्व वापरकर्त्यांवर लागू करण्यात आले आहेत.

अश्लील फोटो एडिटिंगवर पूर्णपणे बंदी

X च्या सेफ्टी अकाउंटने गुरुवारी या बदलाची माहिती देताना सांगितले की, त्यांनी तांत्रिक स्तरावर असे बदल केले आहेत, ज्यामुळे ग्रोक आता खऱ्या लोकांचे नग्न फोटो तयार करू शकणार नाही. यामध्ये बिकिनीसारख्या कपड्यांमधील एडिटिंगवर पूर्णपणे बंदी घालण्यात आली आहे.

कंपनीचे म्हणणे आहे की, हा बदल यासाठी करण्यात आला आहे, जेणेकरून कोणाच्याही गोपनीयतेचे उल्लंघन होऊ नये आणि प्लॅटफॉर्मचा वापर कोणाला त्रास देण्यासाठी केला जाऊ नये.

महिलांच्या तक्रारींमुळे तपास सुरू झाला.

गेल्या वर्षी डिसेंबरमध्ये अनेक महिलांनी X वर तक्रार केली की त्यांचे फोटो ग्रोक वापरून लैंगिक प्रतिमा तयार करण्यासाठी वापरले जात आहेत. आयटी मंत्रालयाच्या सायबर लॉ डिव्हिजनने X ला निर्देश दिले की, आयटी नियम 2021 अंतर्गत सामग्री काढून टाकावी.

खरं तर, काही वापरकर्ते सोशल मीडिया प्लॅटफॉर्म X वर बनावट खाती तयार करतात. या खात्यांमधून ते महिलांचे फोटो पोस्ट करतात. यानंतर, ग्रोक एआयला सूचना दिली जाते की, महिलांचे फोटो चुकीच्या आणि आक्षेपार्ह स्वरूपात दाखवले जावेत.

AI द्वारे कपडे बदलणे किंवा चित्राला लैंगिक स्वरूपात सादर करणे यासारखे प्रॉम्प्ट दिले जातात. या चित्रांसाठी महिलांकडून कोणतीही परवानगी घेतली जात नाही. अनेकदा त्या महिलांना स्वतःलाही माहीत नसते की त्यांच्या चित्रांचा असा वापर होत आहे. आरोप आहे की, ग्रोक अशा चुकीच्या मागण्यांना थांबवण्याऐवजी त्यांना स्वीकारतो.

भारतात 3,500 फोटो हटवले, 600 वापरकर्त्यांवर बंदी

X ने भारत सरकारला सादर केलेल्या आपल्या कृती अहवालात सांगितले की, त्याने भारतात Grok द्वारे तयार केलेले सुमारे 3,500 आक्षेपार्ह आणि अश्लील फोटो हटवले आहेत. एवढेच नाही, तर कंपनीने त्या 600 वापरकर्त्यांना ओळखले आणि त्यांना प्लॅटफॉर्मवरून काढून टाकले, जे वारंवार या AI चॅटबॉटचा गैरवापर करत होते.

मस्क म्हणाले होते- जबाबदारी टूलची नाही, यूजरची

यापूर्वी X चे मालक एलन मस्क म्हणाले होते की, काही लोक म्हणत आहेत की ग्रोक आक्षेपार्ह फोटो बनवत आहे, पण हे असे आहे जसे एखाद्या वाईट गोष्टी लिहिण्यासाठी पेनला दोष देणे. पेन हे ठरवत नाही की काय लिहिले जाईल. हे काम त्याला पकडणारा करतो.

मस्क म्हणाले की, Grok देखील त्याच प्रकारे काम करतो. तुम्हाला काय मिळेल, हे तुम्ही त्यात काय इनपुट देता यावर मोठ्या प्रमाणात अवलंबून असते. कारण जबाबदारी टूलची नाही, तर ते वापरणाऱ्या व्यक्तीची असते.