Grok AI Ban: इंडोनेशिया और मलेशिया में ग्रोक की सर्विस पर रोक, अश्लील कंटेंट बनी वजह
इंडोनेशिया और मलेशिया ने महिलाओं और बच्चों की सुरक्षा के मद्देनजर Grok सेवाओं पर अस्थायी रोक लगा दी है। Grok AI पर Deepfake और बिना सहमति के अश्लील तस्वीरें बनाने का आरोप है। जानिए पूरा मामला।
इंडोनेशिया और मलेशिया में Grok AI पर अस्थायी बैन।
Elon Musk की कंपनी xAI द्वारा विकसित आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok को लेकर अंतरराष्ट्रीय स्तर पर विवाद बढ़ता जा रहा है। Deepfake और बिना सहमति के अश्लील तस्वीरें बनाए जाने के आरोपों के बाद अब इंडोनेशिया और मलेशिया ने Grok की सेवाओं पर अस्थायी रोक लगा दी है।
मलेशिया ने क्यों लगाया Grok पर बैन?
मलेशिया के कम्युनिकेशन एंड मल्टीमीडिया कमीशन (MCMC) ने सोशल मीडिया प्लेटफॉर्म X पर जारी बयान में बताया कि Grok का दुरुपयोग बार-बार किया जा रहा था। रेगुलेटर के अनुसार, Grok के जरिए अश्लील, आपत्तिजनक और बिना अनुमति के बदली गई तस्वीरें तैयार की जा रही थीं, जिनमें महिलाएं और बच्चे भी शामिल थे।
MCMC ने कहा कि जनवरी की शुरुआत में X और xAI को नोटिस भेजे गए थे, लेकिन इसके बावजूद कोई ठोस तकनीकी समाधान लागू नहीं किया गया।
सुरक्षा उपायों पर उठे सवाल
मलेशियाई रेगुलेटर ने यह भी स्पष्ट किया कि X ने केवल यूज़र-रिपोर्टिंग सिस्टम पर जोर दिया, जबकि ऐसे AI टूल से पैदा होने वाले जोखिमों को रोकने के लिए जरूरी तकनीकी सुरक्षा उपाय लागू नहीं किए गए।
इंडोनेशिया ने भी लिया सख्त फैसला
इंडोनेशिया की कम्युनिकेशन और डिजिटल मंत्रालय ने भी Grok पर अस्थायी प्रतिबंध लगाने की घोषणा की। डिजिटल मंत्री मेउत्या हाफिद ने कहा कि यह कदम महिलाओं, बच्चों और आम नागरिकों को AI-जनरेटेड फर्जी पोर्नोग्राफिक कंटेंट से बचाने के लिए उठाया गया है।
मानवाधिकारों का गंभीर उल्लंघन बताया
इंडोनेशियाई सरकार ने बिना सहमति के यौन Deepfake कंटेंट को मानव गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया है। साथ ही, X से Grok फीचर को लेकर तत्काल स्पष्टीकरण भी मांगा गया है।
पहले भी उठ चुके हैं सवाल
Grok के इस इमेज एडिटिंग फीचर को लेकर पहले भारत, यूरोपीय संघ और अन्य देशों ने भी सवाल खड़े किए थे। हालांकि बाद में इस फीचर को केवल वेरिफाइड यूजर्स तक सीमित किया गया, लेकिन मूल समस्या का समाधान नहीं किया गया।