अश्लील कंटेंट विवाद: प्लेटफॉर्म 'X' ने सरकार के सामने मानी हार, 600 से अधिक अकाउंट्स पर गिरी गाज

नई दिल्ली : भारत सरकार की सख्त चेतावनी और कानूनी कार्रवाई के डर से सोशल मीडिया दिग्गज 'X' बैकफुट पर आ गया है। एलन मस्क की कंपनी ने स्वीकार किया है कि उनके प्लेटफॉर्म पर कंटेंट मॉडरेशन में बड़ी चूक हुई है।

विशेष रूप से प्लेटफॉर्म के एआई टूल 'Grok' के जरिए फैलाई जा रही अश्लीलता को लेकर कंपनी ने अब भारतीय कानूनों के पूर्ण पालन का आश्वासन दिया है। इस कार्रवाई के तहत प्लेटफॉर्म ने 600 से ज्यादा अकाउंट्स को हमेशा के लिए बंद कर दिया है।

विवाद की जड़: Grok AI और डिजिटल अनड्रेसिंग

इस पूरे विवाद की मुख्य वजह X का नया आर्टिफिशियल इंटेलिजेंस टूल 'Grok' है। आरोप है कि यूजर्स इस एआई टूल का इस्तेमाल महिलाओं की तस्वीरों के साथ छेड़छाड़ करने और उन्हें आपत्तिजनक बनाने के लिए कर रहे थे।

इंटरनेट पर हाल ही में एक ट्रेंड देखा गया जिसे 'मास डिजिटल अनड्रेसिंग' कहा गया, जहाँ एआई के जरिए सामान्य तस्वीरों को अश्लील तस्वीरों में बदलकर वायरल किया जा रहा था।

राज्यसभा सांसद प्रियंका चतुर्वेदी सहित कई लोगों ने इस गंभीर मुद्दे पर आईटी मंत्रालय को पत्र लिखकर शिकायत की थी जिसके बाद सरकार हरकत में आई।

सरकार का अल्टीमेटम और सेफ हार्बर की चेतावनी

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने X को एक कड़ा नोटिस जारी करते हुए साफ कर दिया था कि आईटी अधिनियम और आईटी नियमों का पालन करना अनिवार्य है।

सरकार ने चेतावनी दी थी कि यदि अश्लील कंटेंट नहीं हटाया गया, तो X को दी गई 'सेफ हार्बर' सुरक्षा छीन ली जाएगी।

इस सुरक्षा के हटने का अर्थ यह होता कि प्लेटफॉर्म पर किसी भी यूजर द्वारा पोस्ट की गई आपत्तिजनक सामग्री के लिए खुद कंपनी और उसके अधिकारियों को कानूनी तौर पर जिम्मेदार माना जाता और उन पर सीधे आपराधिक मुकदमे चलाए जा सकते थे।

X की बड़ी कार्रवाई और जवाबदेही

सरकार के कड़े रुख के बाद X ने अपनी रिपोर्ट पेश करते हुए अश्लील और आपत्तिजनक सामग्री फैलाने वाले 600 से अधिक अकाउंट्स को स्थायी रूप से निलंबित कर दिया है।

इसके साथ ही लगभग 3,500 अश्लील पोस्ट को प्लेटफॉर्म से पूरी तरह हटा दिया गया है। कंपनी ने आधिकारिक तौर पर स्वीकार किया है कि उनके मॉडरेशन मानकों में कमी थी जिसके कारण Grok AI का दुरुपयोग हुआ और अब वे भारतीय कानूनों के तहत अपनी व्यवस्था को और मजबूत कर रहे हैं।

भविष्य की रणनीति और एआई पर लगाम

विवाद बढ़ता देख X ने अपनी पॉलिसी में बदलाव के संकेत दिए हैं जिसके तहत कंपनी Grok के इमेज जनरेशन फीचर को केवल पेड सब्सक्राइबर्स तक सीमित करने पर विचार कर रही है ताकि इसके दुरुपयोग को कम किया जा सके।

एलन मस्क ने भी स्पष्ट किया है कि जो कोई भी एआई का इस्तेमाल अवैध कंटेंट बनाने के लिए करेगा उसे सख्त परिणाम भुगतने होंगे। हालांकि मंत्रालय ने कंपनी से और स्पष्ट जानकारी मांगी है कि वे भविष्य में ऐसे एआई-जनरेटेड डीपफेक को रोकने के लिए कौन से ठोस तकनीकी सुरक्षा घेरे तैयार करेंगे।