Grok AI पर सख्ती: अब नहीं बनाई जा सकेंगी अश्लील तस्वीरें, सरकार की फटकार के बाद बदले नियम

नई दिल्ली। एलन मस्क की कंपनी एक्स एक बार फिर चर्चा में है। इस बार, वजह कोई नया फीचर या कारोबारी फैसला नहीं, बल्कि उसके आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक का गलत इस्तेमाल है। ग्रोक के जरिए लोगों, खासकर महिलाओं की तस्वीरों को अश्लील या आपत्तिजनक रूप में बदले जाने के मामले सामने आने के बाद कंपनी को सख्त कदम उठाने पड़े हैं। दरअसल, कई यूजर्स ग्रोक एआई का इस्तेमाल करके सामान्य तस्वीरों को इस तरह एडिट कर रहे थे, जिससे वे आपत्तिजनक या भ्रामक रूप में दिखाई देने लगती थीं। इन तस्वीरों का सोशल मीडिया पर फैलना न सिर्फ संबंधित व्यक्ति की निजता का उल्लंघन है, बल्कि मानसिक और सामाजिक नुकसान का कारण भी बन रहा है।

जैसे-जैसे ऐसे मामलों की संख्या बढ़ी, महिलाओं ने खुलकर इसकी शिकायत करनी शुरू की। इसके बाद एक्स की सुरक्षा और पॉलिसी टीम हरकत में आई और ग्रोक से जुड़ी नई पाबंदियों का ऐलान किया गया। कंपनी ने स्पष्ट कर दिया है कि अब Grok AI के जरिए किसी भी वास्तविक व्यक्ति की ऐसी तस्वीरें तैयार नहीं की जा सकेंगी, जिनमें उन्हें रिवीलिंग, छोटे या आपत्तिजनक कपड़ों में दिखाया गया हो। यह फैसला केवल सामान्य यूजर्स तक सीमित नहीं है, बल्कि एक्स के प्रीमियम सब्सक्रिप्शन लेने वालों पर भी समान रूप से लागू होगा। यानी पैसे देकर सेवा लेने वाले यूजर्स को भी इस तरह का कंटेंट तैयार करने की अनुमति नहीं होगी। एक्स ने कहा इसका मकसद महिलाओं और बच्चों के खिलाफ बढ़ते डिजिटल अपराधों पर रोक लगाना है।

कंपनी ने यह भी संकेत दिया है कि भविष्य में ऐसे मामलों में जिम्मेदारी तय की जाएगी। अगर कोई व्यक्ति नियमों को तोड़कर ग्रोक का इस्तेमाल आपत्तिजनक कंटेंट बनाने में करता है, तो उसके खिलाफ सख्त कार्रवाई की जाएगी। कंपनी ने कहा एआई टूल्स का इस्तेमाल मनोरंजन या सुविधा के लिए है, इसकी मदद से किसी की गरिमा से खिलवाड़ करने और कानून की सीमा लांघने की इजाजत नहीं दी जाएगी। इस विवाद में भारत सरकार की भूमिका अहम रही है। मामला बढ़ने के बाद इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स से जवाब तलब किया और भारतीय कानूनों का उल्लंघन करने वाली सामग्री को तुरंत हटाने के निर्देश दिए।

सरकार की इस सख्ती के बाद कंपनी को अपनी कार्रवाई की जानकारी देनी पड़ी, जिसे ‘एक्शन टेकन रिपोर्ट’ के रूप में प्रस्तुत किया गया। सरकार के दबाव के चलते एक्स ने ग्रोक एआई से जुड़े नियमों को कड़ा किया है। यह मामला सिर्फ एक प्लेटफॉर्म या एक एआई टूल तक सीमित नहीं है। यह उस बड़ी चुनौती की ओर इशारा करता है, जहां तकनीकी प्रगति के साथ-साथ नैतिक जिम्मेदारी और कानूनी ढांचे को भी मजबूत करना जरूरी हो गया है। ग्रोक एआई पर लगाई गई यह रोक इस बात का संकेत है कि आने वाले समय में एआई कंपनियों को अपने सिस्टम की निगरानी और उपयोग की सीमाओं को और स्पष्ट करना होगा, ताकि तकनीक का फायदा समाज को मिले।

रिपोर्ट: एपी सिंह।