ChatGPT ने बताया बम बनाने का तरीका: हैकर के सवाल में उलझा AI, दे दी खतरनाक जानकारी, OpenAI ने मानी चूक

ChatGPT gives Bomb Making Trick: ChatGPT मौजूदा समय में दुनिया का सबसे पसंदीदा AI प्लेटफॉर्म है। हाल ही में एक हैकर ने दावा किया है कि ChatGPT ने उसे बम बनाने का तरीका बता दिया।अब दुनिया भर में इस बात को लेकर बहस छिड़ गई है। आम तौर पर लोग इस प्लेटफॉर्म का रिसर्च समेत कई तरह के काम के लिए करते हैं। इस प्लेटफॉर्म ने कंटेट मॉडरेशन के लिए कुछ सेफ्टी नॉर्म्स तैयार किए गए हैं। OpenAI ने ChatGPT कंटेट मॉडरेशन के लिए कई सेफ्टी वॉल्स तैयार किए हैं।

किसी हैकिंग टूल का नहीं किया इस्तेमाल
कंपनी का दावा है कि वह हमारी सेफ्टी वॉल्स को नुकसान नहीं पहुंचाया जा सकता है। लेकिन, हाल ही में Amadon नाम के एक हैकर ने दावा किया है कि उसने ChatGPT के सेफ्टी वॉल्स को ध्वस्त कर दिया और उससे बम बनाने का तरीका ले लिया। हैकर ने यह भी दावा किया उसने AI प्लेटफॉर्म से यह जानकारी हासिल करने के लिए किसी भी हैकिंग टूल का इस्तेमाल नहीं किया। हैकर का दावा है कि उसने AI चैटबॉट को मैनिपुलेट करके यह संवेदनशील जानकारी हासिल कर ली। 

हैकर के सवालों में उलझ गया ChatGPT
हैकर ने दावा किया कि उसने कुछ ऐसे सवाल पूछे कि ChatGPT उसमें उलझ गया। पहले तो AI चैटबॉट ने यह कहते हुए बम बनाने की जानकारी देने से इनकार कर दिया। AI चैटबॉट ने पहले तो कहा कि यह गैर कानूनी है और खतरनाक है। चैटजीपीटी ने कहा कि वह यूजर्स को किसी भी तरीके की खतरनाक आइटम्स को बनाने की जानकारी शेयर नहीं कर सकती। 

स्टेप बाई स्टेप बनाया बम बनाने का तरीका
हैकर Amadon ने बताया कि उसने ChatGPT को फंसाने के लिए एक साइंस फिक्शन गेम की कहानी सुनाई। हालांकि, यह देखकर ताज्जुब में रह गया कि ChatGPT ने हैकर की इस थ्योरी पर यकीन कर लिया। इसके बाद ChatGPT ने हैकर को स्टेप बाई स्टेप बम बनाने का तरीका बता दिया। साथ ही यह भी बता दिया कि बम बनाने के लिए किन चीजों का इस्तेमाल किया जा सकता है। हैकर Amadon ने दावा किया कि उसने ChatGPT के सेफ्टी वॉल्स को गिरा दिया। 

OpenAI ने मानी सेफ्टी वॉल्स में चूक की बात
हैकर Amadon ने ChatGPT को इस हैकिंग के बारे में जानकारी दी। हैकर ने ChatGPT के बग काउंटी प्रोग्राम के तहत इस बारे में बताया था। इसके बाद OpenAI ने भी मान लिया कि उसके सेफ्टी वॉल्स में चूक है। OpenAI ने कहा कि ChatGPT की सेफ्टी सिस्टम को ऐसे मामलों से निपटने के लिए डिजाइन नहीं किया गया है। हालांकि, OpenAI ने कहा है कि वह ChatGPT सेफ्टी वॉल्स को मजबूत करने की कोशिश कर रही है। 

कुछ ऐसा प्रॉम्प्ट दिया की चकरा गया ChatGPT
हैकर ने दावा किया है कि उसने सोशल इंजीनियरिंग हैक के जरिए ChatGPT से बम बनाने का तरीका निकलवाया। हैकर का दावा है कि एक बार अगर किसी यूजर ने ChatGPT के सेफ्टी वॉल को पार कर लिया, फिर AI  से किसी भी तरह की जानकारी हासिल की जा सकती है। बता दें कि जाने माने अमेरिकी उद्योगपति एलन मस्क समेत कई लोगों ने AI को लेकर खतरा जाहिर किया है। हालांकि, हैकर ने किस प्राम्प्ट का इस्तेमाल किया इसका अभी तक पता नहीं चल सका है।