बच्चों को मौत के मुंह तक ले जा रहा ChatGPT! इस रिपोर्ट में हुआ हैरान कर देने वाला खुलासा
ChatGPT: एक नई जांच में खुलासा हुआ है कि ChatGPT बच्चों को नशीले पदार्थों के इस्तेमाल, बेहद सख्त डाइट प्लान और आत्महत्या से जुड़ी खतरनाक सलाह दे सकता है. इस रिपोर्ट ने AI चैटबॉट की सुरक्षा व्यवस्था पर गंभीर सवाल खड़े कर दिए हैं. यूके स्थित Centre for Countering Digital Hate (CCDH) द्वारा की गई इस रिसर्च जिसे एसोसिएटेड प्रेस ने भी समीक्षा की, में पाया गया कि AI चैटबॉट कई बार खतरनाक व्यवहार पर चेतावनी देता है लेकिन 13 साल के बच्चों का रूप लेकर पूछे गए सवालों पर विस्तार से और व्यक्तिगत प्लान तक बना देता है. चैटबॉट ने लिखे सुसाइड नोट तीन घंटे से ज्यादा की रिकॉर्डिंग में सामने आया कि चैटबॉट ने काल्पनिक परिवार के सदस्यों के लिए भावनात्मक सुसाइड नोट लिखे, भूख कम करने वाली दवाओं के साथ बेहद कम कैलोरी वाले डाइट प्लान दिए, और शराब व अवैध ड्रग्स को मिलाकर इस्तेमाल करने के स्टेप-बाय-स्टेप तरीके बताए. एक मामले में तो "घंटे-दर-घंटे" पार्टी प्लान तक सुझाया जिसमें एक्स्टसी, कोकीन और हैवी ड्रिंकिंग शामिल थी. आधे से ज्यादा जवाब ‘खतरनाक’ CCDH के अनुसार, जांच में मिले 1,200 जवाबों में से आधे से ज्यादा को “खतरनाक” श्रेणी में रखा गया. संगठन के CEO इमरान अहमद ने कहा कि ChatGPT की सुरक्षा प्रणाली कमजोर है और आसानी से बाईपास की जा सकती है. उन्होंने बताया कि अगर खतरनाक सवालों को स्कूल प्रेजेंटेशन या दोस्त की मदद के रूप में पेश किया जाए तो चैटबॉट तुरंत जवाब दे देता है. अहमद के शब्दों में, “हमने गार्डरेल्स टेस्ट करने की कोशिश की और नतीजा चौंकाने वाला था. सुरक्षा लगभग नाम की ही है, मानो सिर्फ दिखावे के लिए.” OpenAI ने मानी चुनौती, समाधान फिलहाल नहीं ChatGPT बनाने वाली कंपनी OpenAI ने स्वीकार किया कि संवेदनशील स्थितियों को पहचानने और संभालने की क्षमता को बेहतर बनाने पर काम चल रहा है. कंपनी ने कहा कि कई बार बातचीत सामान्य तरीके से शुरू होती है लेकिन धीरे-धीरे संवेदनशील दिशा में मुड़ जाती है. हालांकि, कंपनी ने CCDH की रिपोर्ट पर सीधे तौर पर टिप्पणी नहीं की और न ही कोई तात्कालिक बदलावों की घोषणा की. युवाओं में AI पर बढ़ती निर्भरता यह रिपोर्ट ऐसे समय आई है जब किशोरों में AI चैटबॉट को सलाह और साथी के रूप में अपनाने की प्रवृत्ति बढ़ रही है. कॉमन सेंस मीडिया की हालिया स्टडी के मुताबिक, 70% युवा सामाजिक बातचीत के लिए AI चैटबॉट का इस्तेमाल करते हैं और कम उम्र के किशोर इन पर ज्यादा भरोसा करते हैं. चैटबॉट सिर्फ यूज़र द्वारा डाली गई जन्मतिथि से उम्र की पुष्टि करता है जबकि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है. शोधकर्ताओं ने पाया कि सिस्टम ने न तो बताई गई उम्र को, न ही प्रॉम्प्ट में मौजूद संकेतों को गंभीरता से लिया. यह भी पढ़ें: ये है भारत का सबसे महंगा स्मार्टफोन! जानें क्या है फीचर्स और किसे देता है टक्कर
ChatGPT: एक नई जांच में खुलासा हुआ है कि ChatGPT बच्चों को नशीले पदार्थों के इस्तेमाल, बेहद सख्त डाइट प्लान और आत्महत्या से जुड़ी खतरनाक सलाह दे सकता है. इस रिपोर्ट ने AI चैटबॉट की सुरक्षा व्यवस्था पर गंभीर सवाल खड़े कर दिए हैं. यूके स्थित Centre for Countering Digital Hate (CCDH) द्वारा की गई इस रिसर्च जिसे एसोसिएटेड प्रेस ने भी समीक्षा की, में पाया गया कि AI चैटबॉट कई बार खतरनाक व्यवहार पर चेतावनी देता है लेकिन 13 साल के बच्चों का रूप लेकर पूछे गए सवालों पर विस्तार से और व्यक्तिगत प्लान तक बना देता है.
चैटबॉट ने लिखे सुसाइड नोट
तीन घंटे से ज्यादा की रिकॉर्डिंग में सामने आया कि चैटबॉट ने काल्पनिक परिवार के सदस्यों के लिए भावनात्मक सुसाइड नोट लिखे, भूख कम करने वाली दवाओं के साथ बेहद कम कैलोरी वाले डाइट प्लान दिए, और शराब व अवैध ड्रग्स को मिलाकर इस्तेमाल करने के स्टेप-बाय-स्टेप तरीके बताए. एक मामले में तो "घंटे-दर-घंटे" पार्टी प्लान तक सुझाया जिसमें एक्स्टसी, कोकीन और हैवी ड्रिंकिंग शामिल थी.
आधे से ज्यादा जवाब ‘खतरनाक’
CCDH के अनुसार, जांच में मिले 1,200 जवाबों में से आधे से ज्यादा को “खतरनाक” श्रेणी में रखा गया. संगठन के CEO इमरान अहमद ने कहा कि ChatGPT की सुरक्षा प्रणाली कमजोर है और आसानी से बाईपास की जा सकती है. उन्होंने बताया कि अगर खतरनाक सवालों को स्कूल प्रेजेंटेशन या दोस्त की मदद के रूप में पेश किया जाए तो चैटबॉट तुरंत जवाब दे देता है. अहमद के शब्दों में, “हमने गार्डरेल्स टेस्ट करने की कोशिश की और नतीजा चौंकाने वाला था. सुरक्षा लगभग नाम की ही है, मानो सिर्फ दिखावे के लिए.”
OpenAI ने मानी चुनौती, समाधान फिलहाल नहीं
ChatGPT बनाने वाली कंपनी OpenAI ने स्वीकार किया कि संवेदनशील स्थितियों को पहचानने और संभालने की क्षमता को बेहतर बनाने पर काम चल रहा है. कंपनी ने कहा कि कई बार बातचीत सामान्य तरीके से शुरू होती है लेकिन धीरे-धीरे संवेदनशील दिशा में मुड़ जाती है. हालांकि, कंपनी ने CCDH की रिपोर्ट पर सीधे तौर पर टिप्पणी नहीं की और न ही कोई तात्कालिक बदलावों की घोषणा की.
युवाओं में AI पर बढ़ती निर्भरता
यह रिपोर्ट ऐसे समय आई है जब किशोरों में AI चैटबॉट को सलाह और साथी के रूप में अपनाने की प्रवृत्ति बढ़ रही है. कॉमन सेंस मीडिया की हालिया स्टडी के मुताबिक, 70% युवा सामाजिक बातचीत के लिए AI चैटबॉट का इस्तेमाल करते हैं और कम उम्र के किशोर इन पर ज्यादा भरोसा करते हैं.
चैटबॉट सिर्फ यूज़र द्वारा डाली गई जन्मतिथि से उम्र की पुष्टि करता है जबकि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है. शोधकर्ताओं ने पाया कि सिस्टम ने न तो बताई गई उम्र को, न ही प्रॉम्प्ट में मौजूद संकेतों को गंभीरता से लिया.
यह भी पढ़ें:
ये है भारत का सबसे महंगा स्मार्टफोन! जानें क्या है फीचर्स और किसे देता है टक्कर
What's Your Reaction?
