AI की खतरनाक गलती से हिल गई साइंस की दुनिया! रिसर्च पेपर्स में इस तरह हो रही गड़बड़ी, जानिए पूरी जानकारी
Artificial Intelligence: आर्टिफिशियल इंटेलिजेंस (AI) पर भरोसा तेजी से बढ़ रहा है लेकिन अब यही तकनीक वैज्ञानिक शोध की विश्वसनीयता पर सवाल खड़े कर रही है. हालिया रिपोर्ट में खुलासा हुआ है कि दुनिया की प्रतिष्ठित AI कॉन्फ्रेंस में शामिल कई रिसर्च पेपर्स में ऐसे रेफरेंस पाए गए जो असल में मौजूद ही नहीं थे. ये रेफरेंस AI टूल्स द्वारा गढ़े गए थे जिन्हें विशेषज्ञ भाषा में हैलुसिनेशन कहा जाता है. NeurIPS में सामने आया चौंकाने वाला मामला AI और मशीन लर्निंग की सबसे बड़ी कॉन्फ्रेंस मानी जाने वाली NeurIPS 2025 में स्वीकार किए गए 51 रिसर्च पेपर्स में फर्जी, AI-जनरेटेड सिटेशन पाए गए. यह जानकारी AI डिटेक्शन स्टार्टअप GPTZero की रिपोर्ट में सामने आई. कुल 4,841 रिसर्च पेपर्स की जांच के दौरान इन 51 पेपर्स में 100 से ज्यादा ऐसे रेफरेंस मिले जिनका कोई वास्तविक अस्तित्व नहीं था. कम संख्या, लेकिन बड़ा असर भले ही 4,800 से ज्यादा पेपर्स में से 51 का आंकड़ा सांख्यिकीय रूप से छोटा लगे लेकिन NeurIPS की नीति बेहद सख्त है. यहां किसी भी रिसर्च पेपर में अगर एक भी झूठा सिटेशन पाया जाता है तो वह पेपर खारिज या रद्द किया जा सकता है. खास बात यह है कि इन पेपर्स को पहले ही मंजूरी मिल चुकी थी, इन्हें मंच पर प्रस्तुत भी किया गया और औपचारिक रूप से प्रकाशित माना गया. टॉप AI एक्सपर्ट्स भी क्यों चूक रहे हैं? NeurIPS में पेपर स्वीकार होना अपने आप में बड़ी उपलब्धि मानी जाती है. यहां मुख्य ट्रैक में चयन की दर करीब 25 प्रतिशत रहती है यानी हजारों पेपर्स को पीछे छोड़कर ये रिसर्च चुनी जाती हैं. GPTZero की रिपोर्ट यह दिखाती है कि दुनिया के शीर्ष AI शोधकर्ता भी जिन AI टूल्स का इस्तेमाल कर रहे हैं उनकी सटीकता की पूरी तरह जांच नहीं कर पा रहे हैं. समस्या सिर्फ NeurIPS तक सीमित नहीं AI से जुड़ी यह दिक्कत केवल एक कॉन्फ्रेंस तक सीमित नहीं है. ICLR 2026 के लिए समीक्षा में चल रहे पेपर्स में भी 50 से ज्यादा फर्जी सिटेशन पकड़े गए. इसके अलावा, arXiv जैसे प्री-प्रिंट प्लेटफॉर्म पर भी कम गुणवत्ता वाले, AI-जनरेटेड रिसर्च पेपर्स की संख्या तेजी से बढ़ रही है. एक विश्लेषण के अनुसार, जो शोधकर्ता LLM आधारित टूल्स का इस्तेमाल कर रहे हैं, वे दूसरों की तुलना में करीब 33 प्रतिशत ज्यादा पेपर्स सबमिट कर रहे हैं. GPTZero ने नकली सिटेशन कैसे पकड़े? GPTZero ने अपने खास AI टूल ‘Hallucination Check’ का इस्तेमाल किया. इस टूल ने हजारों रिसर्च पेपर्स में दिए गए रेफरेंस को स्कैन किया और उन सिटेशन को चिन्हित किया, जिनका कोई ऑनलाइन रिकॉर्ड नहीं मिला. इसके बाद, AI द्वारा संदिग्ध बताए गए हर सिटेशन की इंसानों ने मैन्युअल जांच भी की ताकि गलती की गुंजाइश न रहे. यह भी पढ़ें: बिना OTP भी हैक हो सकता है WhatsApp! इस फ्रॉड से बचने के ये 5 जरूरी स्टेप्स जरूर ध्यान रखें
Artificial Intelligence: आर्टिफिशियल इंटेलिजेंस (AI) पर भरोसा तेजी से बढ़ रहा है लेकिन अब यही तकनीक वैज्ञानिक शोध की विश्वसनीयता पर सवाल खड़े कर रही है. हालिया रिपोर्ट में खुलासा हुआ है कि दुनिया की प्रतिष्ठित AI कॉन्फ्रेंस में शामिल कई रिसर्च पेपर्स में ऐसे रेफरेंस पाए गए जो असल में मौजूद ही नहीं थे. ये रेफरेंस AI टूल्स द्वारा गढ़े गए थे जिन्हें विशेषज्ञ भाषा में हैलुसिनेशन कहा जाता है.
NeurIPS में सामने आया चौंकाने वाला मामला
AI और मशीन लर्निंग की सबसे बड़ी कॉन्फ्रेंस मानी जाने वाली NeurIPS 2025 में स्वीकार किए गए 51 रिसर्च पेपर्स में फर्जी, AI-जनरेटेड सिटेशन पाए गए. यह जानकारी AI डिटेक्शन स्टार्टअप GPTZero की रिपोर्ट में सामने आई. कुल 4,841 रिसर्च पेपर्स की जांच के दौरान इन 51 पेपर्स में 100 से ज्यादा ऐसे रेफरेंस मिले जिनका कोई वास्तविक अस्तित्व नहीं था.
कम संख्या, लेकिन बड़ा असर
भले ही 4,800 से ज्यादा पेपर्स में से 51 का आंकड़ा सांख्यिकीय रूप से छोटा लगे लेकिन NeurIPS की नीति बेहद सख्त है. यहां किसी भी रिसर्च पेपर में अगर एक भी झूठा सिटेशन पाया जाता है तो वह पेपर खारिज या रद्द किया जा सकता है. खास बात यह है कि इन पेपर्स को पहले ही मंजूरी मिल चुकी थी, इन्हें मंच पर प्रस्तुत भी किया गया और औपचारिक रूप से प्रकाशित माना गया.
टॉप AI एक्सपर्ट्स भी क्यों चूक रहे हैं?
NeurIPS में पेपर स्वीकार होना अपने आप में बड़ी उपलब्धि मानी जाती है. यहां मुख्य ट्रैक में चयन की दर करीब 25 प्रतिशत रहती है यानी हजारों पेपर्स को पीछे छोड़कर ये रिसर्च चुनी जाती हैं. GPTZero की रिपोर्ट यह दिखाती है कि दुनिया के शीर्ष AI शोधकर्ता भी जिन AI टूल्स का इस्तेमाल कर रहे हैं उनकी सटीकता की पूरी तरह जांच नहीं कर पा रहे हैं.
समस्या सिर्फ NeurIPS तक सीमित नहीं
AI से जुड़ी यह दिक्कत केवल एक कॉन्फ्रेंस तक सीमित नहीं है. ICLR 2026 के लिए समीक्षा में चल रहे पेपर्स में भी 50 से ज्यादा फर्जी सिटेशन पकड़े गए. इसके अलावा, arXiv जैसे प्री-प्रिंट प्लेटफॉर्म पर भी कम गुणवत्ता वाले, AI-जनरेटेड रिसर्च पेपर्स की संख्या तेजी से बढ़ रही है. एक विश्लेषण के अनुसार, जो शोधकर्ता LLM आधारित टूल्स का इस्तेमाल कर रहे हैं, वे दूसरों की तुलना में करीब 33 प्रतिशत ज्यादा पेपर्स सबमिट कर रहे हैं.
GPTZero ने नकली सिटेशन कैसे पकड़े?
GPTZero ने अपने खास AI टूल ‘Hallucination Check’ का इस्तेमाल किया. इस टूल ने हजारों रिसर्च पेपर्स में दिए गए रेफरेंस को स्कैन किया और उन सिटेशन को चिन्हित किया, जिनका कोई ऑनलाइन रिकॉर्ड नहीं मिला. इसके बाद, AI द्वारा संदिग्ध बताए गए हर सिटेशन की इंसानों ने मैन्युअल जांच भी की ताकि गलती की गुंजाइश न रहे.
यह भी पढ़ें:
बिना OTP भी हैक हो सकता है WhatsApp! इस फ्रॉड से बचने के ये 5 जरूरी स्टेप्स जरूर ध्यान रखें
What's Your Reaction?
