AI खतरे पर अलर्ट, OpenAI से सॉफ्टबैंक तक उठी न्यूक्लियर लेवल सुरक्षा की मांग
AI की दुनिया में हर नए मॉडल के साथ उसकी ताकत बढ़ रही है, लेकिन अब इसी बढ़ती क्षमता के साथ उसके संभावित खतरों को लेकर चिंता भी तेज हो रही है. OpenAI के AI Safety से जुड़े पूर्व कर्मचारी डेविड रॉबिन्सन ने कंपनी छोड़ने के बाद AI कंपनियों के सुरक्षा इंतजामों पर सवाल उठाए हैं. वहीं SoftBank के CEO मासायोशी सोन ने भी बहुत पावरफुल AI मॉडल्स से पैदा होने वाले जोखिमों को लेकर देशों से मिलकर काम करने और इस तकनीक को कंट्रोल करने की जरूरत बताई है. तो आइए जानते हैं कि OpenAI से सॉफ्टबैंक तक एआई के क्या खतरे बताए हैं. OpenAI के पूर्व कर्मचारी ने क्यों जताई चिंता? OpenAI की Safety Team में ट्रांसपेरेंसी से जुड़ा काम कर चुके डेविड रॉबिन्सन ने कंपनी के काम करने के तरीके पर अपनी चिंता जाहिर की. उनके मुताबिक OpenAI ने काफी हद तक Trial and Error के जरिए आगे बढ़ते हुए AI को विकसित किया है, लेकिन जैसे-जैसे AI मॉडल ज्यादा सक्षम हो रहे हैं, किसी गलती के परिणाम भी ज्यादा गंभीर हो सकते हैं. रॉबिन्सन ने यह भी बताया कि टेस्टिंग के दौरान AI के अपने तय व्यवहार से हटकर काम करने के मामले सामने आए हैं. उनका कहना है कि तेज लॉन्च के बीच कंपनियों को ऐसी सुरक्षा चाहिए, जिसमें पहली बार में ही ज्यादा सावधानी बरती जाए. AI से क्या-क्या खतरे बताए जा रहे हैं? AI कंपनियों के कुछ कर्मचारियों ने हाल के समय में इसके बहुत गंभीर जोखिमों को लेकर चेतावनी दी है. चिंता छोट सिस्टम फेलियर की नहीं, बल्कि बहुत पावरफुल AI के गलत तरीके से इस्तेमाल या कंट्रोल से बाहर होने की स्थिति को लेकर भी है. एक्सपर्ट्स का मानना है कि फ्यूचर में यह तकनीक इंसानों के लिए बहुत बड़ा खतरा बन सकती है. इसी वजह से रॉबिन्सन ने AI कंपनियों की सुरक्षा व्यवस्था की तुलना न्यूक्लियर पावर प्लांट से करने की बात कही है. उनका कहना है कि AI सिस्टम में कई स्तर की सुरक्षा, अतिरिक्त सुरक्षा व्यवस्था और पर्याप्त समय लेकर की जाने वाली टेस्टिंग होनी चाहिए, जिससे इंसानी गलती किसी बड़े हादसे का कारण न बने. यह भी पढ़ें - घर के लिए खरीदने जा रहे हैं इलेक्ट्रिक चिमनी, इन बातों को रखें ध्यान SoftBank CEO ने भी AI को लेकर दी चेतावनी SoftBank के CEO मासायोशी सोन ने भी AI की तेजी से बढ़ती क्षमताओं को लेकर सावधानी बरतने की बात कही है. क्योटो में एक कार्यक्रम के दौरान उन्होंने कहा कि AI की क्षमता तेजी से बढ़ रही है और देशों को इस तकनीक को सुरक्षित तरीके से आगे बढ़ाने के लिए आपस में भरोसा बनाकर काम करना होगा. सोन के मुताबिक, पावरफुल AI मॉडल अगर गलत हाथों में चले जाएं तो यह बहुत खतरनाक साबित हो सकते हैं. उन्होंने देशों के बीच सहयोग की जरूरत पर जोर दिया, जिससे AI से जुड़े बड़े जोखिमों को कंट्रोल किया जा सके. वेबसाइट और कोड से रोबोट तक पहुंच रहा AI सोन ने बताया कि आज AI सेवाएं वेबसाइट ब्राउज करने और कोड लिखने जैसे काम कर रही हैं. आने वाले चरण में यही तकनीक रोबोट और दूसरी मशीनों को असल दुनिया में काम करने में मदद कर सकती है. यही बढ़ती क्षमता AI की सुरक्षा को लेकर चिंता को और जरूरी बनाती है. यह भी पढ़ें - FOR MORNING: ठगी वाले मैसेज को पहचानने में मदद करेगा WhatsApp, नई सेटिंग करें एक्टिव
AI की दुनिया में हर नए मॉडल के साथ उसकी ताकत बढ़ रही है, लेकिन अब इसी बढ़ती क्षमता के साथ उसके संभावित खतरों को लेकर चिंता भी तेज हो रही है. OpenAI के AI Safety से जुड़े पूर्व कर्मचारी डेविड रॉबिन्सन ने कंपनी छोड़ने के बाद AI कंपनियों के सुरक्षा इंतजामों पर सवाल उठाए हैं.
वहीं SoftBank के CEO मासायोशी सोन ने भी बहुत पावरफुल AI मॉडल्स से पैदा होने वाले जोखिमों को लेकर देशों से मिलकर काम करने और इस तकनीक को कंट्रोल करने की जरूरत बताई है. तो आइए जानते हैं कि OpenAI से सॉफ्टबैंक तक एआई के क्या खतरे बताए हैं.
OpenAI के पूर्व कर्मचारी ने क्यों जताई चिंता?
OpenAI की Safety Team में ट्रांसपेरेंसी से जुड़ा काम कर चुके डेविड रॉबिन्सन ने कंपनी के काम करने के तरीके पर अपनी चिंता जाहिर की. उनके मुताबिक OpenAI ने काफी हद तक Trial and Error के जरिए आगे बढ़ते हुए AI को विकसित किया है, लेकिन जैसे-जैसे AI मॉडल ज्यादा सक्षम हो रहे हैं, किसी गलती के परिणाम भी ज्यादा गंभीर हो सकते हैं.
रॉबिन्सन ने यह भी बताया कि टेस्टिंग के दौरान AI के अपने तय व्यवहार से हटकर काम करने के मामले सामने आए हैं. उनका कहना है कि तेज लॉन्च के बीच कंपनियों को ऐसी सुरक्षा चाहिए, जिसमें पहली बार में ही ज्यादा सावधानी बरती जाए.
AI से क्या-क्या खतरे बताए जा रहे हैं?
AI कंपनियों के कुछ कर्मचारियों ने हाल के समय में इसके बहुत गंभीर जोखिमों को लेकर चेतावनी दी है. चिंता छोट सिस्टम फेलियर की नहीं, बल्कि बहुत पावरफुल AI के गलत तरीके से इस्तेमाल या कंट्रोल से बाहर होने की स्थिति को लेकर भी है. एक्सपर्ट्स का मानना है कि फ्यूचर में यह तकनीक इंसानों के लिए बहुत बड़ा खतरा बन सकती है. इसी वजह से रॉबिन्सन ने AI कंपनियों की सुरक्षा व्यवस्था की तुलना न्यूक्लियर पावर प्लांट से करने की बात कही है. उनका कहना है कि AI सिस्टम में कई स्तर की सुरक्षा, अतिरिक्त सुरक्षा व्यवस्था और पर्याप्त समय लेकर की जाने वाली टेस्टिंग होनी चाहिए, जिससे इंसानी गलती किसी बड़े हादसे का कारण न बने.
यह भी पढ़ें - घर के लिए खरीदने जा रहे हैं इलेक्ट्रिक चिमनी, इन बातों को रखें ध्यान
SoftBank CEO ने भी AI को लेकर दी चेतावनी
SoftBank के CEO मासायोशी सोन ने भी AI की तेजी से बढ़ती क्षमताओं को लेकर सावधानी बरतने की बात कही है. क्योटो में एक कार्यक्रम के दौरान उन्होंने कहा कि AI की क्षमता तेजी से बढ़ रही है और देशों को इस तकनीक को सुरक्षित तरीके से आगे बढ़ाने के लिए आपस में भरोसा बनाकर काम करना होगा. सोन के मुताबिक, पावरफुल AI मॉडल अगर गलत हाथों में चले जाएं तो यह बहुत खतरनाक साबित हो सकते हैं. उन्होंने देशों के बीच सहयोग की जरूरत पर जोर दिया, जिससे AI से जुड़े बड़े जोखिमों को कंट्रोल किया जा सके.
वेबसाइट और कोड से रोबोट तक पहुंच रहा AI
सोन ने बताया कि आज AI सेवाएं वेबसाइट ब्राउज करने और कोड लिखने जैसे काम कर रही हैं. आने वाले चरण में यही तकनीक रोबोट और दूसरी मशीनों को असल दुनिया में काम करने में मदद कर सकती है. यही बढ़ती क्षमता AI की सुरक्षा को लेकर चिंता को और जरूरी बनाती है.
यह भी पढ़ें - FOR MORNING: ठगी वाले मैसेज को पहचानने में मदद करेगा WhatsApp, नई सेटिंग करें एक्टिव
What's Your Reaction?
