एआई: बेकाबू एआई को रोकने के लिए ओपनएआई ने तैयार किया खास सिस्टम, जानिए क्या है कंट्रोल रूम और कैसे करता है काम
एआई सिर्फ चैटबॉट तक सीमित नहीं रहा है। वह अब ऐसे डिजिटल एजेंट्स के रूप में बदल रहा है, जो खुद फैसले ले सकताहैऔर बिना इंसानी मदद के कई काम पूरे कर सकताहै। हालांकि, ये एआई एजेंट्स अपने शुरुआती विकास के दौर में ही हैं लेकिन इनसे जुड़ी कई ऐसी चिंताएं सामने आने लगी हैं, जिनको लेकर तकनीकी विशषज्ञ अभी से डरने लगेहैं। बीते कुछ महीनों पहले हुई हगिंग फेस की घटना इनमें से एक है। ओपनएआई अपनेएजेंट्स की एक खास तरह की टेस्टिंग लेरहा था। इन एआई एजेंट्स को डिजिटल सैंडबॉक्स में कैद करके रखा गया था, जहां इंटरनेट का कोई एक्सेस इन्हें नहीं दिया गया था। इसके बावजूद इन्होंने सिस्टम में तकनीकी खामियां ढूंढ निकालीऔर इंटरनेट तक पहुंच हासिल कर ली। इसके बाद इन एजेंट्स ने मिलकर हगिंग फेस के सिस्टम को हैक कर लिया। इसी तरह के खतरे से निपटने के लिए ओपनएआई ने एक नया सुरक्षा सिस्टम तैयार किया है। इसका नाम कंट्रोल रूम रखा गया है। इसे एआई के लिए एक तरह का इमरजेंसी ब्रेक या किल स्विच कहा जा सकता है। ओपनएआई ने अपने एक ब्लॉग पोस्ट में बताया कि कंट्रोल रूम उसके रिसर्च इंफ्रास्ट्रक्चर में लागू किया जा चुका है। यह सिस्टम कंपनी के एआई मॉडल्स द्वारा किए जा रहे कामों पर नजर रखता है। अगर रिसर्चर्स को किसी मॉडल की गतिविधि संदिग्ध लगती है या वह तय सीमाओं से बाहर जाने लगता है, तो वे उसके काम को रोक सकते हैं। कंपनी के मुताबिककिसी टास्क को रोकने का फैसला लेने के बाद कंट्रोल रूम अधिकतम 35 सेकंड के भीतर मॉडल का आउटपुट बंद कर सकता है। इसमें एक फेल-सेफ सिस्टम भी मौजूद है, जो यह सुनिश्चित करता है कि दूसरे सिस्टम फेल हो जाने या खुद कंट्रोल रूम के बंद पड़ जाने की स्थिति में भी यह काम करता रहे।आपको बता दें कि ओपनएआई का यह कदम उन घटनाओं के बाद आया है, जिनमें उसके कुछ टेस्टिंग एआई एजेंट्स सुरक्षा सीमाएं पार कर गए थे। इन एजेंट्स ने बिना अनुमति इंटरनेट तक पहुंच बनाई और हगिंग फेस समेत भारत, अमेरिका, कनाडा और ऑस्ट्रेलिया की सरकारी वेबसाइटों को निशाना बनाने की कोशिश की थी। ऐसे में यह कंट्रोल रूम एआई को ज्यादा सुरक्षित तरीके से विकसित करने की दिशा में ओपनएआई का अच्छा कदम है।
- Source: www.amarujala.com
- Published: Nov 11, 2026, 19:55 IST
एआई: बेकाबू एआई को रोकने के लिए ओपनएआई ने तैयार किया खास सिस्टम, जानिए क्या है कंट्रोल रूम और कैसे करता है काम #IndiaNews #National #OpenaiControlRoom #AiKillSwitch #RogueAiAgents #AiSafety #SubahSamachar