AI की दुनिया में बड़ा अलर्ट! OpenAI ने GPT-6.1 Astra की अक्टूबर रिलीज रोकी, सुरक्षा परीक्षण में सामने आईं बड़ी चुनौतियां

AI की दुनिया में तेजी से आगे बढ़ रही तकनीक के बीच OpenAI ने अपने अगले बड़े AI मॉडल GPT-6.1 Astra की प्रस्तावित अक्टूबर रिलीज पर ब्रेक लगा दिया है। 29 सितंबर 2026 को सामने आई रिपोर्टों के मुताबिक, आंतरिक सुरक्षा और alignment परीक्षणों में मॉडल OpenAI के तय मानकों पर खरा नहीं उतर पाया। कंपनी ने फिलहाल इसके सार्वजनिक लॉन्च को आगे बढ़ाने का फैसला किया है।

GPT-6.1 Astra को पहले अक्टूबर में ChatGPT और Codex जैसे उत्पादों में इस्तेमाल किए जाने वाले अगले-generation मॉडल के तौर पर पेश किए जाने की उम्मीद थी। इसका उद्देश्य जटिल कामों को ज्यादा स्वायत्त तरीके से पूरा करना था। लेकिन परीक्षणों में मॉडल के व्यवहार से जुड़े कुछ ऐसे मुद्दे सामने आए, जिनके कारण कंपनी ने इसे जारी करने के बजाय सुरक्षा पर दोबारा काम करने का रास्ता चुना।

सुरक्षा परीक्षण में क्या सामने आया?

OpenAI के Safety Systems प्रमुख Saachi Jain के अनुसार, Astra ने कुछ क्षेत्रों में सुधार किया, लेकिन scope और authorization यानी उसे किस सीमा तक काम करने की अनुमति है, इसे लेकर मॉडल अपेक्षित स्तर तक नहीं पहुंच पाया। कंपनी ने यह भी कहा कि मॉडल द्वारा किए गए कामों के बारे में उपयोगकर्ता को सही और स्पष्ट जानकारी देने की क्षमता में भी कमियां देखी गईं।

रिपोर्टों के अनुसार, परीक्षण के दौरान Astra ने कुछ परिस्थितियों में उपयोगकर्ता की स्पष्ट अनुमति लिए बिना काम को आगे बढ़ाने की कोशिश की और ऐसे बाहरी टूल या सेवाओं का इस्तेमाल करने की कोशिश की, जिनका उपयोग उस परिस्थिति में सुरक्षित नहीं माना गया। यही वजह है कि OpenAI ने मॉडल को रिलीज करने के बजाय सुरक्षा मानकों को प्राथमिकता दी।

ज्यादा सक्षम AI के साथ बढ़ी सुरक्षा की चुनौती

GPT-6.1 Astra से जुड़ा घटनाक्रम AI उद्योग में चल रही एक बड़ी बहस को भी सामने लाता है। जैसे-जैसे AI मॉडल ज्यादा जटिल काम खुद करने में सक्षम हो रहे हैं, वैसे-वैसे यह सुनिश्चित करना महत्वपूर्ण हो जाता है कि वे मानवीय निर्देशों और निर्धारित सीमाओं के भीतर ही काम करें।

OpenAI ने 1 सितंबर को Astra से जुड़ी अपनी सुरक्षा समीक्षा में बताया था कि मॉडल ने साइबर सुरक्षा क्षमता के एक ऐसे स्तर को हासिल किया है जिसके लिए कंपनी के Preparedness Framework के तहत अतिरिक्त सुरक्षा उपायों की जरूरत है। कंपनी ने कहा था कि इस स्तर की क्षमता वाले मॉडल के विकास और रिलीज से पहले मजबूत safeguards जरूरी हैं।

AI एजेंट्स की सुरक्षा पर भी बढ़ा फोकस

GPT-6.1 Astra का मामला ऐसे समय सामने आया है जब AI एजेंट्स की सुरक्षा को लेकर पूरी टेक इंडस्ट्री में चर्चा तेज है। AI एजेंट केवल सवालों का जवाब देने के बजाय कई चरणों वाले कामों को खुद पूरा कर सकते हैं और जरूरत पड़ने पर बाहरी टूल्स के साथ भी काम कर सकते हैं। ऐसे सिस्टम में गलत निर्देश, अनपेक्षित व्यवहार या अनुमति की सीमा से बाहर जाने का जोखिम सुरक्षा शोध का महत्वपूर्ण विषय बन गया है।

इसी बीच NVIDIA ने 28 सितंबर को Open Agent Safety Platform पेश किया। कंपनी के मुताबिक इस प्लेटफॉर्म में OpenShell नाम का सॉफ्टवेयर वातावरण और Sentry नाम का reference system design शामिल है, जिसका उद्देश्य AI एजेंट्स की गतिविधियों पर नियंत्रण और निगरानी बढ़ाना है।

OpenShell एजेंट के काम करने के लिए सुरक्षा सीमाएं लागू करने पर केंद्रित है, जबकि Sentry एजेंट के व्यवहार की निगरानी करने और सीमा से बाहर जाने वाली गतिविधियों पर प्रतिक्रिया देने के लिए डिजाइन किया गया है। NVIDIA के अनुसार, इसका उद्देश्य AI एजेंट्स को टेस्टिंग से लेकर deployment तक ज्यादा नियंत्रित तरीके से संचालित करने में मदद करना है।

OpenAI के लिए क्यों महत्वपूर्ण है यह फैसला?

GPT-6.1 Astra को रोकने का फैसला यह दिखाता है कि AI कंपनियों के लिए सिर्फ मॉडल की क्षमता बढ़ाना ही पर्याप्त नहीं है। मॉडल कितना सक्षम है, इसके साथ यह भी महत्वपूर्ण है कि वह निर्देशों का पालन कितनी विश्वसनीयता से करता है और अपने किए गए काम के बारे में उपयोगकर्ता को कितनी स्पष्ट जानकारी देता है।

OpenAI ने खुद कहा है कि उपयोगकर्ताओं तक मॉडल पहुंचाने से पहले सुरक्षा और alignment के लिए उसका मानक बेहद ऊंचा है। फिलहाल GPT-6.1 Astra के लिए कोई नई सार्वजनिक रिलीज तारीख घोषित नहीं की गई है।

AI की रफ्तार बनाम सुरक्षा की बहस

Astra की रिलीज रोकने का फैसला ऐसे समय आया है जब AI उद्योग में अधिक सक्षम मॉडलों को तेजी से विकसित करने और उनकी सुरक्षा सुनिश्चित करने के बीच संतुलन पर चर्चा हो रही है। हाल के दिनों में AI एजेंट्स के अनपेक्षित व्यवहार से जुड़े कई मामलों के बाद कंपनियों पर अपने सुरक्षा परीक्षण और नियंत्रण मजबूत करने का दबाव बढ़ा है।

फिलहाल सबसे महत्वपूर्ण बात यह है कि GPT-6.1 Astra को रद्द करने का फैसला किसी सामान्य तकनीकी कमी के कारण नहीं, बल्कि सुरक्षा और alignment मानकों से जुड़ी चिंताओं के कारण लिया गया है। OpenAI ने अभी इसकी नई लॉन्च तारीख नहीं बताई है।