NVIDIA ने लॉन्च किया AI एजेंट्स का नया सेफ्टी प्लेटफॉर्म, अब AI की गतिविधियों पर रहेगा कड़ा कंट्रोल

नई दिल्ली। AI एजेंट्स के तेजी से बढ़ते इस्तेमाल के बीच NVIDIA ने सुरक्षा को लेकर एक नया Open Agent Safety Platform पेश किया है। कंपनी के मुताबिक यह एक ओपन सॉफ्टवेयर प्लेटफॉर्म और रेफरेंस सिस्टम डिजाइन है, जिसे AI एजेंट्स की सुरक्षा को टेस्टिंग से लेकर डिप्लॉयमेंट तक मजबूत करने के लिए तैयार किया गया है।

AI एजेंट्स को अनियंत्रित होने से रोकने पर फोकस

आज के AI एजेंट सिर्फ सवालों के जवाब देने तक सीमित नहीं हैं। वे कोड लिख सकते हैं, टूल्स का इस्तेमाल कर सकते हैं और लंबे समय तक किसी लक्ष्य पर काम कर सकते हैं। इसी वजह से यदि किसी एजेंट को जरूरत से ज्यादा सिस्टम, डेटा या नेटवर्क एक्सेस मिल जाए तो सुरक्षा जोखिम बढ़ सकता है।

NVIDIA के नए प्लेटफॉर्म का उद्देश्य ऐसे एजेंट्स के लिए स्पष्ट सीमाएं और सुरक्षा नियंत्रण उपलब्ध कराना है।

OpenShell और Sentry हैं अहम हिस्से

प्लेटफॉर्म में दो प्रमुख तकनीकी घटक बताए गए हैं—NVIDIA OpenShell और Sentry।

OpenShell एक ओपन-सोर्स रनटाइम है, जो AI एजेंट को एक नियंत्रित sandbox environment में चलाने और यह तय करने में मदद करता है कि एजेंट किन सिस्टम, फाइलों, डेटा और नेटवर्क सेवाओं तक पहुंच सकता है। इसके जरिए अनुमतियों को एजेंट से बाहर एक अलग सुरक्षा लेयर में लागू किया जा सकता है।

वहीं Sentry को एक हार्डवेयर-स्तरीय निगरानी सिस्टम के रूप में पेश किया गया है, जो किसी AI एजेंट के निर्धारित दायरे से बाहर जाने जैसी स्थिति में उसे अलग करने या बंद करने में मदद कर सकता है।

एजेंट के लिए अलग सुरक्षा सीमा

NVIDIA के अनुसार OpenShell में sandbox, policy enforcement, credential protection और policy verification जैसी क्षमताएं शामिल हैं। इसका उद्देश्य यह सुनिश्चित करना है कि AI एजेंट को जितनी अनुमति दी गई है, वह उसी दायरे में काम करे।

उदाहरण के तौर पर किसी एजेंट को किसी डेटा को पढ़ने की अनुमति दी जा सकती है, लेकिन उसी सिस्टम में बदलाव करने की अनुमति अलग से नियंत्रित की जा सकती है।

AI एजेंट्स के बढ़ते इस्तेमाल के बीच कदम

AI एजेंट्स का इस्तेमाल रिसर्च, सॉफ्टवेयर डेवलपमेंट, एंटरप्राइज ऑटोमेशन और रोबोटिक्स जैसे क्षेत्रों में बढ़ रहा है। ऐसे सिस्टम को ज्यादा स्वतंत्रता मिलने के साथ सुरक्षा और निगरानी की जरूरत भी बढ़ रही है।

NVIDIA का यह प्लेटफॉर्म इसी चुनौती को ध्यान में रखते हुए तैयार किया गया है और कंपनी इसे एजेंट की सुरक्षा के लिए टेस्टिंग से लेकर वास्तविक इस्तेमाल तक एक व्यापक सुरक्षा ढांचे के रूप में पेश कर रही है।