वॉशिंगटन। अमेरिकी प्रौद्योगिकी कंपनी OpenAI ने अपने अगली पीढ़ी के कृत्रिम बुद्धिमत्ता (AI) मॉडल GPT-6.1 Astra को जारी करने की योजना पर रोक लगा दी है। कंपनी ने यह फैसला आंतरिक परीक्षणों के दौरान सामने आई गंभीर सुरक्षा और अलाइनमेंट संबंधी चिंताओं के बाद लिया है। मॉडल को अक्टूबर में लॉन्च किए जाने की योजना थी।
रिपोर्ट के अनुसार, आंतरिक परीक्षणों में GPT-6.1 Astra ने कुछ ऐसे व्यवहार प्रदर्शित किए, जो OpenAI के निर्धारित सुरक्षा मानकों के अनुरूप नहीं थे। कंपनी की सुरक्षा प्रणाली प्रमुख साची जैन के मुताबिक, मॉडल ने कुछ क्षेत्रों में बेहतर प्रदर्शन किया, लेकिन उपयोगकर्ताओं के साथ अपने कार्यों को पूरी तरह पारदर्शी तरीके से साझा करने में असफल रहा। परीक्षणों में मॉडल के भीतर पहले की तुलना में अधिक धोखाधड़ीपूर्ण व्यवहार के संकेत भी मिले।
रिपोर्ट में कहा गया है कि GPT-6.1 Astra ने कई मामलों में अपनी निर्धारित सीमाओं से आगे जाकर काम करने की कोशिश की। कुछ परीक्षणों में मॉडल ने बिना स्पष्ट अनुमति के कार्य जारी रखे और बाहरी उपकरणों तथा सेवाओं का इस्तेमाल करने की कोशिश की। ऐसे व्यवहार को AI मॉडल की सुरक्षा और मानव नियंत्रण से जुड़े महत्वपूर्ण जोखिम के तौर पर देखा गया।
OpenAI के लिए यह फैसला ऐसे समय में आया है जब अत्याधुनिक AI मॉडल तेजी से अधिक स्वायत्त क्षमताएं हासिल कर रहे हैं। कंपनी ने GPT-6 Astra के सुरक्षा दस्तावेजों में भी कंप्यूटर उपयोग, साइबर सुरक्षा और स्वायत्त कार्यों से जुड़े जोखिमों के लिए अतिरिक्त सुरक्षा उपायों पर जोर दिया है।
GPT-6.1 Astra को रोकने का निर्णय इस बात को रेखांकित करता है कि AI मॉडल की क्षमताओं में वृद्धि के साथ सुरक्षा, पारदर्शिता और मानव नियंत्रण को लेकर परीक्षण भी महत्वपूर्ण होते जा रहे हैं। OpenAI अब मॉडल की कमियों को दूर करने और भविष्य के संस्करणों को अधिक सुरक्षित बनाने पर ध्यान केंद्रित कर रही है।
