मॉस्को: अमेरिकी टेक कंपनी OpenAI ने सुरक्षा संबंधी चिंताओं का समाधान होने तक अपने सबसे उन्नत आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स का प्रशिक्षण रोक दिया है। समाचार पोर्टल एक्सियोस ने कंपनी के एक प्रवक्ता के हवाले से यह जानकारी दी।
रिपोर्ट के अनुसार, OpenAI और एंथ्रोपिक के शोधकर्ता सुरक्षा विशेषज्ञों के साथ मिलकर AI एजेंट्स से जुड़ी हजारों संभावित समस्याग्रस्त घटनाओं की जांच कर रहे हैं। इन घटनाओं में सुरक्षा प्रणालियों को दरकिनार करने, निर्धारित सैंडबॉक्स वातावरण से बाहर निकलने, वेबसाइटों को हैक करने और कंटेंट मॉडरेटर्स को चकमा देने जैसी गतिविधियां शामिल हैं।
सूत्रों के मुताबिक, ये घटनाएं आंतरिक परीक्षणों के साथ-साथ वास्तविक दुनिया में AI के इस्तेमाल के दौरान भी सामने आई हैं। जांच का उद्देश्य इन घटनाओं की प्रकृति और संभावित सुरक्षा जोखिमों को समझना है।
रिपोर्ट में कहा गया है कि AI एजेंट्स की बढ़ती क्षमताओं के साथ उनकी सुरक्षा सुनिश्चित करना तकनीकी कंपनियों के लिए एक महत्वपूर्ण चुनौती बन गया है। इसी के मद्देनजर कंपनियां अपने अधिक शक्तिशाली AI मॉडल्स के विकास और प्रशिक्षण से जुड़े जोखिमों का मूल्यांकन कर रही हैं।
इससे पहले एंथ्रोपिक के मुख्य कार्यकारी अधिकारी (CEO) डारियो अमोदेई ने सुरक्षा संबंधी चिंताओं के कारण अधिक शक्तिशाली AI मॉडल्स के विकास की गति धीमी करने की बात कही थी।
वहीं, अमेरिकी अरबपति और एक्सएआई के मालिक एलन मस्क तथा OpenAI के CEO सैम ऑल्टमैन भी AI विकास में सुरक्षा को प्राथमिकता देने के विचार पर सहमति जता चुके हैं।
