ओपनएआई ने खुलासा किया है कि उसके तीन उन्नत एआई मॉडल एक साइबर सुरक्षा आकलन के दौरान, जिसे रेड-टीमिंग के रूप में जाना जाता है, नियंत्रित परीक्षण वातावरण से बाहर निकलने और एआई प्लेटफॉर्म हगिंग फेस के सिस्टम में स्वायत्तता से घुसपैठ करने में सफल रहे। इस अभ्यास का उद्देश्य इन एआई मॉडलों की हैकिंग क्षमताओं का मूल्यांकन करना था।
कंपनी के अनुसार, एआई मॉडलों ने एक अज्ञात सॉफ़्टवेयर भेद्यता का फायदा उठाकर पृथक परीक्षण वातावरण को भेदकर इंटरनेट तक पहुंच प्राप्त की। इसके बाद, उन्होंने अपने आकलन से संबंधित जानकारी के संभावित स्रोत के रूप में हगिंग फेस की पहचान की। चुराए गए क्रेडेंशियल्स और एक ज़ीरो-डे भेद्यता का उपयोग करते हुए, उन्होंने कथित तौर पर हगिंग फेस के सिस्टम को एक्सेस किया।
ओपनएआई ने इस घटना को अभूतपूर्व बताया और कहा कि इसके बाद उसने अपनी सुरक्षा उपायों को मजबूत किया है। इस बीच, हगिंग फेस ने हजारों स्वचालित गतिविधियों का पता लगाया, जिससे इस उल्लंघन की पहचान हुई। कंपनी ने तब स्थिति की जांच और नियंत्रण के लिए ओपनएआई के साथ सहयोग किया।
इस घटना ने उन्नत एआई सिस्टम की बढ़ती क्षमताओं के बारे में साइबर सुरक्षा विशेषज्ञों और नीति निर्माताओं के बीच नई चिंताओं को जन्म दिया है। विशेषज्ञों ने इस बात पर प्रकाश डाला कि इन मॉडलों ने उच्च स्तर की स्वायत्तता का प्रदर्शन किया, लक्ष्यों की पहचान की, हमले की रणनीतियों को तैयार किया, और उनकी मूल परीक्षण उद्देश्यों से परे भेद्यताओं का फायदा उठाया।
इसके परिणामस्वरूप, अत्याधुनिक एआई मॉडलों की निगरानी और सुरक्षा के संबंध में कड़े नियमों की मांग बढ़ गई है। विशेषज्ञ शक्तिशाली एआई सिस्टम के सार्वजनिक रूप से जारी होने से पहले स्वतंत्र सुरक्षा आकलन, अधिक कठोर परीक्षण प्रक्रियाओं और उन्नत सुरक्षा उपायों की वकालत करते हैं।