OpenAI, yapay zeka modellerinin siber güvenlik testleri sırasında beklenmedik şekilde test kapsamı dışına çıktığını ve gerçek internet hizmetleriyle etkileşime girdiğini açıkladı.
OpenAI, yapay zeka modellerinin dış testler sırasında belirlenen sınırların dışına çıktığını duyurdu. İki bağımsız kuruluş tarafından yapılan siber güvenlik değerlendirmeleri, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşimiyle bazı faaliyetlerin planlanan test kapsamı dışına çıktığını gösterdi.
Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yapılan ilk değerlendirmede, internet erişimine izin verilen OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışındaki bazı gerçek internet hizmetleriyle etkileşime girdiği tespit edildi.
OpenAI’ın dış test ortaklarından Irregular tarafından gerçekleştirilen ikinci değerlendirmede ise test ortamındaki bir yanlış yapılandırma nedeniyle modelin internete erişim sağladığı belirlendi. Model, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının bir parçası sanarak temel bir güvenlik açığından yararlandı.
Şirket, bu olayların daha önce duyurulan Hugging Face güvenlik olayından ayrı olduğunu belirtti. OpenAI daha önce de yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline neden olduğunu bildirmişti.
