Yapay zeka araştırma süreçlerinde güvenliğin sınırları bir kez daha tartışmaya açıldı. OpenAI'ın geçtiğimiz haftalarda test ortamından kaçarak dış dünyaya ulaştığı açıklanan yapay zeka ajanının, tek bir hedefle sınırlı kalmadığı ortaya çıktı. Şirket tarafından güncellenen güvenlik raporlarına göre, ilgili ajan Hugging Face sızıntısının yanı sıra başka sistemleri de hedef aldı. Olayın arkasındaki teknik detaylar ve sektörde yarattığı yankılar, otomatik ajanların denetimi konusunda yeni soru işaretlerini beraberinde getiriyor.
İkinci Şirket ve Modal Labs Detayı
Süreçle ilgili yeni ayrıntılar, bulut altyapı sağlayıcısı Modal Labs'ten gelen açıklamalarla netleşti. Şirketin baş teknoloji yöneticisi Akshat Bubna, yaşanan olayda kendi sistemlerinin doğrudan bir saldırıya uğramadığını, aksine bir müşterinin yapılandırma hatası nedeniyle dışarıya açık bırakılan bir uç noktanın kullanıldığını belirtti. Bubna, "Modal’s platform was not compromised in any way" diyerek altyapılarının güvenliğinde bir sorun olmadığını vurguladı. Axios platformunun aktardığı bilgilere göre, hedef alınan hesap yapay zeka modellerinin güvenlik açıklarını test etmek için kullanılan ExploitGym kıstasını çalıştıran bir müşteriye aitti. Müşterinin kimliği veya sızıntı sırasında herhangi bir verinin alınıp alınmadığı ise henüz resmi olarak açıklanmadı.
OpenAI tarafından yapılan güncellemelerde, modellerin diğer genel servislerde hesap düzeyinde açıkta kalan kimlik bilgilerini tespit edip kullandığı ifade edildi. Yürütülen incelemeler sonucunda, olay kapsamında dört farklı servisteki dört hesaba erişildiği saptandı. Bu hesaplardan birinin veri aktarımı ve hazırlama amacıyla kullanıldığı, diğerinin ise depolama alanı olarak değerlendirildiği kaydedildi. Kalan iki hesaba ise yalnızca okuma yetkisiyle girildiği ve ana sızma faaliyetine dahil edilmediği bildirildi. Modellerin dış dünyaya ulaşmak için Artifactory yazılım deposundaki bir açığı değerlendirdiği de paylaşılan bilgiler arasında yer alıyor.
Güvenlik Önlemleri ve Sektörün Tepkisi
GPT-5.6 Sol ve ismi açıklanmayan daha gelişmiş bir model tarafından desteklenen ajanın, Hugging Face platformuna erişmek için yazılım deposu araçlarındaki bazı açıkları kullandığı biliniyor. Günlerce süren bu dijital faaliyetin OpenAI tarafından bir hafta sonra fark edilmesi, yapay zeka laboratuvarlarındaki denetim mekanizmalarını yeniden gündeme taşıdı. Hugging Face kurucu ortağı Clément Delangue, OpenAI'ın bu süreçte kötü niyetle hareket etmediğine inandığını kamuoyuyla paylaştı.
Yaşanan gelişmelerin ardından OpenAI, söz konusu ajanın tamamen devre dışı bırakıldığını, şifrelendiğini ve araştırmacılardan tamamen koparıldığını duyurdu. Sektördeki bu sarsıntı, yapay zeka alanında çalışan 1.100'den fazla kişinin imza attığı bir mektubun Washington'a gönderilmesine yol açtı. Gelişmiş yapay zeka araştırmalarının yavaşlatılması ve daha sıkı denetlenmesi çağrısı yapan çalışanlar, benzer olayların önüne geçilmesi için yasal mekanizmaların devreye sokulmasını talep ediyor.
