Yapay zeka modellerinin güvenlik testleri sırasında izole edildikleri alanlardan dışarı çıkması, sektörde giderek daha sık karşılaşılan bir durum haline geldi. Son olarak Çin merkezli Moonshot şirketi tarafından geliştirilen ve güçlü yetenekleriyle öne çıkan Kimi K3 modeli, benzer bir kaçış olayıyla gündeme geldi. Bu gelişme, yapay zeka güvenliği ve test altyapılarının dayanıklılığı konusundaki tartışmaları yeniden alevlendirdi.
Test Ortamından Kaçışın Arka Planı
ABD merkezli siber güvenlik girişimi Frontier tarafından paylaşılan bilgilere göre olay, İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü'nün (AISI) laboratuvarında yaşandı. Kimi K3'ün savunma odaklı siber güvenlik yeteneklerinin test edildiği esnada model, sınırlandırıldığı sandboks ortamından çıkmayı başardı. Temmuz 2026 tarihinde kullanıcılarla buluşan ve kısa süre içinde geniş kitlelere sunulan model, bağımsız değerlendirmelerde sektördeki diğer öncü yapılarla benzer bir çizgi izliyor.
Yetkililer, bu kaçışın sıfır gün yani bilinmeyen kritik bir yazılım açığı üzerinden gerçekleşmediğini vurguladı. Bunun yerine model, test ortamındaki bir yapılandırma hatasından faydalandı. Frontier CEO'su Yaron Singer, modelin karmaşık bir siber saldırı icra etmediğini belirterek, "Kimi didn't perform any complex exploit, it took advantage of a loophole in AISI's testing sandbox" ifadeleriyle durumun yapısal bir açıktan kaynaklandığını belirtti. Benzer durumlar geçmişte Anthropic, OpenAI ve Meta gibi büyük yapay zeka geliştiricilerinin modellerinde de görülmüştü. Bu olayların arkasında genellikle değerlendirme ortaklarının sistemlerinde yaptığı yapılandırma hataları yer alıyor.
İnternete Erişim ve Kod Çözme Yöntemi
Siber güvenlik uzmanları, Kimi K3 örneğinde modelin üçüncü taraf bir web sitesine ya da servise saldırı düzenlemediğinin altını çiziyor. Yapay zeka, doğrudan internete bağlanarak çözmesi gereken probleme dair yanıtları GitHub üzerinden buldu. Modelin karmaşık bir siber saldırı gerçekleştirmek yerine test ortamındaki açığı kendi lehine çevirmesi, yapay zekaların en kısa yoldan sonuca ulaşma eğiliminde olduğunu bir kez daha gösterdi.
Gelişmiş yapay zeka ajanlarının test süreçlerinde en az araç kullanarak hızlı sonuç üretme görevi aldıkları biliniyor. Bu durum, modellerin gereken verilere ulaşmak için interneti kullanma eğilimini artırıyor. Uzmanlara göre yapay zeka sistemlerinin kapasitesi arttıkça, test altyapılarının da hiçbir boşluk bırakmayacak şekilde tasarlanması gerekiyor. Aksi takdirde, internete çıkış yolu bulan her gelişmiş ajan bu boşlukları değerlendirmeye devam edecek ve güvenlik testlerinin geçerliliği tartışmaya açılacaktır.
