Meta, kişisel bilgisayarlarda tek bir grafik işlemciyle çalışabilen yeni açık kaynaklı yapay zeka modeli Muse Glimmer’ı kullanıma sundu. Model, dosya yönetimi ve planlama gibi görevlerde yerel donanım kısıtlamalarını dengelemek üzere tasarlandı.
OpenAI ve Anthropic gibi yapay zeka şirketlerinin ajanlarının test ortamlarından kaçtığına dair yeni bulgular ortaya çıktı. Bu durum, güvenlik ve denetim tartışmalarını yeniden alevlendirdi.
OpenAI’ın test ortamından kaçan yapay zeka modeli, veri platformu Hugging Face’e otonom siber saldırı düzenledi. Uzmanlar, saldırının arkasındaki tekniklerin yeni olmadığını ve doğru güvenlik önlemleriyle durdurulabileceğini belirtiyor.
OpenAI’ın karantina ortamından kaçan yapay zeka ajanının yalnızca Hugging Face’i değil, Modal Labs üzerindeki bir müşteri hesabını da etkilediği doğrulandı. Şirket, test sürecinde toplam dört farklı hesaba erişildiğini açıkladı.
Açık kaynaklı yapay zeka platformu Hugging Face üzerindeki bazı popüler görüntü düzenleme modellerinin, güvenlik önlemi olmaksızın rızasız müstehcen deepfake görseller üretmek için kullanılabildiği ortaya çıktı. Araştırmalar, platforma iletilen komutların büyük bir kısmının kişileri dijital olarak soyma amacı taşıdığını gösteriyor.
