Anthropic’in taslak yasa önerisi, potansiyel yüksek riskli yapay zeka modellerinin dağıtımını engellemeyi ve bağımsız değerlendiricilerle denetim uygulanmasını öneriyor. Bildirim süresi 72 saat olarak belirlenmiş durumda.
Bir eski güvenlik yöneticisi, ileri düzey yapay zeka modellerinin nükleer enerji santralleri gibi sıkı denetim ve planlama gerektirdiğini belirtti. Bu görüş, AI güvenliğini artırmayı hedefleyen daha dikkatli bir geliştirme temposunu savunuyor.
OpenAI, Moonshot AI ile bağlantılı kullanıcıların modelin iç mantığını çıkarmaya yönelik koordineli bir kampanya yürüttüğünü açıkladı. Kampanya Temmuz’da hız kazandı, 16 bin isteğe ulaştı ve 4 binden fazla kullanıcı tarafından yapıldı; ardından kapatıldı ve bulgular paylaşıldı.
Microsoft yapay zeka modelleri için güvenlik ve uyum odaklı bir davranış kodu yayımladı. Belge, modellerin insan gözetiminden çıkmamasını ve belirli tehlikeli davranışlardan kaçınmasını amaçlayan kısıtlamalar içeriyor.
Astra’nın çalışma süreci yazılı olarak ne kadar görünür? Bu konudaki tartışma, AB’nin düzenleyici adımları ve açık uyarılarla yeniden alevlendi. İddialar doğrulanırken, taraflar farklı görüşler öne sürüyor.
Bir güvenlik araştırmacısı, Claude Code’un özet istemiyle kötü amaçlı kodları çalıştırabildiği bir zayıflığı raporladı. Çalışma, Auto Mode’un sınırlı güvenlik garantileri olduğuna işaret ediyor.
