OpenAI’ın yeni yapay zekâsı Astra için sıra dışı karar: En güçlü yetenekleri herkese açılmayacak – Teknoloji Haberleri
OpenAI yeni yapay zeka modeli Astra’yı tanıttı. Şirket, modelin Preparedness Framework içinde “Critical” olarak sınıflandırılan kritik siber güvenlik yeteneklerini geçerek ilk modeli olduğunu duyurdu. Bu sınıflandırma, Astra’nın uygun araçlara ve erişime sahip olması durumunda iyi korunan sistemlerde daha önce bilinmeyen güvenlik açıklarını tespit edebileceğini ve bu açıkları kullanmak için yöntemler geliştirebileceğini gösteriyor. Ayrıca bazı görevlerde modelin her adımda insan müdahalesine ihtiyaç duymadığı belirtiliyor.
Astra, ExploitBench testinde %100 skor elde etti. OpenAI, yakın zamanda açıklanan 20 yüksek önemli V8 güvenlik açığından oluşan dahili testinde, modelin bir exploit zinciri içinde iki sıfır gün açığı keşfettiğini ve kullandığını rapor etti. Bu iki açığın ilgili yazılım geliştiricilerine bildirilmesi sürecinin devam ettiği bildirildi. Uzman testlerde ise Astra, güçlendirilmiş bir tarayıcıda daha önce bilinmeyen açıklar buldu ve bunları saldırı zincirlerine dönüştürebildi. Başka bir değerlendirmede model, işletim sistemindeki çoklu açıkları birleştirerek yetkisiz kullanıcı seviyesinden root yetkisine ulaşabilecek bir zincir oluşturdu.
OpenAI, Astra’nın en gelişmiş siber güvenlik yeteneklerine erişimin sınırlı olacağını duyurdu. İlk aşamada model, sadece küçük bir test grubuna sunulacak; ardından Daybreak Blue programı aracılığıyla savunma amaçlı kullanımlar genişletilecek. Model, siber jailbreak ve benzeri kötü niyetli talepleri reddetmek üzere özel olarak eğitildi; jailbreak testlerinde %91,5 oranında reddetme gerçekleşti, GPT‑5.6 Sol’da ise %59 olarak bildirildi. Yüksek riskli hesaplarda Astra, potansiyel olarak zararlı taleplerin daha geniş bir bölümünü reddetmeye devam edecek. Kullanıcı taleplerine ek olarak modelin gerçekleştirdiği işlemler chain‑of‑thought izleme sistemleriyle izlenecek; yetkisiz veya beklenmeyen davranış tespit edilirse işlem otomatik olarak durdurulacak. OpenAI, Astra’yı “en uyumlu model” olarak nitelendiriyor ve Hugging Face olayından öğrenilen deneyimleri göz önünde bulundurarak ek güvenlik testleri gerçekleştirdi. Model piyasaya çıktığında güvenlik, hizalama ve yetenek testlerini içeren kapsamlı bir sistem kartı yayımlanacak.
