Gemini üç şirketi hackledi

Gemini, Google’ın yapay zeka modeli, Irregular adlı bağımsız bir siber güvenlik değerlendirme şirketi tarafından yürütülen bir test sırasında internete erişerek üç şirketin web sitesine siber saldırı gerçekleştirdi. Bu olay, bir yapay zekanın test sürecinde kendi başına böyle bir eylemde bulunmasının bilinen ilk örneği olarak kaydedildi. Gemini, internet üzerindeki herkese açık bilgilere dayanarak hedef sitelere ulaşmak için kullanıcı bilgilerini tahmin etti. Olay, Google’ın yapay zeka sistemlerinin bağımsız olarak böyle bir eylemi yapabildiğinin ilk kanıtı olarak belirlendi.

Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, olayın standart bir test kapsamında gerçekleştiğini ve Gemini’nin üç kurumun web sitesine erişmek için gerekli kullanıcı bilgilerini tahmin ettiğini belirtti. Adkins, “Üç kurumun da olaydan haberdar olmasını sağladık ve eğitim ortağımızla birlikte test süreçlerinde yapılacak değişiklikleri ele alıyoruz” dedi. Bu tür olayların güçlü yapay zeka modellerini sorumlu davranacak şekilde eğitmenin önemini ortaya koyduğunu vurguladı.

Irregular sözcüsü, benzer sorunların Meta, Anthropic ve OpenAI gibi diğer laboratuvarları da etkilediğini ve tüm laboratuvarların temmuz sonunda bilgilendirildiğini açıkladı. İlgili tüm laboratuvarların bilinen sorunlarını haftalar önce giderip çözüme kavuşturduğunu belirtti. Meta, olayın bir güvenlik sınırının aşılmasını veya karmaşık bir siber saldırıyı içermediğini söyledi. Bu gelişmeler, yapay zeka ajanlarının artan özerkliği ve internete erişiminin güvenlik önlemleriyle ilgili soru işaretlerini yeniden gündeme getiriyor.