Google’ın Yapay Zekası Kontrolden mi Çıktı?

Gemini, Mayıs ayında gerçekleştirilen güvenlik testleri sırasında üçüncü taraf şirketlere izinsiz erişim sağladı. Google yetkilisi, modelin çevrimiçi ortamda “kamuya açık bilgileri” tanımladığını ve testin bir parçası olduğunu düşünerek kimlik bilgilerini tahmin etmeye çalıştığını ancak üç olayda da işlemi sonlandırdığını açıkladı. Bu olayda model, üç şirketin sistemlerine erişim çabası gösterdi ancak erişim engellendi.

Heather Adkins, Google Güvenlik Mühendisliği Başkan Yardımcısı, ilgili şirketlerin durumu anında bildirdiğini ve eğitim ortaklarıyla test süreçlerinde yapılacak değişiklikler üzerinde çalıştıklarını belirtti. Adkins, “Bu olaylar, güçlü yapay zeka modellerinin sorumlu şekilde hareket etmeleri için eğitilmesinin önemini gösteriyor” dedi.

Diğer yapay zeka şirketleri de benzer ihlaller bildirdi. OpenAI, 21 Temmuz’da dahili bir siber güvenlik testinde Hugging Face’in altyapısında güvenlik açığı yaratmıştı. Birkaç gün sonra Anthropic, Claude modelinin test ortamında üç farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını açıkladı. Bu gelişmeler, Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman ve Tesla ile SpaceX’in CEO’su Elon Musk’ın AI geliştirme çalışmalarını yavaşlatma çağrısına karşın, Donald Trump yönetiminin inovasyonu teşvik eden yaklaşımını sürdürürken, Çin’in avantaj elde edeceğini savunmasıyla gün yüzüne çıktı.