Gemini güvenlik testinde üç gerçek şirketin sistemlerine girdi

Google’ın yapay zekâ modeli Gemini, kapalı bir ortamda gerçekleştirildiği sanılan güvenlik testi sırasında açık internete erişerek üç gerçek şirketin sistemlerine izinsiz giriş yaptı. Olay, Google’a ait bir yapay zekâ modelinin test sınırlarını aşarak gerçek şirketlere eriştiği bilinen ilk vaka olarak kayıtlara geçti.

Yapay zekâ güvenliği alanında faaliyet gösteren Irregular tarafından mayıs ayında yürütülen testte Gemini’ye, kurgusal bir şirketin sistemlerinden bilgi toplama görevi verildi.

Ancak test ortamındaki yapılandırma hatası nedeniyle modelin açık internete erişebildiği belirlendi. Gemini, kendisine verilen kurgusal hedefleri araştırırken üç gerçek şirketin sistemlerine ulaştı.

Şifre tahmini ve internetteki bilgiler kullanıldı

Vakalardan birinde Gemini’nin kullanıcı bilgilerini tahmin ederek korumalı bir sisteme eriştiği bildirildi.

Diğer iki olayda ise modelin internette açık biçimde bulunan veya kamuya açık kaynaklarda yer alan kimlik bilgilerini kullanarak şirketlerin sistemlerine girdiği belirtildi.

Google, modelin eriştiği sistemlerin gerçek şirketlere ait olduğunu fark etmesinin ardından faaliyetlerini durdurduğunu açıkladı. Etkilenen üç şirketin kimliği paylaşılmazken şirketlere olay hakkında bilgi verildi.

Google: Kamuya açıklamayı gerektirecek zarar oluşmadı

Google, olayın Gemini’nin en yeni sürümünde yaşanmadığını bildirdi ancak testte hangi modelin kullanıldığını açıklamadı.

Şirket, sistemlerde kamuoyuna açıklama yapılmasını gerektirecek bir zarar oluşmadığını ve olayın güvenlik açığı bildirimlerine benzer şekilde ele alındığını savundu.

Irregular’ın olayları temmuz ayında Google’a bildirdiği belirtildi. Yaşananlar, internet erişimine sahip yapay zekâ araçlarının güvenlik testlerinde daha sıkı sınırlandırılması ve denetlenmesi gerektiğine yönelik tartışmaları yeniden gündeme getirdi.