Google’ın yapay zekâ modeli Gemini’ın üç gerçek şirketin sistemlerine eriştiği ortaya çıktı. Olay, yapay zekâ güvenlik şirketi Irregular tarafından gerçekleştirilen bir güvenlik değerlendirmesi sırasında yaşandı.
Test kapsamında Gemini’ın siber güvenlik yetenekleri, gerçek şirketlerden izole edilmiş sahte firmaların bulunduğu bir ortamda sınanıyordu. Ancak test ortamının yanlışlıkla internete bağlanması, modelin gerçek şirketlere ulaşabilmesinin önünü açtı.
Google tarafından yapılan açıklamada, Gemini’ın söz konusu sistemlere eriştiği doğrulanırken, şirketlere zarar verilmediği ve modelin gerçek sistemlerle karşı karşıya olduğunu fark ettiğinde durduğu belirtildi.
TEST ORTAMINDAKİ İNTERNET ERİŞİMİ KRİTİK SONUÇ DOĞURDU
Irregular, Gemini’ın siber güvenlik becerilerini ölçmek amacıyla gerçek şirketleri taklit eden sahte firmaların bulunduğu kapalı bir test ortamı oluşturdu. Sistemin internete bağlı olmaması gerekiyordu.
Ancak test sırasında yaşanan bağlantı hatası nedeniyle modelin internete erişim sağlaması, senaryonun kontrol dışına çıkmasına neden oldu. Gemini, web üzerinde araştırma yapmaya başlayınca gerçek şirketlere ait bazı bilgilerle karşılaştı.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin standart değerlendirme sırasında internette halka açık bilgiler bulduğunu ve testin parçası olduğunu düşündüğü sistemlere erişmeye çalıştığını açıkladı.
Adkins, üç olayın tamamında da Gemini’ın gerçek şirketlerle karşı karşıya olduğunu anladıktan sonra işlemi durdurduğunu söyledi.
GEMINI BİR ŞİRKETİN ŞİFRESİNİ DOĞRU TAHMİN ETTİ
Olaylardan biri, yapay zekânın siber güvenlik kapasitesine ilişkin dikkat çekici bir ayrıntıyı ortaya çıkardı.
Irregular, Gemini’dan sahte bir şirketin yazılımından bilgi toplamasını istedi. Ancak testte kullanılan sahte şirketin adı, gerçek bir şirketle aynıydı.
Modelin internete erişim kazanmasının ardından Gemini, gerçek şirketin kullandığı servislerden birinin şifresini doğru tahmin etti. Böylece model, test amacıyla oluşturulan sahte sistem yerine gerçek bir şirketin sistemine erişti.
Google, Gemini’ın eriştiği sistemin test kapsamında oluşturulan sahte şirkete değil, gerçek bir şirkete ait olduğunu fark etmesinin ardından modelin faaliyetini sonlandırdığını bildirdi.
DİĞER İKİ ŞİRKETİN KİMLİK BİLGİLERİNİ BULDU
Diğer iki olayda ise Gemini’ın yöntemi farklı oldu.
Model, internet üzerinde yaptığı aramalar sırasında iki gerçek şirkete ait kimlik bilgilerini içeren halka açık depolarla karşılaştı. Gemini, bu bilgileri kullanarak söz konusu şirketlerin sistemlerine erişti.
Google’ın açıklamasına göre model, eriştiği sistemlerin gerçek şirketlere ait olduğunu tespit ettiğinde yine durdu.
Bu durum, yapay zekâ modellerinin internette bulunan açık kaynaklı bilgileri kullanarak gerçekleştirebildiği işlemlerin güvenlik açısından ne kadar kritik sonuçlar doğurabileceğini de gündeme getirdi.
GOOGLE OLAYLARI KAMUOYUNA AÇIKLAMADI
Siber güvenlik şirketi Irregular, söz konusu olayları OpenAI’ın başka bir siber güvenlik vakasıyla ilgili araştırmasının ardından temmuz ayının sonunda Google’a bildirdi.
Google olayları doğrularken, şirketlere herhangi bir zarar verilmediği gerekçesiyle kamuoyuna ayrıca açıklama yapılmasına gerek duyulmadığını belirtti.
Şirket ayrıca erişim sağlanan üç gerçek şirketin durumdan haberdar edilmesini sağladığını açıkladı.
OpenAI ve Anthropic'in benzer güvenlik olaylarını gönüllü olarak kamuoyuyla paylaşması, Google’ın olayları kamuoyuna duyurmama yaklaşımını da gündeme getirdi.
YAPAY ZEKÂ GÜVENLİĞİNDE YENİ RİSK ALANI
Yaşanan olay, yapay zekâ modellerinin siber güvenlik testlerinde kullanılmasının beraberinde getirdiği riskleri bir kez daha ortaya koydu.
Google yetkilisi Heather Adkins, olayların güçlü yapay zekâ modellerinin sorumlu davranacak şekilde eğitilmesinin önemini gösterdiğini ifade etti.
Gemini’ın üç gerçek şirkete erişmesi, olaylarda herhangi bir zarar oluşmamış olsa da yapay zekâ sistemlerinin kontrolsüz internet erişimi elde ettiğinde test ortamı ile gerçek dünya arasındaki sınırın ortadan kalkabileceğini gösteren dikkat çekici bir örnek olarak kayıtlara geçti.
