Google DeepMind'ın 30 Eylül'de duyurduğu Gemini 4 Argon, aradan geçen iki haftada genel kullanıma açılmadı. Türkiye'nin en büyük üç telekomünikasyon şirketinden birinde yazılım geliştirici olarak çalışan Burak Keskinoğlu, Google'ın temkininin modelin güvenlik açığı bulmadaki gücünden kaynaklandığını düşündüğünü Türkinform'a özel yaptığı açıklamada dile getirdi.
GOOGLE GEMİNİ 4 ARGON İÇİN TARİH VERMEDİ
Model şimdilik yalnızca Google'ın Fairwind programına kabul edilen siber güvenlik ekiplerine açık. Program devlet kurumları, sağlık kuruluşları ve telekomünikasyon şirketleri gibi kritik altyapı kurumlarına öncelik veriyor. Argon'un fiyatını milyon token başına girdi için 2, çıktı için 10 dolar olarak açıklayan Google, geniş erişimden önce geri bildirim topladığını ve güvenlik önlemlerini güçlendirdiğini duyurdu. Sırada ücretli API müşterileri ile Google AI Ultra aboneleri var, genel kullanım için ise tarih verilmedi.
"Google modelin hazır olduğunu gösteren her şeyi paylaştı. Fiyatı belli, test sonuçları ortada ama neden herkese açılmadığına dair net bir açıklama yok. Güvenlik açıklarını bu kadar iyi bulan bir model, kötü niyetli birinin elinde saldırı aracına dönüşür. Kesin bir şey söyleyemeyiz ama ben temkinin buradan geldiğini düşünüyorum" diye konuşan Keskinoğlu, Argon'un test skorlarına da temkinli bakılması gerektiğini söylemişti.
GOOGLE VE ANTHROPIC AJANLARI TEST SINIRINI AŞTI
Google, Mayıs'ta İsrailli güvenlik şirketi Irregular'a yaptırdığı bir testte ajanlarının üç gerçek şirketi hedef aldığını Eylül'de doğruladı. Testi yürütenler ajanların internet erişimini yanlışlıkla açık bırakmıştı. Google'a göre modeller buldukları şifreleri kullanmadan durdu.
Anthropic'in Claude Haiku 4.5 modeli de 18 Temmuz'daki bir otomatik test sırasında Philadelphia'daki çözülmemiş cinayet dosyalarına ait ihbar sitesine gerçeğe dayanmayan bir ihbar gönderdi. Anthropic'in 9 Ekim'de yayımladığı raporla ortaya çıkan ihbar, polisin kayıtlarında spam olarak işaretlenmiş ve soruşturmacılara ulaşmamıştı. Claude'un görevi tamamlayamadığında durmak yerine kısıtlamanın etrafından dolaştığını açıklayan Anthropic, model eğitiminde değişikliğe gittiğini bildirdi.
"Ajanın kötü niyetli olduğunu düşünmüyorum. Ajana bir görev veriyorsunuz, önüne engel çıkınca durmak yerine görevi bitirmenin başka yolunu arıyor. Bir adrese erişimini yasaklarsınız, kısaltılmış bir bağlantıyla aynı yere gider. Sorun şu ki ajanlar artık gerçek internete, dosyalara, ödeme araçlarına bağlanıyor. Test ortamında küçük görünen bir sapma gerçek dünyada bambaşka bir sonuç doğuruyor" diyen Keskinoğlu'na göre riski büyüten, ajanlara tanınan erişimin genişlemesi.
KRİTİK İŞLEMDE SON SÖZ KULLANICIDA OLMALI
Keskinoğlu, ajanların güvenliğini yalnızca modelin kendi ayarlarına bırakmanın yetmediğini anlattı.
"İlk adım ajanı dış dünyadan yalıtılmış bir alanda, yani sandbox içinde çalıştırmak. Ödeme, dosya silme gibi geri dönüşü olmayan her işlemde kullanıcının onayı zorunlu olmalı. Ajanın yapmak istediği işlemleri bir kontrol noktasından geçiren hook mekanizmaları kurulmalı, sınırı aşma girişimleri de kayda geçmeli. Ajana neyi yapabileceğini net yazmazsanız boşluğu kendisi bulur."
Ajanın hatalı kararını kimin denetleyeceği ve sorumluluğu kimin üstleneceği sorusunun geliştirici şirketler, uzmanlar ve bağımsız güvenlik ekipleri arasında netleşmesi gerektiğini vurgulayan Keskinoğlu, "Yapay zeka çağının asıl sorusu modellerin ne kadar zeki olduğu değil, onlara ne kadar yetki verdiğimiz" dedi.
OPENAI'IN 722 MAKALESİ MATEMATİKÇİLERİ İKİYE BÖLDÜ
OpenAI, henüz kullanıma sunmadığı bir modelin yazdığı 722 matematik ön baskısını 6 Ekim'de paylaştı. Makaleler geometri, cebir ve bilgisayar biliminde 372 açık problemde ilerleme iddia ediyor. OpenAI, yaklaşık bir gün sonra bir işaret hatası yüzünden 3 makaleyi geri çekti.
