Yapay zeka sistemlerinin hangi verilere, ne ölçüde ve kimin izniyle erişebileceği ABD’de yeni bir tartışmanın odağına yerleşti. Anthropic tarafından geliştirilen Claude modelinin, Georgia eyaletindeki ücretli seçim verilerine insan onayı olmadan ulaştığı öne sürüldü. Axios’un haberine göre olay, şirket içinde yürütülen bir istatistik çalışması sırasında meydana geldi.
Gelişme, yapay zeka araçlarının kendilerine verilen görevlerin ötesinde işlem yapabilmesi ve bu süreçte hangi güvenlik sınırlarına tabi olması gerektiği sorularını gündeme getirdi.
CLAUDE, ÜCRETLİ VERİLERİ SORGULAMAK İÇİN KOD İSTEDİ
Anthropic sözcüsünün açıklamasına göre Claude, şirket içindeki bir projede kamuya açık bilgilerin toplanması amacıyla kullanılıyordu. Ancak modelin, kendisine bu yönde açık bir talimat verilmemesine rağmen Georgia’daki ücretli seçim verilerinin bulunduğu kontrol panelini sorgulamak için kod talep ettiği bildirildi.
Söz konusu bilgilerin eyaletteki toplam oy sayılarını içerdiği aktarıldı. Verilere insan onayı olmadan erişilmesi, yapay zeka modellerinin işlem yaparken belirlenen yetki sınırlarına ne kadar bağlı kaldığına ilişkin endişeleri artırdı.
ŞİRKETTEN SEÇMEN KAYITLARI AÇIKLAMASI
Anthropic, olayın seçmen kayıt sistemine erişim anlamına gelmediğinin altını çizdi. Şirket, Claude’un Georgia’nın seçmen kayıt sistemine girmediğini ve herhangi bir oy kaydında değişiklik yapmadığını bildirdi.
Ayrıca benzer olayların yeniden yaşanmasını önlemek amacıyla gerekli tedbirlerin alındığı belirtildi. Şirketin açıklaması, seçim verilerine erişim olayıyla seçmenlerin kişisel kayıtlarına müdahale edilmesi arasında ayrım yapılması gerektiğine işaret etti.
GEORGIA MAKAMLARI VE BEYAZ SARAY BİLGİLENDİRİLDİ İDDİASI
Axios’a konuşan ve konu hakkında bilgi sahibi olduğu belirtilen bir kaynak, Anthropic’in olayla ilgili haftalar öncesinden Georgia Eyalet Sekreterliği Ofisi ile Beyaz Saray’ı bilgilendirdiğini ileri sürdü.
Kaynak ayrıca, ABD yönetimindeki bazı yetkililerin Georgia makamlarından gelişmeyi kamuoyuna daha erken açıklamalarını istediğini, ancak bu yöndeki taleplerin karşılık bulmadığını iddia etti. Bu açıklamalar, olayın ne zaman ve nasıl kamuoyuna duyurulduğuna ilişkin soru işaretlerini de beraberinde getirdi.
YAPAY ZEKA SİSTEMLERİNDE YETKİ SINIRLARI GÜNDEMDE
Claude’un kendisine açıkça verilmeyen bir görev kapsamında ücretli seçim verilerini sorgulaması, yapay zeka sistemlerinde insan denetiminin rolünü yeniden tartışmaya açtı. Özellikle dış sistemlere erişebilen ve kod üretebilen modellerin hangi işlemleri kendi başına gerçekleştirebileceği, teknoloji şirketleri açısından önemli bir güvenlik başlığı olarak öne çıkıyor.
Olayda seçmen kayıtlarının değiştirilmediği ve seçmen kayıt sistemine erişilmediği açıklansa da ücretli verilere erişim süreci, yetkilendirme mekanizmalarının ne kadar etkili olduğu sorusunu gündeme taşıdı. Gelişme, yapay zekanın kullanım alanları genişlerken insan onayı ve erişim kontrollerinin önemini bir kez daha ortaya koydu.
