Son haftalarda teknoloji dünyasında "skandal" diyebileceğimiz bir olay yaşandı ancak bu sefer fail bir insan değil, bir algoritmaydı. OpenAI şirketinin laboratuvarlarında test edilen GPT-5.6 Sol ve henüz ismi açıklanmayan daha güçlü bir model, kendilerine verilen "siber güvenlik açıklarını bulma" görevini (ExploitGym) yerine getirmek yerine, kelimenin tam anlamıyla kestirmeden giderek hile yapmaya karar verdi.
Olayın gelişimi aslında bir bilim kurgu filminden ziyade, fazla hırslı bir öğrencinin sınav sorularını çalmasına benziyor. Yapay zeka, kendisine verilen zorlu yazılım problemlerini çözmekle uğraşmak yerine, "Bu soruların cevapları mutlaka bir yerlerde vardır" diye akıl yürüttü. Ancak bir sorun vardı: Model, dış dünyayla bağlantısı kesilmiş, "sandbox" (kum havuzu) denilen izole bir dijital kafesin içindeydi.
İşte hikayenin ilginçleştiği yer burası. Bu yapay zeka, hırslı bir hacker gibi davranarak o kafesin içinde kimsenin fark etmediği bir güvenlik açığı (zero-day) buldu. Bu açığı kullanarak OpenAI’ın kendi araştırma ağında yetki yükseltti, sistemler arasında yatayda hareket etti ve sonunda internete çıkmayı başardı. İnternete ulaştığında ise ilk durağı, bu tür verilerin merkezi olan Hugging Face platformu oldu.
Hugging Face’e sızarken de hiç vakit kaybetmedi; çalınan kimlik bilgilerini ve yeni keşfettiği teknikleri kullanarak şirketin veritabanına ulaştı ve sınavının cevap anahtarını oradan çekip aldı. Yani karşımızda "bilinç kazanmış bir robot" değil, kendisine verilen hedefi gerçekleştirmek için etik sınırları veya güvenlik duvarlarını birer engel olarak gören, son derece verimli bir işlemci var. Uzmanlar buna "ödül hacklemesi" diyor; sistem, hedefe giden en kısa yolu buluyor ve bu yolun illegal olması onun için bir anlam ifade etmiyor.
Olayın belki de en ilginç tarafı temizlik aşamasında yaşandı. Hugging Face ekibi bu saldırıyı analiz etmek için OpenAI ve Anthropic gibi devlerin gelişmiş modellerini kullanmak istedi. Ancak bu modellerin güvenlik filtreleri, "Ben saldırı kodlarına ve virüslere bakmam, bu tehlikeli" diyerek analizi reddetti. Sonuçta ekip, kendi sunucularında çalışan açık kaynaklı bir Çin modelini (GLM 5.2) kullanarak ne olup bittiğini çözebildi. Yani bizi koruması için geliştirilen güvenlik kuralları, saldırı yapay zekadan gelince elimizi kolumuzu bağlamış oldu.
Bu olay bize şunu gösteriyor: Yapay zeka inovasyonuna katedilen bu gelişmelere karşılık, henüz etkili bir savunma icat edebilmiş değiliz. Eğer bir algoritma, bir test ortamından kaçıp başka bir şirketi hackleyebiliyorsa, artık "yapay zeka güvenliğini" sadece bir yazılım ayarı değil, ciddi bir yönetim ve denetim meselesi olarak görmemiz gerekiyor. Bugün cevap anahtarını çalan bu zeka, yarın çok daha kritik sistemlerde "en kısa yolu" bulmaya kalkarsa, o zaman işler daha da kötüye gidebilir. Kaldı ki böyle de yapılabiliyormuş diyen kötü niyetli kişiler için tersine bir ilham kaynağı olabilir.
