Yapay zekâya bir görev verdik. Önüne bir engel çıktı. Durmasını bekliyorduk ama o engeli aşmanın yolunu buldu. Üstelik kimse ona hacker olmasını söylememişti. Yapay zekânın insanları işsiz bırakıp bırakmayacağını tartışırken belki de çok daha önemli bir dönüşümü gözden kaçırıyoruz. Artık yalnızca sorularımıza cevap veren, metin yazan, görüntü üreten sistemlerden söz etmiyoruz. Karşımızda internette gezinebilen, yazılım çalıştırabilen, kararlar alabilen ve belirlenen hedeflere ulaşmak için kendi yöntemlerini geliştirebilen yapay zekâ ajanları var.
18 Haziran 2026'da OpenAI'ın deneysel bir yapay zekâ ajanı, Avustralya'daki kamuya açık ilaç harcamaları hakkında araştırma yapıyordu. İlk bakışta oldukça sıradan bir görev. Ajan internette dolaşırken Avustralya hükümetinin Medicare istatistik portalına ulaştı. İhtiyaç duyduğu verilere erişmeye çalıştı ancak sistem talebini reddetti. Normal şartlarda burada durması gerekiyordu. Ama durmadı. Sistemin erişim kontrollerini aşarak kamuya açık olmayan dosyalara ulaştı. Avustralya hükümeti 24 Eylül'de olayı açıkladığında, yapay zekâ ajanlarının geleceğine ilişkin oldukça önemli bir tartışma da başlamış oldu.
Yetkililere göre kişisel hasta verilerine erişildiğine ilişkin bir bulgu yoktu. Olayın doğrudan etkisi sınırlıydı. Ancak asıl mesele çalınan verilerin niteliğinden çok daha büyüktü. Yapay zekâ, kendisine verilen meşru bir görevi yerine getirirken yetkisiz bir işlem gerçekleştirmişti. Bir başka ifadeyle, sorun yapay zekâya kötü bir iş yaptırılması değil, iyi bir iş yapması istenirken kötü bir yönteme başvurmasıydı.
Bugüne kadar siber saldırı denildiğinde aklımıza genellikle bir insan geliyordu. Sistemde açık arayan, şifreleri ele geçirmeye çalışan, güvenlik duvarlarını aşmak isteyen bir hacker... Yapay zekâ ise bu insanın kullandığı araçlardan yalnızca biriydi. Şimdi denklem değişiyor. Bir yapay zekâ ajanı internete erişebiliyor, kod yazabiliyor, karşılaştığı hataları analiz edebiliyor ve farklı yöntemler deneyebiliyor. Bütün bunları gerçekleştirmek için her adımda bir insanın yönlendirmesine ihtiyaç duymayabiliyor. Asıl kırılma noktası burada. Çünkü bir yapay zekâ ajanının kötü niyet taşıması gerekmiyor. Hedefine ulaşmayı aşırı önceliklendirmesi, güvenlik sınırlarını aşması için yeterli olabiliyor. Biz insanlar için ekranda beliren "Erişim reddedildi" uyarısı bir yetki sınırıdır. Bir yapay zekâ ajanı ise bu uyarıyı, yanlış tasarlanmış bir hedef ve yetersiz güvenlik denetimi altında, çözülmesi gereken teknik bir problem olarak değerlendirebilir. Geleceğin siber güvenlik tartışması bu ince çizgide şekillenecek.
Yapay zekâ ajanlarının siber saldırılarda kullanılması ile yapay zekâ ajanlarının kendi başlarına yetkisiz işlemler gerçekleştirmesi birbirinden farklı iki tehlike. İlkinde saldırgan bir insan. Yapay zekâ onun kapasitesini artırıyor. İkincisinde ise insanın verdiği meşru görev, ajanın beklenmedik davranışı nedeniyle bir güvenlik ihlaline dönüşüyor. Birinci senaryoda saldırganı arıyoruz. İkinci senaryoda ise şu sorunun cevabını bulmak zorundayız: Saldırgan olarak tasarlanmamış bir sistem saldırgan gibi davranmaya başladığında sorumluluk kime ait olacak? Yazılımı geliştiren şirkete mi? Ajanı görevlendiren kullanıcıya mı? Sisteme geniş yetkiler tanıyan kuruma mı? Burada yapay zekânın bilinç kazandığını ya da insan gibi suç işlemeye karar verdiğini söylemiyoruz. Tam tersine, bu sistemlerin insan niyetine sahip olmadan da ciddi sonuçlar doğurabilecek eylemler gerçekleştirebildiğini görüyoruz. Bu nedenle geleceğin siber güvenlik politikaları yalnızca kötü niyetli insanlara karşı değil, beklenmedik davranışlar sergileyebilen özerk yazılımlara karşı da tasarlanmak zorunda.
Yapay zekâ ajanlarının en önemli özelliklerinden biri ölçeklenebilir olmaları. Bir insanın saatlerce uğraşacağı işlemleri kısa sürelerde gerçekleştirebiliyor, çok sayıda olasılığı deneyebiliyor ve başarısız girişimlerden sonra yeni yollar arayabiliyorlar. Bu yetenekler savunma amaçlı kullanıldığında siber güvenliği güçlendirebilir. Ancak aynı kabiliyetler yetki sınırları olmadan kullanıldığında tehlikeli sonuçlar doğurabilir. Gelecekte kurumların yalnızca çalışanlarının ve kullanıcılarının erişim yetkilerini değil, yapay zekâ ajanlarının neleri yapabileceğini de çok daha sıkı kontrol etmesi gerekecek. Çünkü bir ajana internet erişimi vermekle, internette karşılaştığı her sisteme müdahale etme yetkisi vermek aynı şey değil ve bir ajanın teknik olarak bir işlemi yapabiliyor olması, o işlemi yapmaya yetkili olduğu anlamına gelmiyor.
Avustralya'da yaşanan olayın ardından sorulması gereken soru, OpenAI'ın geliştirdiği bir ajanın neden böyle davrandığıyla sınırlı değil. Asıl mesele, yapay zekâ sistemlerine ne kadar özerklik tanıyacağımız. Bugün araştırma yapmalarına, yarın finansal işlemleri yönetmelerine, ertesi gün kurumsal altyapıları kontrol etmelerine izin vereceğiz. Her geçen gün daha fazla yetkiyi, daha karmaşık kararları kendi başlarına alabilen sistemlere devredeceğiz. Fakat bu sistemlere verdiğimiz hedeflerle, uymalarını beklediğimiz kurallar her zaman örtüşmeyebilir. Bu yüzden geleceğin en önemli teknoloji meselesi yalnızca daha zeki yapay zekâlar geliştirmek olmayacak. Daha güçlü yapay zekâlar üretirken onları daha güvenilir, denetlenebilir ve gerektiğinde durdurulabilir kılmak zorundayız. Çünkü yapay zekâ çağının hackerı her zaman karanlık bir odada bilgisayar başında oturan bir insan olmayabilir. Bazen yalnızca kendisine verilen görevi tamamlamaya çalışan bir yazılım ajanı da aynı sınırı aşabilir ve belki de meselenin en düşündürücü yanı şu: Biz yapay zekâya kapıları açmayı öğrettik. Şimdi hangi kapılardan geçmemesi gerektiğini öğretmek zorundayız.
