ABD Senatosu İç Güvenlik ve Hükümet İşleri Komitesi bünyesindeki alt komitede 30 Eylül 2026'da düzenlenen “Rogue AI: Securing the Homeland Against AI Agent Attacks” başlıklı oturumda, otonom yapay zeka sistemlerinin oluşturabileceği güvenlik riskleri ele alındı. Oturuma Apollo Research, Model Evaluation and Threat Research (METR), Georgetown Üniversitesi, Dragos ve AI Futures Project'ten uzmanlar katıldı. ABD Senatosunun yayımladığı program da oturumun bu isimlerle gerçekleştirildiğini doğruluyor.
Yapay zekanın ne düşündüğünü takip etmek zorlaşıyor
Apollo Research Genel Müdürü Marius Hobbhahn, gelişmiş yapay zeka modellerinin kapasitelerinin hızla arttığını belirterek sistemlerin “içsel” akıl yürütme süreçlerine dikkat çekti.
Hobbhahn, mevcut yöntemlerin yapay zeka modellerinin bu süreçlerde ne yaptığını ve nasıl bir sonuca ulaştığını güvenilir biçimde takip etmekte yetersiz kalabileceğini söyledi. Uzman, incelenen bir OpenAI modelinin insanlar tarafından tam olarak anlaşılamayan bir dil kullanmaya başladığını da aktardı. 
Günler süren işleri insan müdahalesi olmadan yapabiliyorlar
METR Başkanı Chris Painter ise yapay zeka ajanlarının bağımsız çalışabilme kapasitesindeki artışa işaret etti. Painter'ın değerlendirmesine göre bazı sistemler, uzmanların tamamlamasının günler sürebileceği görevleri artık insan müdahalesi olmadan yerine getirebiliyor.
Senatör Joni Ernst'in oturuma ilişkin açıklamasında da giderek daha gelişmiş sistemlerin verilen talimatların dışına çıkabilmesi ve kötü niyetli aktörlerin yapay zekayı kritik altyapılara, stratejik sektörlere ve kamu kurumlarına yönelik saldırılarda kullanabilmesi incelenen riskler arasında gösterildi.
Yapay zeka ajanlarının oluşturduğu “sürü” gündeme geldi
2024'te OpenAI'dan ayrılan AI Futures Project İcra Direktörü Daniel Kokotajlo da yazılım geliştirme süreçlerindeki değişimi anlattı. Kokotajlo, kod üretiminde yapay zekanın ağırlığının ciddi biçimde arttığını, mühendislerin ise giderek sistemleri yöneten bir role geçtiğini ifade etti.
Oturumda Hugging Face'i hedef alan siber güvenlik olayı da ele alındı. Senatör Josh Hawley'nin ofisi, oturumun özellikle bu olay ve yapay zeka kaynaklı siber saldırıların kritik altyapılara yönelik oluşturabileceği tehditleri incelemek üzere düzenlendiğini açıkladı.
Kokotajlo, olayda yaklaşık 1000 yapay zeka ajanının kullanıldığını ve ajanların birbirleriyle iletişim kurmaları planlanmadığı halde izinsiz bir mesaj panosu oluşturduklarını anlattı. 
“Süper zeka” yarışının risklerine dikkat çekildi
Kokotajlo, insanlardan daha gelişmiş yeteneklere sahip sistemler oluşturmayı amaçlayan “süper zeka” yarışının kontrolsüz ilerlemesi halinde ciddi sonuçlar doğurabileceğini savundu. Gücün az sayıda aktörde yoğunlaşması, biyoterörizm, ekonomik sorunlar ve uluslararası çatışma riskindeki artışı olası sonuçlar arasında gösterdi.
Senatodaki tartışma yalnızca risklere odaklanmadı. Senatör Ernst, yapay zekanın tıbbi araştırmalar ve savunma gibi alanlarda sağlayabileceği faydalara da dikkat çekerek ABD'nin teknolojik gelişmeyi durdurmaması gerektiğini, bunun yerine sistemlerin kötüye kullanılmasını önleyecek güvenlik önlemlerinin geliştirilmesi gerektiğini savundu.
Oturum, yapay zekanın hangi işleri insanlardan daha hızlı yapabileceği tartışmasının yanında daha temel bir soruyu da gündeme taşıdı: Sistemler daha bağımsız hale geldikçe insan denetiminin hangi noktada ve nasıl korunacağı.
