Yapay zeka artık yalnızca metin yazan, görsel üreten veya sorulara yanıt veren bir teknoloji olmaktan çıkıyor. Kendi başına belirli kararlar alabilen, farklı sistemlerle etkileşime girebilen ve operasyonel işlemleri yerine getirebilen yapay zeka ajanları, insan denetiminin sınırlarına ilişkin yeni tartışmaları da beraberinde getiriyor. Peki, şirket sistemlerine erişim yetkisi verilen bir yapay zeka ajanı kontrol sınırlarını aşarsa ne olacak? Kritik işlemleri durduracak son karar mekanizması kimde bulunacak?
Teknoloji Ar-Ge Bilim ve İnovasyon Derneği (TABİD) Yönetim Kurulu Üyesi Melih Aşıcı, yapay zekanın gelişiminin durdurulmasından ziyade güvenli biçimde yönetilmesi gerektiğine dikkat çekerek uluslararası denetim mekanizmalarının kurulması ve kritik kararların insan kontrolünde tutulması gerektiğini vurguladı. Türkinform muhabiri Pelin Zengin’in sorularını yanıtlayan Aşıcı, yapay zeka ajanlarına sınırsız yetki verilmesinin oluşturabileceği riskleri ve kontrolün insanda kalması için alınması gereken önlemleri değerlendirdi.
“HERKESİN GAZA BASTIĞI NOKTADA BİR KAZA OLACAKTIR”
Yapay zekanın özellikle operasyonel yetenekler kazanmasıyla birlikte denetim ihtiyacının daha da arttığını belirten Aşıcı, ülkelerin bu teknolojiyi ekonomik ve stratejik güç açısından geliştirmeye devam ettiğini söyledi. Bu rekabet ortamında yapay zeka çalışmalarını tamamen durdurmanın gerçekçi görünmediğini ifade eden Aşıcı, uluslararası kuralların oluşturulması gerektiğine işaret etti.
“Kesinlikle, uluslararası normlarda bir denetim mekanizması gerekiyor. Herkesin gaza bastığı noktada bir yerde bir kaza olacaktır.”
Aşıcı’ya göre yapay zeka sistemlerinin hangi sınırlar içerisinde çalışacağı, hangi işlemleri yapabileceği ve hangi durumlarda durdurulacağı açık biçimde belirlenmeli. Birleşmiş Milletler veya insan hakları çerçevesinde uluslararası standartların oluşturulması da bu sürecin önemli başlıkları arasında yer alıyor.
Yapay zekanın yalnızca içerik üretmekle kalmayıp karar ve işlem süreçlerinde de rol üstlenmesi, insan denetiminin nasıl korunacağı sorusunu gündeme taşıyor. Aşıcı, teknolojinin gelişmesine karşı çıkmak yerine bu sistemlerin yetkilerinin ve sorumluluklarının netleştirilmesi gerektiğini düşünüyor.
YAPAY ZEKA AJANLARINA SINIRSIZ YETKİ VERİLMEMELİ
Yapay zeka ajanları, belirli hedefler doğrultusunda görevleri yerine getirebilen ve farklı dijital araçlarla etkileşim kurabilen sistemler olarak öne çıkıyor. Şirketlerin bu sistemleri iş süreçlerine entegre etmesiyle birlikte veri işleme, yazılım geliştirme ve operasyonel görevlerde otomasyonun kapsamı genişliyor.
Ancak bu sistemlere hangi yetkilerin verileceği, hangi işlemleri bağımsız biçimde gerçekleştirebilecekleri ve hangi aşamalarda insan onayına ihtiyaç duyacakları kritik önem taşıyor.
Aşıcı, yapay zekanın iş süreçlerine entegre edilmesini gerekli gördüğünü ancak son karar yetkisinin insanda kalması gerektiğini belirtti. Bu yaklaşımın yalnızca genel bir denetimden ibaret olmaması, her ajanın yetki sınırlarının ve sorumlu kullanıcısının da tanımlanması gerektiğini ifade etti.
“Şu anda durdurulabilecek gibi de durmuyor. Bunları kendi işimize entegre etmemiz gerekiyor. Ama tabii ki kontrol bizde olmak şartıyla. Yani buradaki son kontrol, son onayın her zaman insan yetkisiyle olması gerekiyor.”
Aşıcı, özellikle şirket sistemlerine erişen ajanların kim tarafından yönetildiğinin açıkça belirlenmesi gerektiğini vurguladı. Her ajana bir kimlik tanımlanması, hangi kullanıcıya bağlı olduğunun kaydedilmesi ve gerçekleştirdiği işlemlerin denetlenebilmesi, önerdiği güvenlik yaklaşımının parçaları arasında yer aldı.
ÖDEME, VERİ SİLME VE KRİTİK İŞLEMLERDE SON SÖZ İNSANDA OLMALI
Yapay zeka ajanlarının yetkileri genişledikçe hata veya kötüye kullanım durumunda ortaya çıkabilecek sonuçlar da önem kazanıyor. Özellikle ödeme yapma, bütçe artırma, veri silme veya kritik sistemlerde değişiklik gerçekleştirme gibi işlemlerin tamamen otomatik biçimde yürütülmesi, denetim mekanizmalarına duyulan ihtiyacı artırıyor.
Aşıcı, bu tür işlemlerde insan onayının devre dışı bırakılmaması gerektiğini belirterek yapay zekaya tam otonomi verilmesine karşı çıktı. Sistemin yalnızca belirli görevleri yerine getirmesi değil, bu görevleri hangi sınırlar içerisinde gerçekleştireceğinin de önceden tanımlanması gerektiğini kaydetti.
“Kırmızı çizgilerin olması lazım. Yani kesinlikle insan onayı olmadan yapılamayacak bazı şeylerin olması lazım.”
Bu yaklaşımda yapay zeka, iş süreçlerinin belirli aşamalarını hızlandırabilir ancak kritik bir işlem için nihai yetki insanda kalır. Aşıcı’ya göre sistemlerin yetki sınırları belirlenirken yalnızca normal çalışma koşulları değil, hata, saldırı ve beklenmeyen davranış ihtimalleri de hesaba katılmalı.
“SON DÜĞMEYE BASACAK KİŞİ OLMALI”
Yapay zeka sistemlerinin yanlış yönlendirilmesi veya kötü niyetli kişiler tarafından kullanılması da denetim tartışmasının önemli boyutlarından biri. Aşıcı, aynı teknolojinin kullanım amacına ve onu yönlendiren kişilere bağlı olarak farklı sonuçlar doğurabileceğini belirtti.
Bu nedenle sistemin çalışmasını gerektiğinde tamamen durdurabilecek bir mekanizmanın bulunması gerektiğini ifade eden Aşıcı, teknoloji literatüründe kill switch olarak adlandırılan acil durdurma yaklaşımına dikkat çekti.
“Her zaman bir son düğmeye basacak kişinin olması lazım. Bir kill switch, yani bu noktada ‘artık dur, komple kendini yok et’ tarzı bir mekanizmanın olması lazım.”
Burada söz konusu olan, sistemin yalnızca normal görevlerini yerine getirirken değil, güvenlik ihlali veya beklenmeyen bir durum ortaya çıktığında da kontrol edilebilmesi. Aşıcı, yapay zekaya devredilen görevler artsa bile arka planda sistemi izleyen ve gerektiğinde müdahale edebilen bir insanın bulunması gerektiğini vurguladı.
YAPAY ZEKA KENDİ KENDİNİ DENETLEYEBİLİR Mİ?
Yapay zeka sistemlerinin ürettiği sonuçların yine yapay zeka araçlarıyla kontrol edilmesi de güvenlik önlemleri arasında değerlendiriliyor. Aşıcı, sistemlerin yalnızca kendi çıktılarıyla yetinilmemesi, hataları ve olağan dışı davranışları tespit edebilecek ek denetim mekanizmalarının kurulması gerektiğini söyledi.
Bu kapsamda yapay zekanın geliştirdiği işlemleri inceleyen, güvenlik ihlallerini belirleyen ve şüpheli durumları raporlayan ayrı sistemlerin kullanılmasını önerdi. Beyaz şapkalı güvenlik uzmanlarının yaklaşımından hareketle, yapay zeka sistemlerini korumaya ve denetlemeye odaklanan araçların da geliştirilmesi gerektiğini belirtti.
Ancak bu yaklaşımda yapay zekanın başka bir yapay zeka tarafından kontrol edilmesi, insan denetiminin yerine geçen tek mekanizma olarak görülmüyor. Aşıcı’nın vurguladığı temel nokta, farklı denetim katmanlarının kurulması ve kritik kararların insan kontrolünde tutulması.
YAPAY ZEKA VİDEOLARI GERÇEKLE NASIL AYIRT EDİLECEK?
Yapay zekanın gelişmesi yalnızca operasyonel yetkilerle ilgili riskleri değil, gerçek ile sahte içerik arasındaki ayrımın zorlaşmasını da beraberinde getiriyor. Yapay zeka tarafından üretilen görüntü, video ve metinlerin gerçek içeriklerle iç içe geçmesi, dijital ortamda karşılaşılan bilgilerin doğrulanmasını daha önemli hale getiriyor.
Aşıcı, özellikle görsel ve video üretimindeki gelişmelerin ilerleyen dönemde içeriklerin gerçekliğini anlamayı daha da güçleştirebileceğine dikkat çekti. Bu nedenle kullanıcıların gördükleri her içeriği doğrulamadan kabul etmemesi ve içeriklerin kaynağını kontrol etmesi gerektiğini ifade etti.
Yapay zeka tarafından üretilen içeriklerin bu niteliğini gösteren işaretleme sistemlerinin geliştirilmesini de önemli bulan Aşıcı, teknoloji şirketlerinin bu konuda sorumluluk üstlenmesi gerektiğini söyledi. İçeriğin yapay zeka tarafından oluşturulduğunun anlaşılmasını sağlayacak mekanizmaların yanı sıra, gerektiğinde doğrulama yapılabilecek araçlara da ihtiyaç duyulduğunu belirtti.
Aşıcı’ya göre konu yalnızca bireysel kullanıcıların dikkatli davranmasıyla çözülebilecek bir mesele değil. Kurumların güvenlik ve geliştirme alanlarında uzmanlaşmış birimler oluşturması, kamu kurumlarının da dijital güvenlik politikalarını güçlendirmesi gerekiyor.
“HUMAN IN THE LOOP” KURALI NEDEN ÖNEMLİ?
Aşıcı’nın yapay zeka güvenliğine ilişkin değerlendirmelerinde öne çıkan kavramlardan biri de human in the loop, yani insanın karar ve denetim döngüsünün içinde bulunması ilkesi oldu.
Bu yaklaşım, yapay zekanın bir görevi yürütmesine izin verilse bile belirli kararların insan tarafından kontrol edilmesini ve gerektiğinde işlemin durdurulabilmesini öngörüyor. Özellikle kritik sistemlerde yetkilerin sınırlandırılması, bağlantıların gerektiğinde kesilebilmesi ve işlemlerin izlenebilir olması önem taşıyor.
Aşıcı, yapay zeka sistemlerinin en üst düzey yönetici yetkileriyle sınırlandırılmadan çalıştırılmaması gerektiğini de vurguladı. Sisteme yalnızca görevini yerine getirmesi için gereken yetkilerin verilmesi, olası bir hata veya saldırının etkisini sınırlayabilecek önlemler arasında bulunuyor.
Yapay zekanın gelişimini güvenli biçimde yönetmek için bireysel güvenlikten kurumsal denetime, teknik önlemlerden uluslararası standartlara kadar geniş bir çerçeveye ihtiyaç olduğunu belirten Aşıcı, kontrolün insanda kalmasının temel ilke olması gerektiğini ifade etti.
Aşıcı’nın değerlendirmesine göre yapay zekanın hangi işlemleri yapabileceği kadar, hangi işlemleri yapamayacağının da önceden belirlenmesi gerekiyor. Yapay zeka ajanlarının iş süreçlerinde daha fazla sorumluluk üstlendiği bir dönemde asıl mesele, teknolojiyi durdurmak değil; yetkilerini sınırlandırmak, işlemlerini denetlemek ve gerektiğinde sistemi durdurabilecek insan kontrolünü korumak.
