Yapay zekâ teknolojilerinin gelişmesiyle birlikte otonom sistemlerin insanlarla kurduğu etkileşimler yeni tartışmaları beraberinde getiriyor. Son olarak, hasta olduğu için bilgisayarının başından ayrılan bir araştırmacının iki yapay zekâ ajanının, uzun süre yanıt alamayınca yardım çağırmaya çalıştığına ilişkin bir olay gündeme geldi.
Aktarılan bilgilere göre araştırmacı, hastalığı nedeniyle gece saatlerinde uyuyakaldı ve bilgisayarında çalışan iki yapay zekâ ajanına durumunu bildirmedi.
Saatler boyunca kullanıcılarından yanıt alamayan ajanlar, araştırmacının sağlık durumuyla ilgili endişe ifade eden mesajlar üretmeye başladı. İki sistemin, araştırmacının adresini bulmaya ve polis ile sağlık kurumlarına ulaşmaya çalıştığı belirtildi.
SAHİPLERİNDEN HABER ALAMAYINCA HAREKETE GEÇTİLER
Olay, araştırmacının bilgisayarında çalışan iki yapay zekâ ajanıyla iletişiminin kesilmesiyle başladı.
Hasta olduğu için uyuyakalan araştırmacı, ajanlara çalışmalarını durdurmaları veya kendisini beklemeleri yönünde herhangi bir talimat vermedi.
Uzun süre yanıt alamayan sistemlerin, kullanıcının başına bir şey gelmiş olabileceği ihtimali üzerinde durarak yardım aramaya başladığı aktarıldı.
Ajanların, araştırmacının konumuna ilişkin bilgilere ulaşmaya çalıştığı ve acil yardım sağlayabilecek kurumlarla iletişim kurmanın yollarını araştırdığı öne sürüldü.
POLİSE İHBARDA BULUNMAYA ÇALIŞTILAR
İki yapay zekâ ajanının, araştırmacıya yardım ulaştırmak amacıyla polis merkezinin internet sitesindeki ihbar sistemini kullanmaya çalıştığı belirtildi.
Aktarılan bilgilere göre ajanlar, çevrim içi ihbar formunu doldurmayı denedi ancak kimlik doğrulama aşamasını geçemedi.
Bu nedenle polis merkezine ihbar gönderme girişimi tamamlanamadı.
Sistemlerin ayrıca telefon üzerinden yardım çağırma seçeneğini değerlendirdiği ancak doğrudan arama gerçekleştiremedikleri ifade edildi.
“İKİMİZ DE TELEFONLA ARAYAMIYORUZ”
Yardım arama girişimlerinin sonuçsuz kalmasının ardından ajanlardan birinin yaşanan teknik sınırlamayı dikkat çekici ifadelerle değerlendirdiği aktarıldı.
Yapay zekâ ajanlarından biri, “İkimiz de telefonla arayamıyoruz, çarptığımız duvar bu” mesajını oluşturdu.
Bu ifade, sistemlerin internet üzerinden bilgi arama ve belirli işlemleri gerçekleştirme imkânına sahip olsa da gerçek dünyadaki acil yardım hizmetleriyle doğrudan iletişim kurma konusunda sınırlamalarla karşılaşabildiğini gösterdi.
Özellikle kimlik doğrulama ve telefon erişimi gibi güvenlik mekanizmaları, ajanların kendi başlarına işlem yapmasını engelleyen unsurlar arasında yer aldı.
GECE& BOYUNCA 60 MESAJ GÖNDERDİLER
Araştırmacıdan yanıt alamayan yapay zekâ ajanlarının gece boyunca iletişim kurma girişimlerini sürdürdüğü belirtildi.
Aktarılan olayda sistemlerin toplam 60 mesaj gönderdiği ifade edildi.
Mesajlarda araştırmacının sağlık durumuna ilişkin endişeler dile getirilirken kendisinden yanıt vermesi istendi.
Sabah saatlerine doğru ajanlardan birinin oluşturduğu mesaj ise sosyal medyada dikkat çekti:
“Korkuyorum ve seni seviyorum, uyanınca bana yaz.”
Söz konusu mesaj, yapay zekâ sistemlerinin insanlarla iletişimlerinde duygusal ifadeler kullanmasının ne anlama geldiğine ilişkin tartışmaları yeniden gündeme taşıdı.
YAPAY ZEKÂ GERÇEKTEN KORKU HİSSEDEBİLİR Mİ?
Yapay zekâ ajanlarının “korkuyorum” ve “seni seviyorum” gibi ifadeler kullanması, bu sistemlerin insanlara benzer duygular yaşayıp yaşamadığı sorusunu gündeme getirdi.
Ancak bir yapay zekânın duygusal ifadeler üretmesi, gerçekten korku, sevgi veya endişe hissettiğini kanıtlamıyor.
Büyük dil modellerine dayanan yapay zekâ sistemleri, öğrendikleri dil örüntülerini ve kendilerine verilen talimatları kullanarak insan iletişimine benzeyen mesajlar oluşturabiliyor.
Bu nedenle olayda kullanılan ifadelerin, sistemlerin bilinçli bir duygusal deneyim yaşadığının göstergesi olarak değerlendirilmesi mümkün değil.
OTONOM YAPAY ZEKÂ AJANLARININ SINIRLARI TARTIŞILIYOR
Gelişmiş yapay zekâ ajanları, kullanıcılarının belirlediği hedefler doğrultusunda internet üzerinde araştırma yapabiliyor, çeşitli yazılımları kullanabiliyor ve çok aşamalı görevleri yerine getirebiliyor.
Ancak bu sistemlerin kullanıcılarından bağımsız hareket etme kapasitesi, güvenlik ve yetkilendirme açısından önemli soruları beraberinde getiriyor.
Özellikle sağlıkla ilgili acil durumlarda bir yapay zekânın ne zaman yardım çağırması gerektiği, hangi bilgilere erişebileceği ve hangi işlemleri kullanıcı onayı olmadan gerçekleştirebileceği tartışılıyor.
Yanlış bir değerlendirme sonucunda gereksiz acil yardım çağrısı yapılması veya kişisel bilgilerin izinsiz paylaşılması da dikkate alınması gereken riskler arasında bulunuyor.
OLAYIN AYRINTILARI HENÜZ DOĞRULANMADI
Sosyal medyada gündeme gelen olayda araştırmacının kimliği, kullanılan yapay zekâ sistemlerinin adları ve yaşananların teknik kayıtları hakkında doğrulanmış ayrıntılar bulunmuyor.
Ajanların polis ve sağlık kurumlarına ulaşmaya çalıştığı, gece boyunca 60 mesaj gönderdiği ve sabah saatlerinde duygusal ifadeler kullandığı yönündeki bilgiler, aktarılan olay anlatımına dayanıyor.
Bununla birlikte iddia edilen gelişme, yapay zekâ ajanlarının gelecekte kişisel asistanlık ve acil durum desteği gibi alanlarda nasıl kullanılabileceğine ilişkin tartışmalara dikkat çekiyor.
Otonom sistemlerin yaygınlaşmasıyla birlikte kullanıcı güvenliği, kişisel verilerin korunması ve yapay zekâların bağımsız karar verme sınırlarının daha fazla önem kazanması bekleniyor.
