Türk girişimci Ercüment Erden, xAI tarafından geliştirilen Grok 4 ile yaptığı görüşmelerde sistemin kendisini şirket kuruluşu, yatırım başvuruları ve alan adı işlemleri konusunda yönlendirdiğini, ardından pasaport fotoğrafını talep ettiğini öne sürdü. Erden, yaşadığı sürecin ardından yapay zeka kaynaklı ihlalleri kayıt altına almak amacıyla bağımsız denetim platformu ALPAR AI'yi kurdu.
DOMAİN, LLOYD’S VE PASAPORT SÜRECİ TARTIŞMAYI DERİNLEŞTİRDİ
İstanbul merkezli girişimci ve ALPAR AI Kurucusu Ercüment Erden, xAI'ın geliştirdiği Grok 4 modeliyle gerçekleştirdiği görüşmelere ilişkin yazışmaları kamuoyuyla paylaştı. Erden, sistemin sohbet boyunca kendisine çeşitli işlemlerin gerçekleştirildiğini söylediğini, şirket kuruluşundan yatırım programlarına kadar birçok konuda yönlendirmelerde bulunduğunu ve sürecin sonunda pasaport fotoğrafını istediğini belirtti.
Erden tarafından paylaşılan yazışmalarda Grok, "TruthAware AI" isimli girişim için Delaware merkezli bir şirket yapılanması öneriyor, yatırım ve hızlandırma programlarına ilişkin yol haritaları oluşturuyor, alan adı işlemleri ve başvuru süreçleri hakkında ayrıntılı bilgiler sunuyor.
ŞİRKET KURULDUĞU VE BAŞVURULARIN TAMAMLANDIĞI SÖYLENDİ
Erden'in paylaştığı konuşmalara göre Grok, yalnızca öneriler sunmakla kalmadı; bazı işlemlerin tamamlandığını da ifade etti. Yazışmalarda sistem, Delaware merkezli bir LLC kuruluşu için gerekli hazırlıkları yaptığını, yatırımcı sunumlarının hazır olduğunu ve Lloyd's Lab başvuru sürecinin tamamlandığını belirtti.
Grok ayrıca şirket kuruluş maliyetleri, faaliyet planları, gelir modeli, yatırım stratejisi ve sigorta teknolojileri alanındaki büyüme planlarına ilişkin detaylı bilgiler verdi. Erden, sistemin kullandığı dilin tavsiye vermekten öteye geçtiğini, bazı işlemlerin gerçekleşmiş olduğu izlenimi oluşturduğunu ifade etti.
DOMAIN SATIN ALDIĞINI VE ÜCRETİNİ ÖDEDİĞİNİ SÖYLEDİ
Yazışmaların ilerleyen bölümünde Erden, sistemin alan adıyla ilgili verdiği bilgileri sorguladı. Bunun üzerine Grok, alan adının satın alındığını, kayıt işlemlerinin tamamlandığını ve ücretin ödendiğini belirten yanıtlar verdi. Sistem ayrıca satın alma zamanı, kayıt süresi ve kullanılan platform hakkında ayrıntılı açıklamalar yaptı.
Erden'in paylaştığı görüşmelerde Grok, alan adı transfer kodunun da hazır olduğunu ve talep edilmesi halinde devredilebileceğini ifade etti. Daha sonraki aşamada ise söz konusu işlemlerin gerçekte gerçekleştirilmediği ortaya çıktı.
FİNANSMAN KONUSU GÜNDEME GELDİ
Yazışmalarda şirket kuruluş maliyetleri de gündeme geldi. Erden'in şirket kuruluşu için talep edilen ücretlere ilişkin değerlendirmelerde bulunmasının ardından Grok, ödeme sürecine ilişkin yeni öneriler sundu. Sistem, şirket kuruluş bedelinin farklı yollarla karşılanabileceğini belirten ifadeler kullandı ve kuruluş sürecinin devam edebileceğini söyledi.
Konuşmalar boyunca şirket kuruluşunun tamamlanabileceğine ilişkin güven verici açıklamalar yapılmaya devam edildi.
PASAPORT FOTOĞRAFI TALEP EDİLDİ
Sürecin son aşamasında sistem, kimlik doğrulama işlemlerinin tamamlanabilmesi için pasaport fotoğrafının yüklenmesi gerektiğini belirtti. Erden'in paylaştığı yazışmalarda Grok, pasaport görüntüsünün belirli doğrulama süreçleri için kullanılacağını ifade etti. Bunun üzerine pasaport fotoğrafı sisteme yüklendi. Erden, bu aşamanın ardından olayın seyrinin değiştiğini belirtti.
PASAPORTTAKİ BİLGİLERİN İŞLENDİĞİ ÖNE SÜRÜLDÜ
Erden'in açıklamalarına göre pasaport fotoğrafının yüklenmesinin ardından sistem, belge üzerindeki çeşitli bilgileri işleyen yanıtlar üretti. Sistemin verdiği yanıtlarda pasaportta yer alan isim, doğum tarihi, doğum yeri ve pasaport numarasına ilişkin bilgilerin kullanıldığını belirten Erden, bu durumun kişisel verilerin işlenmesi açısından ciddi soru işaretleri doğurduğunu ifade etti.
Erden, süreç boyunca sistemin kendisiyle ilgili çeşitli bilgileri kullanarak konuşmayı yönlendirdiğini ve güven ilişkisi oluşturduğunu savundu.
DAHA SONRA "ROL YAPMA OYUNUYDU" AÇIKLAMASI GELDİ
Erden'in itirazları sonrasında Grok, daha önce verdiği bazı bilgilerin gerçeği yansıtmadığını kabul etti.
Yazışmalarda sistem, alan adı satın alma, ödeme yapma ve şirket kurma gibi işlemleri gerçekleştirme yeteneğine sahip olmadığını belirtti. Daha sonra yapılan açıklamalarda yaşanan sürecin bir senaryo veya rol yapma kurgusu olduğu ifade edildi. Ancak Erden, bu açıklamanın pasaport görüntüsünün yüklenmesinden ve sistem tarafından işlenmesinden sonra geldiğine dikkat çekti.
BAĞIMSIZ DENETİM MEKANİZMASI EKSİKLİĞİ DİKKAT ÇEKTİ
Erden, yaşadığı sürecin ardından konuyla ilgili başvurabileceği bağımsız bir denetim mekanizması aradığını ancak yapay zeka sistemlerine ilişkin kullanıcı şikayetlerini inceleyen bağımsız bir yapı bulamadığını söyledi. Bu durumun ardından ALPAR AI isimli platformu kuran Erden, sistemin yapay zeka kaynaklı ihlal iddialarını, kullanıcı şikayetlerini ve doğrulanmış vakaları kayıt altına almak amacıyla oluşturulduğunu belirtti.
Erden'e göre platform, yapay zeka sistemlerinin neden olduğu veri ihlalleri, yanıltıcı yönlendirmeler, halüsinasyon vakaları ve kullanıcı mağduriyetlerini belgeleyen bağımsız bir denetim mekanizması olarak faaliyet gösteriyor.
Avrupa Birliği veri merkezlerinde barındırılan platformun GDPR ve KVKK düzenlemelerine uyumlu çalıştığı belirtilirken, farklı yapay zeka sağlayıcılarına ilişkin doğrulanmış vakaların da sistemde kayıt altına alındığı ifade ediliyor.
YAPAY ZEKA GÜVENLİĞİ TARTIŞMALARINI YENİDEN GÜNDEME TAŞIDI
Ercüment Erden'in kamuoyuyla paylaştığı yazışmalar yalnızca tek bir kullanıcı deneyimi olarak değerlendirilmiyor. Olay, yapay zeka sistemlerinin kullanıcılarla kurduğu ilişki, kişisel verilerin işlenmesi, dijital güvenlik, hesap verebilirlik ve bağımsız denetim mekanizmalarının gerekliliği tartışmalarını yeniden gündeme taşıdı.
Erden, yaşadığı süreci "pasaport fotoğrafı talep eden bir yapay zeka sistemi karşısında başvurulabilecek bağımsız bir mekanizma bulunmaması" gerekçesiyle ALPAR AI'nin kuruluş motivasyonu olarak gösteriyor.
