Dünyanın en popüler sosyal medya platformlarından TikTok, içerik moderasyon süreçlerinde yapay zeka destekli sistemlere geçiş kapsamında yeni bir yeniden yapılanma süreci başlattı.
YAPAY ZEKA İÇERİK DENETİMİNDE DAHA FAZLA KULLANILACAK
Şirket, ilk etapta İrlanda'daki çalışan sayısını yaklaşık 300 kişi azaltmayı planlıyor. Diğer ülkelerdeki ekiplerin de süreçten etkilenebileceği belirtilirken, hangi pazarlarda personel azaltımına gidileceği konusunda henüz net bir açıklama yapılmadı.
TikTok bünyesinde görev yapan içerik moderatörleri, platformda paylaşılan zararlı, şiddet içeren ve tehlikeli içeriklerin tespit edilerek kaldırılmasından sorumlu bulunuyor.
Şirket yetkilileri, güven ve güvenlik alanındaki küresel operasyon modelinin en son teknolojik gelişmeler doğrultusunda yeniden yapılandırıldığını ve yapay zeka tabanlı sistemlerin daha etkin kullanılacağını açıkladı.
Videoların bölge bazlı değil, dil bazlı denetlenmesi nedeniyle işten çıkarmaların yalnızca belirli ülkelerle sınırlı kalmayacağı, platform genelindeki kullanıcıları etkileyebileceği değerlendiriliyor.
GÜVENLİK ENDİŞELERİ GÜNDEMDE
TikTok'un geçen yıl Londra ofisindeki güven ve güvenlik ekibinden 400'den fazla çalışanın ayrılması, çevrim içi güvenlik konusunda tartışmaları beraberinde getirmişti.
Bazı hükümet yetkilileri ve uzmanlar, personel sayısındaki azalışın kullanıcı güvenliğini olumsuz etkileyebileceğini savunuyor. Özellikle çocukların korunması, deepfake içeriklerin engellenmesi ve çevrim içi istismarın önlenmesi konusunda endişeler dile getiriliyor.
Moderatörler ise bütçe kesintilerinin kullanıcıları zararlı içeriklere karşı daha savunmasız bırakabileceği uyarısında bulunuyor.
ŞİRKET: İÇERİKLERİN YÜZDE 97'Sİ OTOMATİK OLARAK KALDIRILIYOR
TikTok tarafından paylaşılan verilere göre, bu yılın ocak-nisan döneminde kaldırılan içeriklerin yüzde 97'si otomatik sistemler tarafından tespit edilerek silindi.
Ayrıca yapay zeka tarafından kaldırılan içeriklerin yüzde 99'unun kullanıcılar tarafından şikayet edilmeden önce yayından kaldırıldığı bildirildi.
Uzmanlar, bu verilerin yapay zeka teknolojilerinin içerik denetiminde önemli bir rol üstlendiğini gösterdiğini ancak insan denetiminin halen kritik öneme sahip olduğunu belirtiyor.
"YAPAY ZEKA HENÜZ YETERLİ DEĞİL"
Şirket bünyesinde çalışan bazı moderatörler ise yapay zekanın geniş ölçekli içerik denetimi için henüz yeterince gelişmediğini savunuyor.
İddialara göre, yapay zeka sistemleri zaman zaman ciddi hatalar yapabiliyor. Örneğin silah tespit sistemlerinin el hareketlerini silah olarak algılayabildiği, kan tespit modellerinin ise duvarlardaki lekeleri dahi riskli içerik olarak değerlendirebildiği belirtiliyor.
Ayrıca kullanıcıların yorum bölümlerinde emoji ve semboller kullanarak kuralları aşma yöntemlerini yapay zekanın tespit etmekte zorlandığı ifade ediliyor.
ÇOCUKLARIN KORUNMASINA YÖNELİK BASKI ARTIYOR
TikTok'taki dönüşüm, sosyal medya platformlarına yönelik düzenleme çağrılarının arttığı bir dönemde gerçekleşiyor.
İngiltere Başbakanı Keir Starmer, 16 yaş altındaki çocukların sosyal medya kullanımının 2027 yılının ilkbaharından itibaren yasaklanacağını açıklamıştı.
TikTok yönetimi ise yeniden yapılanmanın temel amacının platform güvenliğini artırmak, yeni uzman kadroları oluşturmak ve teknolojik yeniliklerle kullanıcı güvenliğini daha güçlü hale getirmek olduğunu vurguladı.
