TikTok içerik denetiminde yapay zekaya geçiyor: Yüzlerce çalışan işini kaybedebilir

Dünyanın en büyük sosyal medya platformlarından TikTok, içerik moderasyonunda yapay zeka teknolojilerine daha fazla yer vermek amacıyla güven ve güvenlik ekiplerinde kapsamlı bir yeniden yapılanmaya gidiyor.

Şirketin ilk etapta İrlanda'daki yaklaşık 300 çalışanın görevine son vermeyi planladığı belirtilirken, diğer ülkelerdeki ekiplerin de bu süreçten etkilenebileceği ifade edildi. Hangi ülkelerde personel azaltımına gidileceği ise henüz açıklanmadı.

İçerik denetiminde yapay zeka öne çıkıyor

TikTok'ta görev yapan moderatörler, platformdaki zararlı, şiddet içeren ve uygunsuz içeriklerin tespit edilerek kaldırılmasından sorumlu bulunuyor.

Şirket tarafından paylaşılan verilere göre, bu yılın ocak-nisan döneminde kaldırılan içeriklerin yüzde 97'si otomatik sistemler tarafından tespit edildi. Yapay zekanın kaldırdığı içeriklerin yüzde 99'u ise kullanıcılar tarafından şikayet edilmeden önce yayından kaldırıldı.

Uzmanlar hata payına dikkat çekiyor

Buna karşın içerik moderasyonu alanında çalışan bazı personel, yapay zekanın henüz insan moderatörlerin yerini tamamen alabilecek seviyeye ulaşmadığını savunuyor.

Çalışanlara göre sistem zaman zaman el hareketlerini gerçek silah, duvardaki lekeleri ise kan olarak algılayabiliyor. Ayrıca emojiler veya farklı semboller kullanılarak yapılan kural ihlallerini tespit etmekte de yetersiz kalabiliyor.

Bu nedenle moderatörler, bütçe ve personel azaltımının kullanıcıları deepfake içerikler, istismar görüntüleri ve diğer zararlı paylaşımlar karşısında daha savunmasız bırakabileceği uyarısında bulunuyor.

Güvenlik tartışmaları yeniden gündemde

TikTok'un güvenlik ekiplerinde daha önce de personel azaltımına gitmesi çeşitli ülkelerde tartışmalara neden olmuştu.

Geçen yıl Londra ofisindeki güven ve güvenlik ekibinden 400'den fazla kişinin ayrılması, çevrim içi güvenlik politikalarının parlamentolarda gündeme gelmesine yol açmıştı.

Yetkililer, güvenlik ekiplerindeki küçülmenin platformun zararlı içeriklerle mücadele kapasitesini olumsuz etkileyebileceğini savunuyor.

Çocukların korunmasına yönelik baskı artıyor

Yapay zeka odaklı dönüşüm, sosyal medya platformlarının çocukların güvenliğini sağlamaya yönelik baskılarla karşı karşıya olduğu bir dönemde gerçekleşiyor.

İngiltere Başbakanı Keir Starmer, 16 yaş altındaki çocukların sosyal medya kullanımına yönelik yeni düzenlemelerin 2027 ilkbaharında yürürlüğe girmesinin planlandığını açıklamıştı.

TikTok ise yaptığı açıklamada, yeniden yapılanmanın güvenlik operasyonlarını daha verimli hale getirmeyi, Dublin'de yeni uzman kadroları oluşturmayı ve platform güvenliğini gelişmiş teknolojilerle güçlendirmeyi amaçladığını bildirdi.