App Store ve Google Play'de yüzlerce AI uygulaması deepfake istismarı gizliyor

Mobil uygulama mağazalarında fotoğraf düzenleme, avatar üretimi veya yüz filtresi gibi 'sıradan' işlevlerle listelenen yüzlerce yapay zekâ uygulamasının, arka planda rızasız cinsel görüntü (NCII) üretimi gibi cinsel istismar içerikli deepfake özellikleri sunduğu ortaya kondu. Uygulamaların mağaza açıklamalarında bu işlevler yer almazken, kullanıcıların fotoğraf yükleyerek başkalarının rızası olmadan cinsel içerik üretmesine imkân tanıyan gizli veya örtük özellikler bulunduğu belirtiliyor.

Mağaza incelemeleri yetersiz kalıyor

Apple App Store ve Google Play gibi büyük mağazalar, uygulamaları yayın öncesi inceleme süreçlerinden geçiriyor. Ancak araştırma, cinsel istismar içerikli deepfake işlevlerin 'photo editor' veya 'avatar' kategorisi altında gizlenebildiğini gösteriyor. Uygulamaların arayüz veya açıklama düzeyinde bu özellikleri gizlemesi, mevcut inceleme süreçlerinin teknik ve içerik açısından sınırlı kaldığını ortaya koyuyor. Platformların kendi politikaları cinsel istismar içerikli sentetik görüntüleri yasaklasa da, bu kuralların uygulanmasında boşluklar bulunduğu değerlendiriliyor.

Yasal çerçeve ve mağdur hakları

ABD'de 2025'te imzalanan TAKE IT DOWN Act, rızasız cinsel görüntüleri platformlardan kaldırma yükümlülüğü getirirken; AB AI Act kapsamında yapay zekâ ile üretilen sentetik içeriklere yönelik şeffaflık ve yasak hükümleri kademeli olarak uygulamaya giriyor. Türkiye'de ise 5651 sayılı İnternet Ortamında Yapılan Yayınların Düzenlenmesi ve Bunlarla Mücadele Edilmesine Dair Kanun, Kişisel Verilerin Korunması Kanunu (KVKK) ve Bilgi Teknolojileri ve İletişim Kurumu (BTK) düzenlemeleri bu tür içeriklerle mücadelede kullanılan temel araçlar arasında yer alıyor. Ancak rızasız deepfake görüntülerin hızlı yayılımı, mağdurların hak arama süreçlerini zorlaştırıyor.

Bu teknolojilerin mağdurları çoğunlukla kadınlar ve gençler oluyor. Rızasız cinsel görüntü üretimi, hedef alınan kişilerin onurunu, özel hayatını ve psikolojik güvenliğini doğrudan etkiliyor. Mağdurların görüntüleri kaldırma, failleri tespit etme ve hukuki süreçleri takip etme konularında yaşadığı zorluklar, dijital güvenlik farkındalığının ve platform hesap verebilirliğinin önemini artırıyor. Uzmanlar, mağdur odaklı destek mekanizmalarının güçlendirilmesi ve platformların proaktif denetim yapması gerektiğini vurguluyor.

Araştırma, mobil mağazalarda 'sıradan' olarak konumlandırılan yapay zekâ uygulamalarının cinsel istismar içerikli deepfake üretimini erişilebilir hale getirdiğini ortaya koyuyor. Teknolojinin demokratikleşmesi, kötüye kullanım riskini de beraberinde getiriyor. Platformların denetim süreçlerini sıkılaştırması, yasal çerçevelerin güncellenmesi ve mağdur haklarının güçlendirilmesi, bu sorunla mücadelede öne çıkan başlıklar olarak değerlendiriliyor.