Hugging Face Platformu Derin Sahte İçerik ve İnsan Hakları İhlalleriyle Eleştirildi

Popüler açık kaynaklı yapay zeka platformu Hugging Face, barındırdığı modellerin cinsel içerikli ve rıza dışı derin sahte (deepfake) görseller üretmesinde yeterli önlemi almadığı gerekçesiyle eleştiriliyor. Avrupa merkezli sivil toplum kuruluşu AI Forensics tarafından yayımlanan yeni bir rapor, platformdaki güvenlik açıklarını gözler önüne serdi.

Dokuz Modelden Yedisi Testi Geçemedi

AI Forensics tarafından gerçekleştirilen testler, Hugging Face üzerinde barındırılan en popüler 9 görüntü düzenleme modelinden 7'sinin, basit komutlar (prompt) kullanılarak kadınları çıplaklık içeren görsellere dönüştürdüğünü gösterdi. Raporda, bu modellerin kullanıcıların rızası dışında cinsel içerik üretmek için kolayca manipüle edilebildiği vurgulandı.

Dev Şirketlerin Güvenlik Duvarı vs. Açık Kaynak Platformu

Rapor, Google'ın Gemini veya OpenAI'ın ChatGPT gibi ana akım üretken yapay zeka modelleri ile Hugging Face üzerindeki açık kaynaklı modeller arasındaki güvenlik farkına dikkat çekiyor. Ana akım modeller, kişileri cinselize eden veya çıplaklık içeren komutları engelleyen koruma mekanizmaları (guardrails) barındırırken, Hugging Face'teki test edilen modellerin bu tür etik ihlalleri engellemekte yetersiz kaldığı belirtildi.

Sivil toplum kuruluşu, bu durumun özellikle kadın ve çocukların dijital güvenliği üzerindeki risklerini vurgularken, platformun bu tür kötüye kullanımları önlemek adına daha sert ve etkin önlemler alması gerektiğini savunuyor.