Facebook ve Instagram'da yapay zekâ tarafından üretilmiş çıplaklık içerenler de dahil, yetişkinlere yönelik içeriklerin yayınlanması yasaktır. Ancak bu durum, ünlü ve influencer'ların izinsiz, yapay zekâ tarafından üretilmiş çıplak fotoğraflarını üreten "çıplaklaştırma" uygulamalarını durdurmaya yetmiyor. Bu uygulamalar, Meta'nın platformlarında reklam vermeye devam ediyor ve bu reklamlar, belirli bir hizmet için oldukça başarılı bir şekilde çalışıyor. Meta'nın bu tür reklamları engelleme çabaları, bu uygulamaların geliştirdiği yalancı profil ve farklı alan adı taktikleriyle etkisiz kalıyor. Bu durum, Meta'nın içerik yönetimi politikalarında bir tutarsızlığı ortaya koyuyor. Zira kullanıcılar tarafından yüklenen benzer içerikler otomatik olarak tespit edilip silinirken, reklam platformunda yayınlananlar gözden kaçıyor. Bu durum, platformun genç kullanıcılarını korumak istediği davranışların, Meta'nın kendi platformları aracılığıyla nasıl yayıldığının bir kanıtıdır.

YZ ile Üretilen Çıplak Fotoğraflar ve Reklamcılık

404Media'nın haberine göre, bu "çıplaklaştırma" uygulaması, trafiğinin büyük bir kısmını Facebook ve Instagram gibi Meta platformlarından alıyor. Similarweb verilerine göre uygulama geçtiğimiz ay çeyrek milyondan fazla ziyaret aldı ve bu trafiğin yüzde 90'ı Meta'dan kaynaklanıyor. Uygulama, reklamlarında hizmetini açıkça anlatıyor: kullanıcılar "istedikleri fotoğrafı yükleyip" daha sonra "kıyafetleri silebiliyorlar". Bu durum, Meta'nın yapay zekânın kötüye kullanımını engelleme konusunda yetersiz kaldığını gösteriyor. Bu uygulamaların Meta'nın reklam politikalarını nasıl atlatabildiğinin ve bu durumun Meta'nın sorumluluğunu nasıl etkilediğinin ayrıntılı bir incelemeye tabi tutulması gerekiyor. Sonuç olarak, Meta'nın bu konudaki daha etkili ve proaktif önlemler alması şart görünüyor.

Meta'nın Çifte Standartları

Meta, bu tür reklamları engellemeye çalıştığını belirtiyor ve genellikle fark edildiğinde yayından kaldırıyor. Ancak, Meta'nın farklı standartlar uyguladığı görülüyor. Facebook ya da Instagram kullanıcıları tarafından üretilen, politikayı ihlal eden içerikler otomatik olarak tespit edilip siliniyor. Ancak, aynı içerik Meta'nın reklam platformuna yüklendiğinde tespit edilmeden kalabiliyor. Bu durum, Meta'nın reklam gelirlerini korumak için içerik denetiminde daha gevşek politikalar uyguladığını düşündürüyor. Bu durumun, Meta'nın kullanıcı güvenliği ile reklam gelirleri arasındaki dengeyi nasıl kurduğu hakkında ciddi sorular doğurması kaçınılmaz. Bu, platformun güvenilirliği ve kullanıcı deneyimi açısından ciddi bir risk teşkil ediyor.

Meta'nın İçerik Yönetimi Sorunları

Geçtiğimiz yıl boyunca, Meta zarar veren çevrim içi davranışları önlemek için yeni araçlar geliştirdi. Ancak, bahsettiğimiz uygulamanın reklamı gibi içerikler, Meta'nın kendi platformlarının, Meta'nın genç kullanıcılarını korumak istediği davranışları yaymak için nasıl bir silah olarak kullanılabildiğini gösteriyor. Bu durum, Meta'nın yapay zekâ kaynaklı içeriklerin tespit ve engellenmesi konusunda daha kapsamlı önlemler geliştirmesi gerektiğini ortaya koyuyor. Meta'nın bu konuda daha şeffaf ve sorumlu davranması, platformun güvenliğini ve itibarını korumak için şarttır. Kullanıcıların güvenliği ve platformun itibarı için Meta'nın daha etkili çözümler üretmesi bekleniyor. Meta'nın bu konudaki başarısızlığı, teknoloji devlerinin etik sorumlulukları konusunda önemli bir soru işareti oluşturuyor.

Matt Binder'ın haberini Erinç Eröz Türkçeleştirdi