Facebook Deepfake Detection Challenge’ın Sonuçları

Toplumsal medya devi Facebook, giderek artan deepfake görüntü tehdidiyle gayret etmek için geçtiğimiz yılın eylül ayında ‘Deepfake Detection Challange’ ismi verilen bir yarış başlatmıştı. Ortadan geçen yaklaşık bir yılın ve 2.000’den fazla yarışmacının akabinde firma, bugün prestijiyle yarışın kazananlarını duyurdu.

Deepfake içerikler, toplumsal medya platformlarına inanılmaz büyük bir sorumluluk yüklüyor. Bu teknolojiyle birlikte devlet liderleri yahut tanınmış bireyler, temelinde söylemedikleri bir şeyi söylemiş ya da yapmadıkları bir şeyi yapmış üzere gösterilebiliyor. Facebook da bu sebeple rahatsız edici olabilecek yapay ve manipüle edilmiş içerikleri otomatik olarak tespit edip yanlış bilgiyle gayret etmeyi amaçlıyor.

Deepfake nedir?

Yapay zekâ teknolojisiyle oluşturulan deepfake görüntüleri, bireylerin ağız ve yüz hareketlerinden yola çıkarak mimik ve hareketlerini algılıyor. Yapay zekâ, elde edilen bu dataları işleyerek karmaşık bir algoritma oluşturuyor. Bu algoritmaysa kendisine verilen görselleri tıpkı mimikler ve tabirlerle güncelleyip nihayetinde kusursuz denebilecek bir montajlama ortaya çıkıyor.

Günümüzde ünlü şahısları absürt sahnelere koyarak cümbüş hedefli kullanılabilen bu teknoloji, bilhassa toplumsal medyada bir propaganda aracı olabiliyor. Yapay ve manipüle edilmiş bu görüntüler, kitleleri kışkırtabileceği için kimi bireyler tarafından tehlikeli kabul ediliyor.

Facebook, Deepfake Detection Challenge için 10 milyon dolar harcadı:

Facebook, yarış boyunca 3.500’den fazla aktör kullandı ve yaklaşık 10 milyon dolar harcadı. Kaydedilen görüntülerde ayrıyeten rastgele bir algoritmayı zorlamak için birtakım dikkat dağıtıcı değişiklikler de yapıldı. Bu hususta konuşan Facebook CTO’su Mike Schroepfer, bu görüntüleri çekerken platformlarda paylaşılan görüntü çeşitlerine kıymet verdiklerini ve bu sebeple profesyonel şartlarda çekim yapmadıklarını söyledi.

Birinci etapta kullanılan algoritmalar çok uygun sonuçlar vermedi lakin kimi ayarlardan sonra geçersiz içeriklerin tespitinde %80’in üzerinde doğruluk oranına ulaşıldı. Bu noktada sonuçların varsayım ettiğinden daha başarılı olduğunu belirten Facebook CTO’su Mike Schroepfer, kazanan modellerin %82 doğruluk oranıyla çalıştığının da altını çizdi.

Deepfake Detection Challenge’da kazanan modeller, dalın geri kalanını harekete geçirmek için açık kaynaklı hâle getirilecek. Yani herhangi bir yazılım mühendisi koda fiyatsız bir halde erişebilecek.