Facebook’tan deepfake videoları için büyük önlem

Ülkemizde dahil olmak üzere tüm dünyada eğlence amaçlı kullanılan deepfake teknolojisi, hızla amacından sapmaya başladı. Geçtiğimiz aylarda, TikTok‘ta 50 milyondan fazla izlenen ünlü oyuncu Tom Cruise‘un taklit edildiği video ile gerçeklik sınırlarını aştığını kanıtlayan bu teknoloji, son dönemde insanları ciddi şekilde mağdur etmeye başladı.

Özellikle deepfake ile oluşturulmuş videolar üzerinden dolandırıcılık vakaları ciddi oranda arttı. Bunun üzerine bir de deepfake ile hazırlanmış pornografik görüntüler üzerinden ünlü oyunculara şantaj yapıldığı iddiaları eklenince sosyal medya da dahil olmak üzere tüm internette ciddi bir temizlik başladı. Bunların başında ise şüphesiz Facebook geliyor.

Deepfake videolarını tespit eden özel bir yazılım geliştirildi

Facebook, 2020 yılının Ocak ayında deepfake videolarını yasakladığını açıklasa da yapısında hala daha bu tür videolar bulunuyor. Bu nedenle son dönemde gerçeklik sınırlarını aşan bu tür videoları tespit etmek ve engellemek için özel bir yazılım geliştirildi.

Facebook ve Michigan State Üniversitesi’ndeki yapay zeka araştırmacıları tarafından ortak geliştirilen yeni algoritma, deepfake videolarını ve bu videoların kaynağını tespit edecek. Bunun yanı sıra yazılım, teknik ne kadar yeni olursa olsun, deepfake videolar oluşturmak için kullanılan yapay zekayı da kolaylıkla tespit edecek.

Proje araştırma lideri Tal Hassner‘e göre yeni yazılım, tam anlamıyla bir tersine mühendislik ürünü olacak. Bu yazılımın ilham kaynağı ise geçtiğimiz yıl Michigan State Üniversitesinin geliştirdiği ” Bir fotoğrafın hangi kamera ile çekildiğini tespit eden yapay zeka ” projesi.

Şu an için geliştirilen yazılımın test aşamasında olduğunu ifade eden Hassner, ” Kötü niyetli bir kişinin birçok farklı deepfake videosu ürettiğini ve bunları farklı platformlarda farklı kullanıcı hesapları ile yüklediğini varsayalım. Üretilen bu videolar, daha önce kimsenin görmediği yeni bir yapay zeka modeli ile oluşturuldu ise, daha önce bunun hakkında söyleyebileceğimiz çok az şey vardı. Ancak geliştirdiğimiz yeni algoritma ile üretilen bu videoların kaynağını tespit edebileceğiz. ” ifadelerini kullandı.

Bunun yanı sıra Hassner, ” Geliştirilen algoritma, üretilen bir deepfake videosunun kaynağını bıraktığı parmak izi sayesinde tespit edecek. Bunun yanı sıra daha önce bu kaynağın ürettiği videolar ve bu videoların da deepfake olup olmadığını anlayacak. ” dedi.

Bunun üzerine deepfake videoları için geliştirilen yöntemlerin gün geçtikçe artmasına da değinen Hassner, bu durumun adeta bir ” kedi ve fare ” oyunu olduğunu belirtti.

Kaynak: Shiftdelete