Deepfake nedir ve nasıl anlaşılır?

Deepfake, yapay zekâ ve makine öğrenimi teknolojileriyle üzerinde değişiklik yapılmış video dosyalarına verilen isimdir. Var olan bir video dosyasındaki bir öğenin (örneğin, bir insanın yüzünün veya sesinin) değiştirilmesini sağlar. Kullanılan teknolojinin özellikleri nedeniyle, bu işlem basit bir görsel efektten çok daha gerçekçi sonuçlar verir. Uzman olmayan kişiler, bir videonun deepfake, yani sahte olduğunu çoğunlukla anlayamaz ve uzmanlar için bile bunu anlamak çok zor olabilir.

Deepfake teknolojisi, ağırlıklı olarak özel efekt için kullanılır ancak siyasi propaganda veya başka herhangi bir amaç için kullanılması da mümkündür. Örneğin, bu teknoloji ile bir Hollywood filminde aktörü gençleştirebilir veya tamamen farklı biri haline getirebilirsiniz. Bu teknolojiyle, politikacıların ve ünlülerin, aslında hiç yapmadıkları şeyleri söylüyor ve yapıyormuş gibi göründükleri videolar oluşturmak mümkündür. Bunu yapmaktaki amaç, bir filmi daha etkileyici hale getirmek, bir propaganda yapmak veya sadece eğlenmek olabilir: Amaç, bu teknolojiyi kullanan kişinin niyetine göre değişir.

Deepfake videolar, değiştirilecek videoyu yeniden oluşturmak için “derin öğrenme” adı verilen bir teknoloji kullanan yapay zekâ sistemleriyle yaratılır. Bazı durumlarda, derin öğrenme teknolojileri birbirine rakip bileşenler içeren bir yapay zekâ ağı kullanır. Bu ağda, elde edilen sonuçlardan öğrenmek ve onları geliştirmek için birbiriyle rekabet eden iki farklı bileşen yer alır.

Deepfake videolarında genellikle bir kişinin (çoğunlukla bir aktörün) görüntüleri bulunur. Bu görüntüler, üzerine başka bir yüzün yansıtılacağı bir “manken” olarak kullanılır. Yapay zekâ, farklı bir kişinin yüzlerce görüntüsünü inceleyerek analiz eder ve tespit ettiği özellikleri gerçekçi bir şekilde bu manken üzerinde yeniden oluşturur. Örneğin, yaratılan yeni yüzün görüntüsü, mankenin yüzüyle değiştirilir ve aktörün hareketleri ile senkronize edilir.

Deepfake nasıl yapılır sorusunu cevapladığımıza göre, kimlerin bu teknolojiyi kullanabileceğinden de bahsedelim. Deepfake programları gizli şeyler olmadıkları için biraz teknik bilgiye ve gerekli kaynaklara sahip herkes tarafından kullanılabilir. Ancak elbette elde edilen sonuçların kalitesi farklılık gösterir: Bir amatörün hazırladığı deepfake videosu ile bir Hollywood stüdyosunun hazırladığı deepfake videosu, kalite (ve inandırıcılık) bakımından çok farklı olacaktır.

Wombo ve FaceApp gibi ücretsiz uygulamalar ile bir deepfake videosu oluşturmak mümkündür. Bunlar elbette mükemmel sonuçlar vermez, ancak kolayca kullanılabilirler ve amatörler için yeterli olduklarını söylemek mümkündür. En iyi deepfake programı, hemen hemen daima görsel efekt stüdyoları tarafından kullanılan programdır ve bunlar sıradan kullanıcıların kolayca erişebileceği yazılımlar değildir.

Görsel efekt sanatçıları, yaşlı oyuncuları gençleştirmek ve hatta ölen ünlüleri ekrana geri getirmek için bu teknolojiyi kullanır. “Terminator: Dark Fate” filminde Arnold Schwarzenegger’in genç bir halini gördük ve “Rogue One: A Star Wars Story” filminde Peter Cushing ekrana geri döndü: Bu dijital rekonstrüksiyonlar, deepfake teknolojisi sayesinde mümkün oldu. Amatör VFX sanatçılarının Donald Trump, Barack Obama ve Tom Cruise gibi tanınmış kişiler için yarattığı deepfake videolarını YouTube’da izleyebilirsiniz.

Teknik olarak hayır, deepfake videoları illegal değildir. Ancak Türk Medeni Kanunu (m. 23, 24 ve 25), Türk Borçlar Kanunu (m. 49), Kişisel Verileri Koruma Kanunu, Türk Ticaret Kanunu, Fikir ve Sanat Eserleri Kanunu, 5651 sayılı kanun ve Türk Ceza Kanunu, kişilik haklarını koruma altına almıştır. Bu haklara elbette kişilerin görüntüleri ve sesleri dahildir. Bir kişi için deepfake video yaratmak (örneğin “Hadise deepfake”), o kişinin buna açık rızası olmadığı sürece kişilik haklarına bir saldırı sayılacak ve bu yasalar uyarınca tazminat, para cezası ve hatta hapis cezası gibi yaptırımlara tabi olacaktır.

Bir deepfake videoyu tespit etmek kolay bir iş değildir. Bazıları gerçekten amatördür ve sadece yüz ifadelerinden videonun sahte olduğu anlaşılabilir, ancak bazı deepfake videolar çok daha sofistikedir. İzlediğiniz videonun deepfake olup olmadığını anlamanıza yardımcı olabilecek şeylerden bazıları şunlardır:

Deepfake videolarda, yapay zekanın yarattığı yüz, mankenin yüzü üzerine yerleştirilir ve bu işlem sırasında pek çok “bağlantı noktası” oluşur. Bu noktalar, bazen garip bir şekilde pürüzsüz ve bulanık görünebilir. Herhangi bir ani kafa hareketi veya ışıklandırmadaki değişiklikler anlık olarak yüzün kenarlarının bulanık hale gelmesine neden oluyorsa, bir deepfake izliyor olabilirsiniz.

Videoda bir politikacı gibi tanınmış bir kişi varsa, o kişinin resimleriyle ekranda gördüklerinizi karşılaştırabilirsiniz. Yüzün ana kısımlarına değil de, değişiklik yapılmamış olabilecek kısımlarına odaklanın. Senkronize olmayan dudaklar, saçlar ve vücut şekilleri, videonun gerçek olmadığı anlamına gelebilir.

Deepfake videolar, manken fazla hareket etmediğinde daha inandırıcı görünür. Mankenin vücudu ve başı garip bir şekilde katı görünüyorsa ve hareket etmesini beklediğiniz yerlerde sabit duruyorsa, videonun yaratıcıları işin kolayına kaçmış demektir: Çok fazla hareketi analiz etmeye gerek kalmadan sadece yüzü değiştirmeye çalışmışlardır.

Deepfake teknolojisi (en azından şimdilik) ses simülasyonları konusunda iyi değil. İnsanların seslerini taklit etmek, sahte görüntüler yaratmaktan daha zor gibi görünüyor. Her halükârda, sesteki farklılıkları tespit etmek daha kolay olacaktır. Duyduğunuz sesi bir ünlünün veya politikacının gerçek sesiyle karşılaştırabilirsiniz.

Deepfake, hem bireyler hem de genel olarak toplum için birden çok güvenlik tehdidi oluşturan bir teknolojidir. Örneğin, herhangi kötü birisi, ayrıldığı sevgilisi için bir video yaratıp çevrimiçi olarak paylaşabilir. Bu, kelimenin tam anlamıyla bir itibar suikastı olacaktır. Ancak deepfake teknolojisinin neden olduğu tehditler, bununla sınırlı değildir.

Sahte haber ve propaganda

İkna edici bir deepfake video, muhalifleri veya devletleri karalamak için propaganda amaçlı kullanılabilir. Örnek olarak, Rusya’nın Ukrayna’yı işgalinden kısa bir süre sonra ortaya çıkmaya başlayan deepfake videoları gösterebiliriz. Bu videolar, Ukrayna cumhurbaşkanının teslim olduğunu gösteriyordu. Deepfake teknolojisi, siyasi bir rakibi karalamak ve seçmenleri etkilemek için de kullanılabilir. Sahte medyanın sahte haber (fake news) risklerini yükseltme ve ana akım medyaya güvensizliği artırma potansiyeli de bulunmaktadır.

Dolandırıcılık ve toplum mühendisliği

Deepfake teknolojisi, insanları kişisel bilgilerini ifşa etmeye ikna etmek hatta phishing (kimlik avı) saldırıları düzenlemek için de kullanılabilir. Bir arkadaşınızdan acil borç isteyen bir Facebook mesajı alırsanız şüphelenebilirsiniz. Ancak aynı arkadaşınız size bir video gönderirse şüphelenmek için bir neden göremeyebilirsiniz. Neticede ekranda arkadaşınızı görüyorsunuz, sizinle konuşuyor ve hemen paraya ihtiyacı olduğunu söylüyor. Çoğu kişinin aklına, bu videonun bir deepfake olabileceği gelmeyecektir.

Yapay zekanın ve diğer makine öğrenme teknolojilerinin giderek artan yetenekleri sayesinde, bir dolandırıcı kısa sürede ikna edici videolar yaratarak onları kimlik hırsızlığını kolaylaştırmak için kullanabilir. Bu tür bir senaryo, hedef olarak seçilen kişinin cihazlarına kötü amaçlı yazılımlar bulaştırmak için bile kullanılabilir. Patronunuzdan bir video çağrısı aldığınızı düşünün: Size bir eposta göndereceğini ve hemen ekteki dosyayı incelemenizi istediğini söylüyor. Çoğu çalışan, ikinci kez düşünmeden bu dosyayı açacaktır. Oysa patronunuzun videosu bir deepfake olabilir ve açtığınız dosya da kötü amaçlı bir yazılımın yüklenmesine neden olabilir.

Teknoloji geliştikçe deepfake videoları tespit etmek de giderek zorlaşacaktır. Bir bilgisayarı ve VFX yazılımları hakkında temel bilgiye sahip olan herkesin herhangi biri hakkında sahte bir video yaratabileceği bir noktaya ulaşmak üzereyiz: Sadece bu bile sayısız problemin ortaya çıkmasına neden olacaktır.

Deepfake videoları tespit etmek şu anda bile zordur ancak yakında imkânsız hale gelebilir. Bu teknolojinin filmlerde ve TV şovlarında kullanılması bir farkındalık yaratmaya yardımcı olmaktadır, ancak ikna edici bir deepfake video halen birçok kişiyi yanlış yönlendirebilir.

Deepfake dolandırıcılarının oluşturduğu risklere karşı koymak veya bu riskleri en azından azaltmak için yapabileceğiniz en basit şey, çevrimiçi olarak paylaştığınız görüntü sayısını sınırlamaktır. Yapay zekâ sistemleri, ikna edici ve gerçekçi bir sonuç ortaya koymak için hedef olarak seçilen kişinin çok sayıda fotoğrafına ve görüntüsüne ihtiyaç duyar. Diğer bir deyişle, ne kadar çok görüntüye erişebilirlerse, o kadar iyi sonuçlar elde ederler: Deepfake videoların çoğunlukla ünlüler ve politikacılar hakkında olmasının nedeni de budur, zira her ikisinin de çok sayıda görüntüsüne kolayca erişmek mümkündür.

Bu nedenle, sosyal medya profillerinizi gizli tutmanızı, yüzünüzün görüntülerini paylaşmaktan kaçınmanızı ve her zaman olduğu gibi çevrimiçi gizliliğinizi artırmak için VPN kullanmanızı öneririz. Sıradan kullanıcılar için risk, doğal olarak ünlüler ve politikacılardan daha azdır, ancak güvenliğinizi ve gizliliğinizi artırmak için her türlü tedbiri almaktan kaçınmayın.