İstenilen İnsanın Yüzünü Pornoya Eklemeyi Sağlayan Ürpertici ve Popüler Yazılım: DeepFakes
DeepFakes, gelişen yüz değiştirme uygulamalarının da etkisiyle daha çok mizahi amaçla yapılan görseller yerine ünlülerin yüzünü bir pornoya uyarlayan bir Reddit kullanıcısıydı. Daha sonralarıysa bu isim, bu tarz uygulamaların genel adı haline geldi.


uzun entry olacak, önce aşağıdaki şarkıyı açıyoruz. şarkı artık black mirror'ın gizli soundtracki gibi oldu zaten.

Irma Thomas - Anyone Who Knows What Love Is

deepfakes nedir hacım?

internetin icadından bugüne yapılagelen bir şey var: ünlülerin-tanınmış isimlerin erotik montajlı görüntüleri (bi arkadaşım ekolü). kimileri bunlardan tahrik oluyordu/parayla satın alıyordu bu görüntüleri, bazıları bunları şantaj malzemesi olarak kullanmayı deneyip yakalanıyordu. ama hep bir sorun vardı: bunların gerçek olmadığı anlaşılıyordu. videolarda senkron sorunu oluyordu, süreleri çok çok kısa oluyordu. görsellerde ise timestamp vb. bilgilerden tespit ediliyordu sahte görüntüler. 

deepfakes isimli reddit kullanıcısı ise, son iki yıl boyunca deneyler yaptı

kamusal kullanıma açılmış -en çiğ tabiriyle- bir faceswap (yüz değiştirme) uygulamasını mükemmelleştirmeye çalıştı. nöral derinlemesine öğrenme denilen makine öğrenmesini içeren faceswap teknolojisi, tikiler snapchat'te köpeğe dönüşsün ya da iphone satışları artsın falan diye yapılmamıştı, sadece machine learning algoritmalarından birinin yan ürünüydü. insanlar eğlensin diye de kameralara eklenmişti. üniversitelerde ve stüdyolarda yıllardır geliştirilmeye çalışılıyordu.

aslında deepfakes'in yapmaya çalıştığı şeyin pornografik bir yönü de yoktu, bir filmin tüm oyuncularını nicholas cage'e dönüştürmek, donald trump'a merkel'in yüzünü yerleştirmek gibi geyik konularla uğraşıyordu. bu süreci youtube'a ve reddit'e yüklediği videolarla da anlatıyordu.


gitgide mükemmele yaklaştığını görünce insanlar -evet, kadınlar da- kaçınılmaz talebi dile getirdi: ünlülerin başrolde olduğu porno filmler üretmesini istediler.

deepfakes bir iki tane popüler oyuncunun başrolde olduğu 30-40 saniyelik pornolar üretmeyi başardı. sonuç inanılmazdı. zayıf insan algılarımız aradaki farkı anlayamıyordu, resmen o hayalini kurduğunuz oyuncu kadın kaotik bir pornoda başroldeydi! o noktadan itibaren kayış koptu zaten. yüzlerce kişi bu işe girişti. deepfakes isimli kullanıcı bu işin ilahı ilan edildi, r/deepfakes isimli kanal açıldı ve deepfakes mod yapıldı. dünyanın bambaşka yerlerinden yüzlerce kişi makineyi her an daha da güçlü ve akıllı hale getirmek için çalışmaya başladı 24 saat.

machine learning bu işin neresinde? tam merkezinde.

bu süreci tüm bilimsel terimlerinden sıyırarak açıklamaya çalışırsak şöyle özetleyebiliriz

faceset/face collection denilen, bir kişinin yüzünün onlarca-yüzlerce farklı açıdan çekilmiş fotoğraflarını buluyorsunuz. 2-3 dakikalık bir video da yeterli oluyor. kritik nokta, açılar. ilgili kişinin yüzünün mümkün olan tüm açılardan görselliğini elde etmiş olmanız lazım. yüz ifadelerinin konuyla hiç alakası yok, ifadelere gerek de yok.

"nasıl lan? yüzünde tahrik ifadesi olmayan birinin fotoğrafını nasıl tahrik olmuş gibi görünecek şekilde manipüle edersin ki?"diyebilirsiniz. ben de diyordum. şöyle:
bu görsel setlerini, şu anda popüler olan fakeapp vb bir yazılıma aktarıyorsunuz. burada bir iki püf noktası var, filmcilikle az buçuk haşır neşir olanlar bilir, key denen bazı noktalar belirlenmesi lazım. bu key'leri de belirleyince gerisini yazılım hallediyor. en korkunç olay da bu: tamamen ifadesiz bir yüzü, istediğiniz görüntünün üzerine key'leyebiliyorsunuz ve yazılım yüklediğiniz fotoğraflardaki kişiye görüntüdeki ifadeyi aynı anda hem öğretiyor, hem yaptırıyor.

yani hayatında hiç korku filminde oynamamış birinin bile yeterince fotoğrafını bulabilirseniz bu kişiyi saw'ın başrolünde gösterebilirsiniz. kamera karşısına geçmesine hiç gerek yok, fotoğraflar algoritmaya bağlı olarak alttaki görüntünün yaptığı tüm mimikleri ve ifadeleri birebir tekrarlıyor. sonunda da anlamlı ve anlaşılabilir görüntüler ortaya çıkıyor. kısacası, yapay zeka sizin verdiğiniz doneleri seçtiğiniz filmdeki ifadelerle işleyerek yeni bir yüz yaratıyor ve bu yeni yüze alttaki ifadeleri generate ediyor (uyarlıyor).

"bu kadar kolay olmamalı, fazla kolay bu." eh, basitçe anlatınca kolay görünüyor tabii. aslında çok da zor da değil ama bazı noktalarda makineler sıçıyor. script'ler, kod zincirleri, algoritma bilgisi, genel teknolojik aşinalık ve başka bir sürü etmen var gerçekçiliği etkileyen. hala, "foto yükledim video çıkacak" düzlüğüne inmedi bu teknoloji. ama inecek.


ayrıca örneğin birbiriyle çok alakasız iki yüzü birleştirmek pek mümkün değil. yani mümkün ama gerçekçi bir sonuç çıkmıyor ortaya. biraz benzerlik olması lazım yüzler arasında. çene, alın, saçlar gibi noktalarda makinelerin yaratabileceği çok hareket olmadığı için bu noktaların özellikle benzemesi gerekiyor. bunun için de inanılmaz bir veritabanı oluşturuluyor şu anda: look-a-like database projesi. burada on binlerce farklı porno oyuncusunun yüzü arasından, seçeceğiniz herhangi bir kişinin yüzüne en yakın olanı bulunabiliyor.

şimdi neden yıllardır geliştirilen face-recognition teknolojilerine tepki yağdığını anladınız mı? fişlenmenin de ötesinde bir şey bu. google bu işin piri, apple de altta kalmadı. insanoğlu makinelerin yüzümüzü tanıyabilmesi, bize benzeyen başkalarını bulabilmesi için gereken altyapıyı yıllar boyunca oluşturdu ve geliştirdi (iyi bok yedi).

reddit'te ne yapıyor lan bunlar?

bu kanala girerseniz göreceğiniz şeyler konuşan mutfak robotlarından, geleceği tahmin edebilen süper bilgisayarlardan falan daha gerçek, daha ciddi. hollywood klişesi olarak bilinen "süper teknolojinin kötü ellere geçerse çok büyük kötülükler için kullanılabileceği" önermesinin doğrulandığı yer: yüzlerce insanın birebir gerçeklikte makineler tarafından üretilmiş görüntüleri derleniyor.

machine learning bugüne dek süpermarketlerde, dijital pazarlamada, en fazla nesnelerin internetinde falan kullanılacaktı. daha doğrusu sıradan halka böyle söyleniyordu.
bir de her bulduğu sahneye atlayıp "aaabi machine learning, yapay zekağ, big data, hatta biggest data yaa" falan diye gezinen ama kendi personeline asgari ücretle kölelik yaptıran 60 yaşında kanaat önderlerimiz var türkiye'de. hah şimdi o kanaat önderlerinin sadece bir iki dakikalık sd görüntüsüyle kendisinin en nadide pornolarını ortaya çıkartabilir, bir cinayet işlediği o gizli kamera görüntüsünü bulabilir, televizyonda "cumhurbaşkanı aptaldır" dediği röportajını arşivlerden çıkartabilirsiniz. ve %100 gerçekçiliğe ulaşan bu görüntüleri üretmek artık evlerdeki standart bilgisayarlarda mümkün.

şu an için ağırlıklı olarak ünlülerin porno görüntülerini üretmekte kullanılıyor bu algoritmalar. ama günü geldiğinde gücü elinde tutanların hiç gerçekleşmemiş görüntüleri gerçekmiş gibi televizyonda yayınlamasının önünde engel yok. bir akşam televizyonda trump'ın bizim tombik kim jon-un'a öpücük attığı bir görüntüyü görebiliriz, üstelik ne trump'ın ne de tombiğin orada olmasına bile gerek yok. yeterince fotoğrafları var ikisinin de.

avrupa ve abd'de bu görüntülerin yasallığı-etikliği tartışılıyor. bana sorarsanız ne etik ne de yasal. kimse benliğinin en büyük parçası olan yüzünün rızası dışında kullanılmasını istemez bence. fakat eğlenceli, inkar edemem.

yani şunlar komik.

Nicholas Cage, Amy Adams'ın yüzüne montajlanmış.

siyasetçilerle ilgili yapılanlar şok edici derecede iyi olabiliyor. mesela şu.


ileride ne olur?

iki yıl önce kripto paraları sadece deepweb ahalisi biliyordu. şimdi sokaktaki hasan amca bile "bitli mitli bir şeyler varmış, para yapıyormuş, nasıl gireriz?" diye soruyor banka şubesinde. ileriye dair öngörüde bulunulacak çağda değiliz, onu söyleyebiliriz. ama ar-vr ve blockchain kesinlikle bu işin içine girecek, görmemek için kör olmak lazım.

ayaktakımı denilerek ötelenen, karanlık odasında sabahlara kadar kod yazan-algoritma üreten, sosyal faaliyeti sıfır ama zeka ve bilgi birikimi olarak ordinaryüs seviyesindeki nerdler geleceğin kural koyucuları olacak. blockchain teknolojileri, deepfakes benzeri nöral derinlemesine makine öğrenmesi içeren ai algoritmaları, ar ve vr tam olarak bu işe yarayacak işte. ve esas ezikler, kaybeden olduklarının farkında olmadan cebindeki kağıt parçalarına güvenerek 'eğlenenler', kafelerde pineklerken dilli köpekli snap atacaklar. teknoloji, bildiğimiz anlamıyla tüm sınıf yapısını değiştirecek, sosyal düzenin içinden geçecek. iyi de olacak. böyle büyük bir yıkıma ve dönüşüme şahit olmak çok heyecan verici (hehe).

son söz: amerikalıların meşhur bir lafı var, bildin mi?

"yes, people can put your face on porn. no, law can't help you..." (evet, insanlar yüzünüzü pornoya koyabilirler. hayır, yargı size yardım edemez...)

haber

deepfakes artık bir reddit kanalı. henüz 1 aydır aktif.

Bu içerik de ilginizi çekebilir