Deepfake bir kız çocuğunun yer aldığı Alman telekomünikasyon şirket Deutsche Telekom tarafından hazırlanan reklam filmi, ebeveynlerin çocuklarının fotoğraflarını internette paylaşmalarının potansiyel olarak yıkıcı sonuçlarına ilişkin gösterdikleriyle viral oldu. Son bir günde sosyal medyada 5,5 milyondan fazla izlenen akıllara durgunluk veren video, bir çocuğun görüntüsünün yapay zeka (AI) kullanılarak ne kadar kolay manipüle edilebileceğini gözler önüne seriyor.
Reklam dokuz yaşındaki Ella’nın hikayesini anlatıyor. Günümüzdeki pek çok ebeveyn gibi Ella’nın anne ve babası da küçük kızlarının video ve fotoğraflarını düzenli olarak sosyal medyada paylaşıyor. Reklamda, ailesinin internette paylaştığı dokuz yaşındaki kızın tek bir fotoğrafı kullanılarak yapay zeka yardımıyla yetişkin Ella’nın deepfake bir versiyonu yaratılıyor. “Yetişkin” deepfake Ella gerçek bir insan gibi hareket edebiliyor ve konuşabiliyor. Ve sinemada film izleyen dehşete düşmüş anne babasıyla büyük ekranda yüzleşiyor.
Reklam, görüntüleri internette yayınlanan çocukların diğer suçların yanı sıra nasıl kimlik istismarı, dolandırıcılık ve çocuk pornografisinin kurbanı olabileceğini tüyler ürpertici bir şekilde açıklıyor.
