Paylaştığımız deneyimlerimizi çevrimiçi olarak Instagram, Facebook, Tiktok ve Twitter gibi sosyal medyada paylaşmayı seviyor gibiyiz. Tatil anılarını, aile kutlamalarını, okul ve hafta sonu gezilerini arkadaşlar, aile, takipçiler ve hatta tüm dünya ile paylaşıyoruz. Sorun, görüntülerin ve genellikle diğer kişisel verilerin İnternet üzerinden yanlışlıkla paylaşılmasının, onları dünyanın her yerinde süresiz olarak kullanılabilir hale getirmesidir. Tüyler ürpertici bir deepfake tanıtım videosu tam da bunu yakalıyor.
Çocukları sosyal medyada paylaşmayın
Alman telekomünikasyon şirketi Deutsche Telekom'un deepfake kızının yer aldığı reklamı, ebeveynlerin çocuklarının fotoğraflarını internette yayınlamanın potansiyel olarak yıkıcı sonuçlarını ifşa etmesinden sonra viral oldu. Geçtiğimiz gün sosyal medyada 5,5 milyondan fazla izlenen bu harika video, yapay zekanın (AI) çocuk görüntülerini nasıl kolayca manipüle edebildiğini gösteriyor.
Bu reklam 9 yaşındaki Ella'nın hikayesini anlatıyor. Bugün birçok ebeveyn gibi, Ella'nın ebeveynleri de düzenli olarak küçük kızlarının videolarını ve fotoğraflarını sosyal medyada paylaşıyor. Bu reklam, ailesi tarafından internette paylaşılan 9 yaşındaki bir kızın tek bir fotoğrafından yetişkin bir Ella'nın derin sahte bir versiyonunu oluşturmak için yapay zekayı kullanıyor. 'Yetişkin' deepfake Ella, gerçek bir insan gibi hareket edip konuşabiliyor. Sonra sinemada film izlerken korkmuş ebeveyniyle büyük ekranda yüzleşir.
Reklam, fotoğrafları çevrimiçi yayınlanan çocukların nasıl kimlik istismarı, dolandırıcılık, çocuk pornografisi ve daha fazlasının kurbanı olabileceğine dair tüyler ürpertici bir açıklama sunuyor.
Ortalama 5 yaşındaki bir çocuğun internette 1.500 fotoğrafı var
Bir araştırma projesine göre, 2030 yılına kadar gençleri etkileyen kimlik avı olaylarının yaklaşık üçte ikisinin "paylaşma" veya ebeveynlerin çocukları hakkında çevrimiçi olarak hassas içerik yayınlamasından kaynaklanması bekleniyor.
Araştırmalar, ortalama 5 yaşındaki bir çocuğun ebeveynlerinin yaklaşık 1.500 fotoğrafını izinleri olmadan çevrimiçi olarak yüklediğini gösteriyor. Hatırlarsanız geçen hafta Meta CEO'su Mark Zuckerberg, kendisinden büyük iki çocuğunun yüzlerinin emojilerle kaplı olduğu bir aile fotoğrafını Instagram'da paylaşmıştı. Aslında bu bile söylenenleri özetliyor diyebilirsiniz. Reklam filmini aşağıdan izleyebilirsiniz.
