Gerçeklik, deepfake teknolojisini hala geride bırakıyor… şimdilik
Teknoloji uzmanları, yapay zeka tarafından üretilen deepfake'lerin insan yeteneğine hükmetmeyeceği veya onun yerini almayacağından emin.
Dubai Metro'nun arkasındaki isim ve Mindloop Studios'un yönetici ortağı Ahmad Haffar, “Gerçek gibi duyulsa bile, kulağa son derece sahte geliyor” dedi. AGBI.
Deepfake'ler, yapay zeka kullanılarak oluşturulan, üzerinde oynanmış video, görüntü veya ses kayıtlarıdır.
Film ve eğlence sektöründe giderek daha yaygın hale geliyorlar ve film yapımcılarının oyuncuları daha genç göstermelerine veya ölmüş oyuncuların yer aldığı klipler oluşturmalarına olanak sağlıyorlar.
Seslendirme sektöründe, seslendirme sanatçılarının bir projede ihtiyaç duyduğu süreyi azaltabilir veya birden fazla farklı dilde sesler oluşturabilir.
- Üretken AI hem fırsat hem de risk sunar
- Emirates şirketleri siber güvenlik arayışında yapay zekaya yöneliyor
- Kötü amaçlı botların ilerleyişinin durdurulması
Örneğin, İngiltere merkezli AI medya üretim platformu Synthesia, Amerikalı rapçi Snoop Dogg ile iki reklam oluşturdu. O kadar başarılı oldu ki şirketin yan kuruluşlarından biri aynı reklamın bir versiyonunu kullanmak istedi. Synthesia, yeniden çekim yapmak yerine, yeni reklamdaki Dogg'un dudak hareketlerini deepfake teknolojisini kullanarak yan kuruluşun adıyla eşleşecek şekilde değiştirdi.
Bir diğer bilinen örnek ise TikTok'ta viral olan Tom Cruise deepfake videoları yaratan Belçikalı yaratıcı Chris Umé'dir. O kadar başarılı oldular ki Umé, herkesin kendisinin sentetik bir avatarını yapabileceği kendi işini kurdu.
Deepfake'in yükselişi, işletmelere verimlilik ve üretkenliğin artması gibi pek çok fayda sağladı ancak aynı zamanda insan yeteneğinin geleceği hakkında soruları da gündeme getirdi.
Haffar, teknolojinin insan sesinin nüanslarını ve doğal özelliklerini yansıtmada yetersiz kaldığına inanıyor.
Haffar, “Seslendirme sektöründe gerekli olan meşru insan benzeri deneyim tabanlı bir sese ulaşmaktan hala çok uzak,” dedi. “Ve sektör profesyonellerinin bu teknolojiye ilgisi yok.”
Etik hususlar
Deepfake ve yapay zeka tarafından üretilen içeriklerin etik etkileri de çokça tartışılan bir konu oldu.
Yanlış bilgilendirme potansiyeli, gizlilik endişeleri ve olayları veya ifadeleri ikna edici şekilde uydurma yeteneği endişe yarattı.
İzin alınmadan kullanıldığında, Amerikalı aktör Tom Hanks'in sahte diş planı reklamında yaşadığı gibi, deepfake'ler aktörlerin kariyerlerine ve sektördeki itibarlarına zarar verebiliyor.
Londra merkezli kimlik doğrulama platformu Sumsub'a göre, deepfake teknolojisi kullanılarak yapılan siber saldırılar son bir yılda Orta Doğu ve Afrika bölgesinde yüzde 450 arttı. En çok saldırı yapılan ülke yüzde 36,1 ile BAE oldu.
Darknet pazar yerleri – yasadışı mal ve hizmet ticareti için anonim platformlar – deepfake oluşturma araçları sunar. Deepfake oluşturma veya satın alma fiyatları, Mayıs ayındaki Kaspersky Cyber Security Weekend META 2023 etkinliğinde bildirildiği üzere, dakikada 300 ila 20.000 dolar arasında değişmektedir.
Siber suçlular, bir CEO'nun para transferi talebinde bulunduğu veya bir ödemeyi yetkilendirdiği derin sahte bir video veya ses kaydı oluşturarak şirket fonlarını çalabilirler.
İsviçreli veri koruma çözümleri şirketi Acronis'in Başkanı Gaidar Magdanurov, “Şu anda eğlence ve eğitim amacıyla yaratılan deepfake'ler, gelecekte aldatma ve gerçek olayların yanlış tanıtılması için kullanılabilir ve gelecek nesillerin gerçeği yanlış bilgiden ayırması zor olacaktır” dedi.
İsrail-Hamas arasında devam eden çatışma sırasında, sosyal medyada yapay zeka tarafından üretilen görüntüler, kamuoyunu etkileyen yanlış hikayeler yayıyordu.
Ukrayna Devlet Başkanı Volodimir Zelenskiy'nin Rusya'ya boyun eğdiğini gösteren sahte bir deepfake video da sosyal medyada yayıldı.
Siber güvenlik şirketi SentinelOne'ın Dubai merkezli bölge müdürü Ezzeldin Hussein, “Bu teknolojinin etkisi topluma kadar uzanıyor, medyaya ve kurumlara olan güveni aşındırıyor, potansiyel olarak toplumsal çatışmayı körüklüyor ve rıza, gizlilik ve içerik oluşturucuların ve platformların sorumluluğu konusunda etik ikilemler ortaya çıkarıyor” dedi.
Harekete geçmek
Bu artan endişeyi gidermek için uzmanlar, sağlam yasal çerçeveler, etik kurallar ve kamuoyu farkındalık kampanyalarını içeren kapsamlı bir yaklaşıma ihtiyaç olduğunu vurguluyor.
Dubai merkezli hukuk firması Addleshaw Goddard'ın ortağı Kellie Blyth, “Birçok Orta Doğu ülkesi, kolluk kuvvetlerine yasayı ihlal eden içeriklerin kaldırılmasını talep etme hakkı tanıyor” dedi.
“BAE Yapay Zeka Konseyi ve Suudi Veri ve Yapay Zeka Kurumu gibi düzenleyici otoriteler, en iyi uygulama rehberleri yayınlamak da dahil olmak üzere, yapay zeka için daha geniş çapta güçlü bir yönetişim oluşturmak amacıyla kuruldu.
“Bugüne kadar bu rehber bağlayıcı değildi, bu nedenle kanun koyucular mevcut yasaya güvenmeye devam ediyor” dedi.
Magdanurov, deepfake'lerin geleceğinin hem olumlu hem de olumsuz sonuçlar doğuracağını ve “toplumun bir noktada buna, siber suçlara, virüslere ve fidye yazılımlarına uyum sağladığımız gibi uyum sağlaması gerekeceğini” sözlerine ekledi.