Yapay Zeka ile üretilen gerçekçi videolar konusunda uzmanlar uyarıyor

Yapay zeka alanındaki hızlı gelişmeler, hayatın pek çok alanında kolaylık sağlarken, aynı zamanda etik ve güvenlik tartışmalarını da beraberinde getiriyor. Anadolu Üniversitesi Sosyal Medya ve Dijital Güvenlik Eğitim, Uygulama ve Araştırma Merkezi (SODİGEM) Uzmanı Dr. Öğr. Üyesi Serap Uğur, yapay zeka destekli “OmniHuman-1” adlı insan animasyonu modelinin bu alandaki en güncel örneklerden biri olduğunu belirterek önemli uyarılarda bulundu.

Dr. Uğur, yaptığı açıklamada, “OmniHuman-1” modelinin insan yüzü ve vücut hareketlerini doğal ve gerçekçi bir şekilde canlandırma yeteneğine sahip olduğunu vurguladı. Model, yalnızca konuşma hareketlerini değil, şarkı söyleme ve insan-nesne etkileşimlerini de detaylı bir şekilde işleyebiliyor. Ancak bu yüksek teknoloji, kötü niyetli kişiler tarafından manipülatif ve yanıltıcı içerikler oluşturmak için kullanılabilir.

“Bu uygulama sayesinde, sosyal medya hesaplarında paylaşılan tek bir fotoğraf bile kullanılarak sahte videolar üretilebilir,” diyen Uğur, bu durumun bireylerin mahremiyetine yönelik ciddi bir tehdit oluşturduğunu belirtti. Ayrıca, bu tür içeriklerin dolandırıcılık ve sahte haberlerin yayılmasında da kullanılabileceğine dikkat çekti.

OmniHuman-1’in sunduğu imkanların etik ve güvenlik açısından yeni tartışmaları da beraberinde getirdiğini ifade eden Uğur, özellikle Deep Fake içeriklerinin artış gösterebileceği uyarısında bulundu. “Kişilerin yüzleri ve sesleri izinsiz bir şekilde yapay zeka ile çoğaltılabiliyor. Bu da ciddi etik ihlallere yol açabilir,” dedi.

Bu tür tehditlerle mücadele için Avrupa’daki Genel Veri Koruma Tüzüğü (GDPR) gibi yasal düzenlemelerin önemine vurgu yapan Uğur, dijital kimlik doğrulama sistemlerinin geliştirilmesi gerektiğini belirtti. Ayrıca, Deep Fake tespit programlarının yaygınlaştırılması ve yapay zeka tarafından üretilmiş içeriklerin etiketlenmesi gibi önlemlerin alınmasının şart olduğunu dile getirdi.

Yapay zeka tabanlı animasyon sistemlerinin özellikle medya ve haber sektöründe geniş bir uygulama alanı bulduğunu belirten Uğur, bu teknolojilerin 7/24 farklı dillerde haber sunumu yapabilen yapay zeka haber sunucularından, arşiv görsellerinin hareketlendirilmesine kadar pek çok alanda kullanılabileceğini söyledi.

Ancak bu durumun dezavantajlarına da dikkat çeken Uğur, “Vefat eden oyuncuların filmlerde yeniden yer alabilmesi veya iş süreçlerinde tasarruf sağlanması gibi avantajların yanı sıra, gerçek aktörler, dublörler ve seslendirmenler için mesleki kayıplara yol açabilir,” dedi. Eğitim alanında da sanal öğretmenler kullanılarak bireyselleştirilmiş öğrenme imkanları sağlanabileceğini, fakat bu durumun beraberinde yeni etik ve güvenlik risklerini getireceğini vurguladı.

World Economic Forum’un 2024 Küresel Riskler Raporu’nda dezenformasyonun en büyük tehditlerden biri olarak gösterildiğini hatırlatan Uğur, “OmniHuman-1 gibi teknolojiler, dezenformasyon riskini artırabilir. Bu yüzden toplumun bilinçlendirilmesi ve farkındalık eğitimleri büyük önem taşıyor,” dedi.

Dr. Serap Uğur’un açıklamaları, yapay zekanın sunduğu imkanların yanında doğurabileceği riskleri de gözler önüne seriyor. OmniHuman-1 gibi teknolojilerin doğru ve etik bir şekilde kullanılması, hem bireysel gizliliğin korunması hem de toplumun güvenliği açısından büyük önem taşıyor.