ByteDance araştırmacılarının yayımladığı bir makaleye göre, OmniHuman-1, yalnızca tek bir sabit görsel kullanarak gerçekçi insan hareketleri ve konuşmalarını içeren videolar üretebiliyor.
ABC News’e konuşan uzmanlar, bu tür bir teknolojinin kamuya sunulması halinde, kötüye kullanım risklerinin ciddi ölçüde artabileceğini ve Pekin merkezli ByteDance ile ilgili uzun süredir devam eden ulusal güvenlik kaygılarının büyüyebileceğini belirtti.
Yapay zekâ alanında uzman isimlerden Henry Ajder, bu yeni modelin potansiyel risklerine dikkat çekerek, "Eğer yalnızca tek bir görsel yeterliyse, birini hedef almak aniden çok daha kolay hale gelir. Daha önce, ilgi çekici ve gerçekçi bir video oluşturmak için yüzlerce, hatta binlerce görsele ihtiyaç duyuluyordu" dedi.
ByteDance araştırmacıları, modeli 18.700 saatlik insan videosu üzerinde eğittiklerini belirtti ve bu teknolojinin benzersiz doğruluk ve kişiselleştirme sunduğunu ileri sürdü. Kullanıcılar, yalnızca tek bir sabit görselden, ellerin doğal hareket etmesi ve dudak senkronizasyonu gibi yapay üretim izlerini taşımayan son derece gerçekçi insan videoları oluşturabiliyor. Bu da yapay zekâ tespit araçlarının bu içerikleri belirlemesini zorlaştırabilir.
Ajder, "Bu model, şimdiye kadar gördüğüm en etkileyici çok modlu yapay zekâ modellerinden biri. Üretilen sesin videoyla uyumu dikkat çekici. Ama asıl etkileyici olan şey, ortaya çıkan videoların olağanüstü derecede gerçekçi olması" dedi.
ByteDance Yorum Yapmaktan Kaçındı
ABC News’in konuyla ilgili yorum talebine ByteDance yanıt vermedi. Şirketin araştırma makalesinde ise modelin hangi videolarla eğitildiğine dair detaylar sınırlı tutuldu.
ByteDance, Forbes’e yaptığı açıklamada, aracın halka açık şekilde kullanıma sunulması halinde, zararlı ve yanıltıcı içeriklere karşı güvenlik önlemleri barındıracağını ifade etti. TikTok, geçtiğimiz yıl platformda yapay zekâ ile üretilmiş içeriklerin otomatik olarak etiketleneceğini ve yapay zekâ okuryazarlığını artırmaya yönelik çalışmalar yürütüleceğini duyurmuştu.
Araştırma makalesinde paylaşılan örnek videolar arasında, Albert Einstein’ın bir portresinden oluşturulmuş bir ders anlatımı, TED konuşmaları yapan yapay zeka karakterleri ve piyano çalıp şarkı söyleyen müzisyenlerin gerçekçi görüntüleri yer aldı. Araştırmaya göre, model herhangi bir görüntü ve ses kaydı temel alınarak farklı formatlarda gerçekçi video içerikleri üretebiliyor.
Yapay Zekâ Geliştikçe Seçimler ve Güvenlik Riskleri Artıyor
Teknolojinin ilerlemesiyle birlikte, bu tür araçların özellikle seçimler ve kamu güvenliği açısından ciddi riskler doğurabileceği vurgulanıyor. Uzmanlar, deepfake teknolojisinin seçmenleri manipüle etmek veya izinsiz içerikler üretmek için kötü niyetli kişiler tarafından kullanılabileceğini belirtiyor.
ABC News analisti ve eski İç Güvenlik Bakanlığı istihbarat şefi John Cohen, yapay zekâ destekli video üretiminin, dezenformasyonun yayılmasını hızlandırabileceği ve maliyetleri düşürebileceği konusunda uyardı:
"ABD, büyük ölçüde yabancı istihbarat servisleri, terör örgütleri, suç şebekeleri ve aşırılık yanlısı gruplar tarafından çevrimiçi platformlara yerleştirilen içeriklerin körüklediği tehlikeli ve dinamik bir tehdit ortamının ortasında bulunuyor. OmniHuman gibi teknolojiler, kötü aktörlerin deepfake içerikler üretmesini daha etkili, verimli ve ucuz hale getirebilir."
Brookings Enstitüsü tarafından yayımlanan bir rapora göre, 2024 ABD seçimleri öncesinde Rusya kaynaklı yapay zekâ destekli propaganda videoları yaygın olarak kullanıldı. Bu videolar, göç, suç ve Ukrayna savaşı gibi hassas konular üzerinden seçmenleri bölmeyi amaçladı.
ABD'deki yetkililer yanlış bilgilere karşı hızla tepki verebilse de, yapay zekâ teknolojisinin uluslararası çapta daha geniş ve ciddi sonuçlar doğurduğu belirtiliyor.
Bangladeş’te bir siyasetçinin yapay zekâ ile üretilmiş bikini fotoğrafı, Moldova’da ise ülkenin Batı yanlısı cumhurbaşkanının Rusya yanlısı bir partiyi desteklediğine dair sahte bir video yayıldı.
Ayrıca, ABD'de geçen yılki New Hampshire ön seçimleri öncesinde, yapay zekâ kullanılarak sahte bir telefon kaydı oluşturuldu. ABD Başkanı Joe Biden’ın sesi taklit edilerek, seçmenlere oylarını ilk seçimde kullanmamaları ve genel seçimlere saklamaları gerektiği söylendi. New Hampshire başsavcılığı, bu girişimi "yasadışı bir seçim müdahalesi" olarak nitelendirdi.
ABD Yapay Zekâ Yarışında Geride mi Kalıyor?
OmniHuman henüz genel kullanıma açılmamış olsa da, Ajder, ByteDance’in bu teknolojiyi yakında TikTok ve diğer platformlarında kullanabileceğini öngörüyor. Bu durum, ABD ile Çin arasındaki yapay zekâ yarışında yeni bir denge kaymasına yol açabilir.
ABD'li yetkililer, ByteDance gibi Çin merkezli şirketlerin, Çin hükümetinin askeri ve istihbarat operasyonlarıyla iş birliği yapmak zorunda olduğunu vurguluyor.
Bu gelişmeler yaşanırken, ABD de yapay zekâ alanında büyük yatırımlar yapıyor. Eski Başkan Donald Trump, OpenAI, Softbank ve Oracle gibi şirketlerin içinde bulunduğu 500 milyar dolarlık özel sektör yapay zekâ yatırımını duyurdu.
Ancak, eski İç Güvenlik Bakanlığı yetkilisi Cohen, ABD hükümetinin tehditlere karşı geç harekete geçtiğini belirterek şu uyarıda bulundu:
"Federal hükümetimiz, yıllardır bu tehditlere karşı çok yavaş tepki veriyor. Eğer bu durumu değiştirmezsek, yapay zekâ destekli tehditlere karşı hep geride kalacağız."
