Fransa’da bulunan ENS Üniversitesi’nde yayımlanan “Küresel Yapay Zeka Güvenliği Analizi” başlıklı çalışma, yapay zeka teknolojilerinin sahte içerik üretiminden biyolojik ve dijital saldırılara kadar pek çok alanda kullanılabileceğini ortaya koydu. Çalışmaya liderlik eden bilgisayar bilimleri uzmanı Yoshua Bengio, “Dezenformasyon ve sahte içerik sorunu şu anda net bir şekilde görülüyor. Ancak yapay zekanın biyolojik ve siber saldırılar için bir araç haline gelebileceğine dair kanıtlar da giderek artıyor” şeklinde konuştu.
Bengio, yapay zeka sistemlerinin gelecekte insan kontrolünden çıkma ihtimaline de değinerek, “Bu sistemler, kendi varlıklarını sürdürmek için insan müdahalesine ihtiyaç duymayacak şekilde evrilebilir. Bu durum, kontrolün kaybedilmesi anlamına gelebilir” ifadelerini kullandı.
Çin’in son dönemde piyasaya sunduğu düşük maliyetli ve yüksek performanslı DeepSeek adlı yapay zeka modeli, küresel rekabeti daha da hızlandırdı. Bengio, bu tür bir rekabet ortamının sağlıklı olmadığını belirterek, “Bu durum, güvenlik sorunlarını daha da derinleştiriyor” dedi.
Küresel İş Birliği Çağrısı
Uzmanlar, yapay zeka teknolojilerinin gelişiminin devletler tarafından daha sıkı bir şekilde denetlenmesi gerektiğini vurguluyor. Bengio, “Hükümetler bu konuda harekete geçmezse, süreci nasıl kontrol altına alacağımızı bilemiyoruz” diyerek uluslararası düzeyde daha kapsamlı düzenlemeler yapılması çağrısında bulundu.
“Gelecek 10 Yıl Kritik Olabilir”
Bengio, OpenAI’nin ChatGPT gibi araçları piyasaya sürmesinin ardından yapay zeka güvenliğine daha fazla odaklanılması gerektiğini belirterek, “En büyük endişem, önümüzdeki 10 yıl içinde insanlığın varlığını tehdit edecek bir senaryo. Bu durumun ciddiyetini anlamakta neden zorlandığımızı anlamıyorum” açıklamasını yaptı.
ABD, yapay zeka alanında lider konumda olsa da, Joe Biden yönetimi döneminde bazı denetim mekanizmalarının kaldırıldığı biliniyor. Donald Trump yönetimi ise bu alanda yeni güvenlik önlemleri getirmeye çalışıyor.
Çalışmaya, 30 farklı ülkeden yaklaşık 100 uzmanın yanı sıra Avrupa Birliği ve Birleşmiş Milletler temsilcileri de katkıda bulundu.
