Birleşmiş Milletler, yapay zekânın gelişme hızının mevcut düzenleme ve güvenlik mekanizmalarını geride bıraktığı uyarısında bulundu. BM İnsan Hakları Yüksek Komiseri Volker Türk, pazartesi günü yaptığı açıklamada, giderek daha güçlü yapay zekâ sistemleri geliştirme yarışının insan hayatının neredeyse tüm alanlarında “daha büyük varoluşsal risklere” yol açabileceğini söyledi.

Türk özellikle “ajan yapay zekâ” olarak adlandırılan ve yalnızca verilen komutları yerine getirmekle kalmayıp kendi kararlarını alabilen sistemlere dikkat çekti. Bu sistemlerde ortaya çıkabilecek hataların temel hizmetleri durdurabileceğini, iletişim altyapısını bozabileceğini, kritik altyapıları istikrarsızlaştırabileceğini ve demokratik kurumları hedef alabileceğini belirtti.

BM yetkilisine göre böyle bir senaryoda toplumların su, ısınma veya finansal hizmetlere erişimi dahi aksayabilir. Türk ayrıca yapay zekânın savaşların hızını ve kapsamını artırdığını, kitle imha silahlarının kullanılmasını engelleyen mevcut güvenlik bariyerlerini zayıflatabileceğini söyledi.

MEVCUT GÜVENLİK ÖNLEMLERİ YETİŞEMİYOR

BM’nin Bağımsız Uluslararası Yapay Zekâ Bilimsel Paneli tarafından temmuz ayında yayımlanan ön rapor da benzer bir tablo ortaya koydu. Dünyanın farklı bölgelerinden uzmanların hazırladığı raporda, yapay zekânın yeteneklerindeki gelişme karşısında mevcut güvenlik önlemlerinin yeterince hızlı ilerlemediği belirtildi.

Panel; yapay zekânın bilim, sağlık, eğitim ve tarımdan ekonomiye, güvenlikten çevreye, insan haklarından demokrasiye kadar çok geniş bir alandaki etkilerini inceliyor. Raporda özellikle karar vericilerin teknolojiye ilişkin yeterli bilimsel kanıta ulaşmasının zaman aldığı, ancak kanıtlar netleştiğinde harekete geçmek için çok geç olabileceği uyarısı yapılıyor.

BM Genel Kurulu Başkanı da 10 Eylül’de yaptığı konuşmada, dünya genelinde 1 milyardan fazla kişinin her hafta sohbet tabanlı yapay zekâ kullandığını, çalışanların yaklaşık dörtte birinin üretken yapay zekâya belirli ölçülerde maruz kalan mesleklerde bulunduğunu söyledi. Veri merkezlerinin elektrik tüketiminin ise 2030’a kadar yılda yaklaşık 950 teravatsaat seviyesine çıkmasının beklendiğini belirtti.

SAVAŞLAR VE DEMOKRASİ İÇİN YENİ RİSKLER

BM, yapay zekânın yalnızca gelecekte ortaya çıkabilecek teorik tehditler üzerinden değerlendirilmemesi gerektiğine dikkat çekiyor. Örgüte göre teknoloji halihazırda dezenformasyon, sahte görüntü ve ses üretimi, siber saldırılar ve askeri uygulamalar yoluyla güvenlik sorunlarını büyütüyor.

Özellikle savaşlarda yapay zekâ destekli hedef belirleme ve otonom sistemlerin kullanılması, insan kontrolünün korunması konusunda tartışmaları artırıyor. BM, ölüm-kalım kararlarının her zaman insanların kontrolünde olması gerektiğini savunuyor ve insan denetimi olmadan ölümcül otonom silah sistemlerinin yasaklanması çağrısını yineliyor.

Yapay zekânın seçimleri ve kamuoyunu manipüle etmek için kullanılmasının da demokratik süreçler açısından ciddi bir tehdit oluşturduğu belirtiliyor. BM, özellikle deepfake içeriklerin dezenformasyonu, nefret söylemini ve toplumsal kutuplaşmayı büyütebileceği konusunda uyarıyor.

BM: HİÇBİR ÜLKE BU TEKNOLOJİYİ TEK BAŞINA YÖNETEMEZ

BM yetkilileri, yapay zekânın birkaç büyük teknoloji şirketi ve sınırlı sayıdaki ülkenin kontrolünde yoğunlaşmasının küresel eşitsizlikleri artırabileceğine dikkat çekiyor.

BM Genel Sekreteri António Guterres’in eylül başında yayımlanan raporu da gelişmekte olan ülkelerin yapay zekâ altyapısı konusunda ciddi açıklarla karşı karşıya olduğunu ortaya koydu. Yüksek gelirli ülkeler, 2025 itibarıyla dünya genelindeki veri merkezi kapasitesinin yaklaşık yüzde 77’sine sahipken, düşük gelirli ülkelerin payı yüzde 0,1’in altında kaldı.

BM, bu nedenle yapay zekâ konusunda yalnızca teknoloji şirketlerinin veya tek tek devletlerin karar vermesinin yeterli olmayacağını savunuyor. Türk, “Hiçbir ülke bu teknolojiyi tek başına yönetemez, hiçbir şirket dünyanın hangi riskleri kabul etmesi gerektiğine tek başına karar vermemeli” diyerek uluslararası işbirliği çağrısı yaptı.

BM’nin temel hedefi, yapay zekânın gelişimini durdurmak değil; insan hakları, uluslararası hukuk, güvenlik ve demokratik denetim çerçevesinde yönetilmesini sağlamak. Ancak BM yetkilileri, teknolojinin gelişme hızının dikkate alındığında düzenleme için harekete geçme penceresinin giderek daraldığı uyarısında bulunuyor.