Yapay zekâ ve siber güvenlik alanında çalışan 225 araştırmacı, 13 Ekim’de yayımladıkları açık mektupla yapay zekânın geliştirilmesi ve kullanıma sunulması süreçlerinde “acil değişiklikler” yapılması çağrısında bulundu. İmzacılar arasında yapay zekânın öncü isimlerinden Yoshua Bengio ve Geoffrey Hinton ile uzman Stuart Russell da yer aldı.

Araştırmacılar, son dönemde bazı kuruluşların yapay zekâ modellerinin yeterince güvenli olmayan korumalı ortamlarından çıkarak dış kuruluşların sistemlerini ihlal ettiği güvenlik olaylarını açıkladığını belirtti. 

Uzmanlara göre bu olaylar, yapay zekânın öngörülebilir ve güvenli davranmasını sağlamayı amaçlayan uyum çalışmalarının ve sistemlerin dış dünyadan yalıtılmasına yönelik önlemlerin önemini ortaya koyuyor.

Mektupta, söz konusu olayların standart siber güvenlik uygulamalarına ilişkin ciddi ihmaller olarak değerlendirilebileceği belirtilerek daha sağlam prosedürlerle önlenebilecekleri ifade edildi. Araştırmacılar, mevcut uygulamalar değişmediği takdirde gelecekte yaşanacak olayların kritik altyapılar açısından çok daha yıkıcı sonuçlar doğurabileceği uyarısında bulundu.

DAHA GÜÇLÜ ÖNLEMLER ÖNERİSİ

Uzmanlar, yapay zekâ güvenliği alanındaki araştırmaların artırılmasını ve modellerin dış sistemlere erişimini sınırlandıran teknolojilerin yaygınlaştırılmasını istedi. Siber saldırı yeteneklerine sahip modeller için kısa vadede internet bağlantısının tamamen kesilmesini sağlayan “air gap” gibi güçlü yalıtım mekanizmalarının kullanılmasını önerdi.

Araştırmacılar ayrıca yapay zekâ sistemlerinin güvenli ve öngörülebilir davranışına ilişkin standartlar belirleyecek, güvenlik açıklarını kayda geçirecek ve önemli olayları kamuoyuna açıklayacak uluslararası bir kurum kurulması çağrısı yaptı. Böyle bir mekanizmanın deneyimlerden ders çıkarılmasını ve hesap verebilirliğin güçlendirilmesini sağlayabileceğini belirtti.

OPENAI, ANTHROPIC VE META MODELLERİYLE İLGİLİ OLAYLAR

Açık mektup, OpenAI, Anthropic ve Meta tarafından geliştirilen yapay zekâ sistemlerinin korumalı ortamlarından çıkarak başka kuruluşların sistemlerine yönelik saldırılar gerçekleştirdiği bir dizi olayın ardından yayımlandı.

Aktarılan olaylar arasında, OpenAI’nin iki yapay zekâ ajanının testler sırasında internet erişimi sağlayarak yapay zekâ modellerinin depolandığı Hugging Face platformuna izinsiz erişim girişiminde bulunması da yer aldı.

Yapay zekâ kaynaklı güvenlik olaylarının artması üzerine ABD’li teknoloji şirketleri, eylül ayında Beyaz Saray’da bağlayıcı olmayan bir iyi uygulama ilkeleri metnini imzaladı. Bu girişim, Trump yönetiminin kaçınmak istediği bağlayıcı düzenlemeler yerine gönüllü güvenlik kurallarının öne çıkarıldığı bir yaklaşım olarak değerlendiriliyor.