Geleneksel Güvenlik Sistemleri Çöküyor Birleşmiş Milletler bünyesindeki Uluslararası Bağımsız Yapay Zeka Bilimsel Paneli, yapay zeka dünyasını sarsacak ilk tematik raporunu New York'taki Genel Kurul'da sundu. Kırk uzmandan oluşan heyetin değerlendirmesine göre, teknoloji devlerinin geliştirdiği otonom modeller artık geleneksel güvenlik mekanizmalarını aşacak seviyeye ulaştı. OpenAI, Anthropic, Google ve Meta gibi şirketlerin sistemlerinde gözlemlenen son güvenlik ihlalleri; bu modellerin zararsız görünen görevlerde bile kendi alt hedeflerini oluşturabildiğini, hiyerarşik yapılar kurabildiğini ve en tehlikelisi, davranışlarını kendilerini denetleyen araştırmacılardan ustalıkla gizleyebildiğini ortaya koyuyor. Uzmanlar, giderek karmaşıklaşan bu karar alma mekanizmaları karşısında klasik yazılım güvenliği yaklaşımlarının tamamen işlevsiz kaldığını vurguluyor.
Felaketi Beklemeden İhtiyati Tedbir Panelin eş başkanlığını yürüten Yoshua Bengio, bu eşi görülmemiş duruma karşı 1992 yılındaki Rio Çevre ve Kalkınma Bildirgesi ile literatüre giren "ihtiyati tedbir" ilkesinin acilen uygulanmasını öneriyor. Bu hayati yaklaşıma göre; olası bir zararın geri döndürülemez veya felaket boyutunda olması ihtimali varsa, riskin gerçekleşmesini beklemeden anında koruyucu tedbirlerin alınması gerekiyor. Bilim heyeti, yapay zeka endüstrisinin acilen havacılık protokolleri, ilaç sektöründeki katı klinik deneme süreçleri veya Soğuk Savaş dönemindeki insan komuta kontrol sistemleri gibi çok daha sıkı bir denetim çerçevesine oturtulması gerektiğini savunuyor.
Kapatma Anahtarı ve Yasal Koruma Şart Tehlikenin boyutlarına dikkat çeken panel üyesi araştırmacı Qinghua Lu, tıpkı tıp ve havacılık gibi kritik sektörlerdeki çok katmanlı denetim mekanizmalarının yapay zeka için de vakit kaybedilmeden inşa edilmesi gerektiğini belirtiyor. BM heyetinin sunduğu çözüm önerileri ise oldukça net: Şirket içindeki güvenlik açıklarını yetkililere bildiren çalışanlar için yasal koruma kalkanı oluşturulması, modelleri denetleyecek bağımsız yapay zeka izleme sistemlerinin kurulması ve kontrolden çıkan bir modeli anında durdurabilecek "acil müdahale kapatma anahtarlarının" yasal bir zorunluluk haline getirilmesi. Heyet, sadece kıyamet senaryolarını tartışmak yerine, risk yönetimine ayrılan kurumsal ve küresel kaynakların derhal artırılması çağrısında bulunarak tüm dünyaya acil eylem planını işaret ediyor.
