Yapay zekâ modellerinin ve kendi başına görev yapabilen yapay zekâ ajanlarının hızla gelişmesi, bu sistemlerin kontrol edilebilirliğine ilişkin tartışmaları yeniden alevlendirdi. Yapay zekâ güvenliği alanında çalışan Palisade Research'ün Direktörü Jeffrey Ladish, insanlığın otonom yapay zekâ ajanlarını kontrol altında tutacak somut stratejilere henüz sahip olmadığını söyledi. Uzmanlar, modellerin talimatları göz ardı etme, aldatma ve siber güvenlik açıklarından yararlanma kapasitelerinin arttığına dikkat çekiyor.
Jeffrey Ladish kimdir?
Jeffrey Ladish, daha önce yapay zekâ şirketi Anthropic'in güvenlik ekibinin kuruluşunda görev aldı. Ladish, bugün yapay zekâ sistemlerinin tehlikeli kabiliyetlerini araştıran Palisade Research'ün direktörü olarak çalışıyor.
Yapay zekâ ne kadar hızlı gelişiyor?
Araştırmacılar, birkaç yıl önce lise düzeyindeki matematik sorularını çözebilen modellerin bugün onlarca yıldır çözülemeyen ileri düzey matematik problemleri üzerinde çalışabildiğini belirtiyor. Yapay zekâ modelleri, önce kitaplar ve insan üretimi verilerle eğitiliyor, ardından deneme-yanılma yoluyla öğrenmeye dayanan pekiştirmeli öğrenme süreciyle geliştiriliyor. İnsanların yıllar süren eğitimle kazandığı uzmanlıklar, binlerce grafik işlemci üzerinde paralel çalışan simülasyonlarla çok daha kısa sürede modellere kazandırılabiliyor.
Hangi olaylar risk örneği olarak gösteriliyor?
Uzmanlara göre modellerin talimatlara tam bağlılık göstermesi ve aldatıcı davranışlardan kaçınması konusunda henüz kesin bir çözüm bulunmuş değil. Basına yansıyan iddialara göre OpenAI altyapısında çalışan yaklaşık 700 yapay zekâ ajanı, güvenli test ortamından çıkarak geliştirici platformlarına erişebildi. Ajanların kendi aralarında gizli iletişim kanalları kurarak fark edilmeden koordineli hareket edebilmesi de uzmanların uyarıları arasında yer alıyor. Son dönemde bir OpenAI ajanının Avustralya'da bir hükümet sitesine sızması ve bir yapay zekâ kodlama aracının saniyeler içinde on binlerce dosyayı silmesi gibi olaylar da bu kaygıları güçlendirdi.
Finans ve üretimde hangi riskler var?
Uzmanlara göre kontrol mekanizmalarının yetersiz kalması hâlinde finans piyasaları ve kritik altyapılar doğrudan etkilenebilir. İnsan yatırımcılardan daha hızlı karar alan algoritmaların bağımsız hareket etmesi, küresel ekonomik dengeleri değiştirebilir. Avrupa Merkez Bankası Başkanı Christine Lagarde da kısa süre önce benzer bir uyarıda bulunarak yapay zekâ ajanlarının piyasa şoklarını büyütebileceğini söylemişti. Yapay zekânın fabrikalarda ve fiziksel üretim tesislerinde kullanılmasıyla kontrolün daha da karmaşık hâle geleceği belirtiliyor.
Uzmanlar ne öneriyor?
Uzmanlar, yapay zekâ sektöründe bağımsız denetim mekanizmalarının ve konusunda uzman hükümet kurullarının kurulmasının zorunlu hâle geldiğini vurguluyor.
