Avrupa Merkez Bankası (ECB) Başkanı Christine Lagarde, yapay zekânın finans sektörüne getirdiği risklere karşı politika yapıcıları uyardı. Avrupa Sistemik Risk Kurulu'nun (ESRB) Berlin'deki konferansında konuşan Lagarde, insan denetimi olmadan hareket eden yapay zekâ ajanlarının piyasa şoklarını büyütebileceğini ve siber savunmaları aşabileceğini söyledi. Lagarde, öncü yapay zekâ modellerinin denetimi için Soğuk Savaş dönemindeki nükleer silah anlaşmalarına benzer bir küresel iş birliği çağrısında bulundu.
Lagarde hangi riskler konusunda uyardı?
Lagarde, Avro Bölgesi'ndeki önemli bankaların yaklaşık yüzde 90'ının üretken yapay zekâ kullandığını belirtti. Lagarde'a göre bu teknolojinin giderek daha bağımsız hareket edebilmesi, üç temel alanda risk oluşturuyor: finansal piyasalar, siber güvenlik ve jeopolitik. Lagarde, "Yapay zekânın finans sektöründe güvenli kullanılabilmesi için politika yapıcıların finansal sistemin bütününe yönelik riskleri öngörmesi gerekir" dedi.
Yapay zekâ piyasaları nasıl etkileyebilir?
Lagarde, finansal piyasalarda insan denetiminden bağımsız hareket eden yapay zekâ ajanlarının piyasa şoklarını büyütebileceğini, fiyat manipülasyonlarına ve fiyat bozulmalarına yol açabileceğini söyledi.
Siber güvenlik açısından risk ne?
Lagarde, yapay zekânın sistemlerdeki açıkları bulma ve bunları kötüye kullanma süresini haftalardan saatlere indirdiğini belirtti. Lagarde'a göre yapay zekâ ajanları, mevcut siber savunma hatlarını aşabilecek kapasiteye ulaşıyor. Lagarde, ESRB'nin siber savunmaların güncellenmesi çağrısını yineledi.
Jeopolitik risk neden önemli?
Lagarde, en gelişmiş yapay zekâ modellerinin ABD ve Çin'de yoğunlaştığını hatırlattı. Artan jeopolitik gerilimlerin, Avrupa'nın bu teknolojilere erişimini bir anda kesebileceği uyarısında bulundu.
Lagarde neden nükleer silah benzetmesi yaptı?
Lagarde, AB Yapay Zekâ Yasası'nın risklere göre kurallar getiren önemli bir adım olduğunu, ancak giderek güçlenen öncü yapay zekâ modelleriyle mücadelenin küresel iş birliği gerektirdiğini söyledi. Lagarde, "Soğuk Savaş döneminde ABD ve Sovyetler Birliği, birbirleriyle rekabet etmeye devam ederken bile kendi nükleer kapasitelerine sınırlar getirmeyi kabul etmiş ve nükleer silahların yayılmasını önlemek için çalışmıştır" dedi. Lagarde, ABD'nin yapay zekâ yarışında önde olduğu için küresel bir anlaşmayı kendisini yavaşlatacak bir araç olarak görmesinin "ileriyi göremeyen" bir yaklaşım olacağını savundu.
Konuşmasında fizikçi Stephen Hawking'e de atıfta bulunan Lagarde, geleceğin teknolojinin artan gücü ile onu kullanma bilgeliği arasındaki bir yarış olduğunu hatırlattı.