Teknoloji

AB, 'yapay zekaya yönelik düzenleme' teklifinde bulundu

Abone Ol

Avrupa Birliği (AB), biyometrik kimlik saptama sistemlerinin terör tehdidini önlemek, kayıp çocukları bulmak, ciddi bir suçu kovuşturmak veya bir şüpheliyi tespit etmek için kullanılması önerisinde bulundu.

AB Komisyonu, yapay zeka ile ilgili kurallar çerçevesini içeren dünyadaki ilk yasal düzenleme teklifini açıkladı. Buna göre, yapay zeka sistemleri "kabul edilemez risk","yüksek risk", "sınırlı risk" ve "minimum risk" olmak üzere 4 ana gruba ayrıldı.

İnsanların güvenliği, geçim kaynakları ve haklarına ilişkin açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk grubunda yer aldı ve bunların kullanımı yasaklandı.

İnsan davranışlarını manipüle eden, özgür iradeyi önleyen, hükümetler tarafından sosyal puanlama yapılmasını sağlayan uygulamalar ve yapay zeka sitemleri "kabul edilemez" risk grubuna dahil edildi.

Yüksek risk grubunda ise ulaştırma gibi kritik altyapı, eğitim, robotlu ameliyat, işe alım sürecinde CV değerlendirme, kredi derecelendirmesi, delil güvenliği, göç, iltica ve sınır yönetimi, seyahat belgelerinin doğrulanması, yargı ile demokratik süreçler sıralandı.

Bu gruptaki yapay zeka sistemlerinin piyasaya sunulmadan önce uyması gereken sıkı yükümlülükler getirildi.

Bu sistemlerin ayrımcılık yapması engellenecek, sonuçların izlenebilir olması sağlanacak ve yeterli ölçüde insan gözetimine tabi tutulacak.

Bütün biyometrik kimlik saptama sistemleri katı koşullar içeren yüksek risk grubuna dahil edildi.

Özel durumlarda kullanılabilecek

Emniyet yetkilileri halka açık alanlarda biyometrik kimlik saptama sistemlerini özel durumlarda kullanabilecek. Terör tehdidini önlemek, kayıp çocukları aramak, ciddi bir suçu kavuşturmak veya bir şüpheliyi tespit etmek için biyometrik kimlik tespit sistemlerine başvurulabilecek. Yapay zeka sistemlerinin bu tür kullanımları sınırlı olacak ve adli veya bir başka bağımsız kuruluşun izine tabi tutulacak.

Sınırlı risk grubunda yer alan yapay zeka sistemleri bazı şeffaflık yükümlülüğüne tabi olacak. Kullanıcıların bu grupta yer alan "sohbet robotları" ile görüşme yaparken bir makine ile etkileşimde bulunduklarının farkında olması ve bilinçli karar almaları sağlanacak.

Yapay zeka destekli video oyunları veya istenmeyen e-posta filtreleri gibi uygulamalar minimum risk grubunda yer aldı. Vatandaşların hakları veya güvenliği için minimum veya hiç risk içermeyen bu gruptaki yapay zeka sistemlerine müdahale edilmedi.

Söz konusu yapay zeka alanında denetim sorumluluğu ve yetki ulusal makamlarda olacak. Bu alanda uygulama ve standartların geliştirilmesi amacıyla Avrupa Yapay Zeka Kurulu oluşturulacak.

Söz konusu düzenleme teklifinin yürürlüğe girmesi için Avrupa Parlamentosu (AP) ve üye ülkelerin onayı gerekiyor.

Düzenleme yasalaştığında, AB ülkelerinde faaliyet gösteren ABD teknoloji şirketlerinin faaliyetleri de sınırlandırılmış olacak.