Yapay zekâ hayatımıza önce sorularımıza cevap veren sohbet robotlarıyla girdi. Ardından metin yazdı, görsel üretti, sesimizi taklit etti. Şimdi ise yeni bir aşamaya geçiyoruz: Yapay zekâ ajanları.
Buradaki değişim önemli. Çünkü yapay zekâ ajanları yalnızca sorulara cevap vermiyor. Kendilerine verilen hedef doğrultusunda planlama yapabiliyor, farklı araçları kullanabiliyor ve belirli işlemleri insan müdahalesi olmadan gerçekleştirebiliyor.
SOHBET BOTUNDAN AJANA
Bir sohbet botuna soru sorduğumuzda yanıt alıyoruz. Bir yapay zekâ ajanına ise bir görev verebiliyoruz.
Örneğin bir seyahat planı hazırlamasını, seçenekleri araştırmasını, takvimi kontrol etmesini ve belirlenen kurallar çerçevesinde işlem yapmasını isteyebiliyoruz.
Dolayısıyla artık yalnızca “Yapay zekâ ne cevap verecek?” sorusunu sormuyoruz.
Asıl soru şu:
Yapay zekâya ne yapma yetkisi veriyoruz?
YETKİ VERİLİRSE NE OLUR?
Bir yapay zekâ sistemine e-postaları okuma yetkisi vermek başka, e-posta gönderme yetkisi vermek başka.
Dosyaları analiz etmesi başka, dosyaları değiştirmesi veya silmesi ise bambaşka bir konu.
Bu nedenle yapay zekâ ajanlarında güvenlik meselesi yalnızca şifrelerden ibaret olmayacak. Hangi sisteme erişebildiği ve hangi işlemleri gerçekleştirebildiği de kritik hale gelecek.
SİBER SALDIRILARDA YENİ DÖNEM
Yapay zekâ ajanları siber güvenlik açısından da yeni bir dönemin kapısını aralıyor.
Kötü niyetli kişiler yapay zekâyı hedef araştırmak, bilgi toplamak ve saldırı süreçlerini otomatikleştirmek için kullanabilir. Böylece daha önce insan gücüyle yürütülen bazı işlemler çok daha hızlı gerçekleştirilebilir.
Burada tehdit yapay zekânın kendisinden çok, sahip olduğu yeteneklerin kötü amaçlarla kullanılmasından kaynaklanıyor.
AKILLI CİHAZLAR DA DEĞİŞECEK
Televizyonlar, otomobiller, kameralar, robot süpürgeler ve diğer akıllı cihazlar giderek daha fazla birbirine bağlanıyor.
Yapay zekâ ajanlarının bu cihazlarla etkileşime girdiği bir dünyada günlük hayatımızdaki pek çok işlem yazılımlar tarafından yönetilebilir.
Bu nedenle “Akıllı cihaz” kavramının yanına bir kavram daha eklememiz gerekiyor:
Yetkili cihaz.
Çünkü cihazın ne kadar akıllı olduğu kadar, hangi yapay zekâya ne kadar yetki verdiğimiz de önemli.
MAHREMİYET SINIRI
Yapay zekâ ajanlarının çalışabilmesi için e-postalar, takvimler, belgeler, konum bilgileri ve farklı kullanıcı verilerine erişmesi gerekebilir.
Burada temel soru şu:
Bir yapay zekâ görevini yerine getirmek için gerçekten ne kadar veriye ihtiyaç duyuyor?
Gereğinden fazla yetki verilmesi hem mahremiyet hem de güvenlik açısından sorun oluşturabilir. Bu nedenle geleceğin dijital güvenlik anlayışında “ihtiyaç kadar erişim” ilkesi daha da önem kazanacak.
İNSAN DENETİMİ ŞART
Yapay zekâ ajanlarının yaygınlaşması insanın tamamen devreden çıkması anlamına gelmemeli.
Özellikle para transferi, resmi işlemler, sağlık verileri veya kişisel bilgilerin paylaşılması gibi kritik alanlarda insan onayı mekanizmaları korunmalı.
Çünkü yapay zekâ bir görevi teknik olarak tamamlayabilir. Ancak o işlemin insan açısından doğru sonuç doğurup doğurmadığı ayrı bir mesele.
ASIL MESELE: KONTROL
Yapay zekâ ajanları hayatımıza girdikçe teknoloji tartışmasının merkezinde “Ne kadar zeki?” sorusundan “Ne kadar yetkili?” sorusuna geçmemiz gerekiyor.
Çünkü güçlü bir yapay zekâ yalnızca yanlış bir cevap verebilir. Yetkili bir yapay zekâ ise yanlış bir işlem gerçekleştirebilir.
Bu nedenle yapay zekâ çağının temel güvenlik prensiplerinden biri şu olmalı:
Yapay zekâya yetenek kazandırırken, yetki sınırlarını da aynı ölçüde belirlemek.
Yapay zekâ ajanları dijital dünyanın yeni aktörleri olabilir. Ancak hangi kapıları açabileceklerine ve hangi işlemleri yapabileceklerine karar veren mekanizma, insan denetimi olmalı.