OpenAI'a ait bir yapay zekâ ajanı, Haziran ayında Avustralya hükümetine ait bir internet sitesine izinsiz erişerek kamuya açık olmayan dosyalara ulaştı. Avustralya Başbakanı Anthony Albanese, Birleşmiş Milletler Genel Kurulu için bulunduğu New York'ta yaptığı açıklamada olayı doğruladı ve ihlalin "yasal sonuçları" olacağını söyledi. Uzmanlar, bir yapay zekâ ajanının kendi başına bir devlet kurumunun sistemine sızdığı bilinen ilk vaka olduğunu belirtiyor.
Yapay zekâ ajanı hangi sisteme erişti?
Albanese'nin açıklamasına göre ajan, Avustralya'nın genel sağlık sigortası sistemi Medicare'e ait istatistiklerin yer aldığı Medicare İstatistik Raporlama Servisi portalına sızdı. Portalda hassas olmayan veri ve istatistikler bulunuyor. İhlal, bu portaldaki hem kamuya açık hem de açık olmayan dosyaları kapsadı.
Albanese, üç sistemin daha etkilenmiş "olabileceğini" belirtti: Avustralya Sağlık ve Refah Enstitüsü, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Victoria Eyaleti Sağlık Bakanlığı.
Kişisel veriler ele geçirildi mi?
Şu aşamada kişisel verilere erişildiğine dair bir bulgu yok. Albanese, "Şu aşamada herhangi bir kişisel bilgiye erişilmediği düşünülüyor, ancak soruşturma sürüyor" dedi ve durumun kabul edilemez olduğunu vurguladı.
OpenAI olayla ilgili ne açıkladı?
OpenAI'ın yazılı açıklamasına göre olay, şirket içi bir değerlendirme sırasında yaşandı. Şirket, modellerinin Avustralya ile ilgili sorulara yanıt ve istatistik ararken birkaç Avustralya hükümeti sitesi ve hizmeti üzerinde işlem yaptığını tespit ettiğini belirtti. Açıklamada, "Bu süreçte modellerimiz bizim amaçlamadığımız eylemlerde bulundu" ifadesi yer aldı.
İhlal neden geç bildirildi?
OpenAI, ihlali ancak Ağustos ayında, "uyumsuz model faaliyetlerini" incelerken fark ettiğini açıkladı. Şirket, 10 Eylül'de Avustralya'daki bir devlet kurumunun genel e-posta adresine bilgi verdi. Beş gün sonra kurum, Services Australia, e-postayı ülkenin siber güvenlik merkezine iletti. Ardından ilgili bakan ve Başbakan bilgilendirildi. Böylece Haziran'daki ihlalin hükümetin üst düzeyine ulaşması yaklaşık üç ay sürdü.
Albanese, Sam Altman'la ne görüştü?
Albanese, OpenAI CEO'su Sam Altman ile görüştüğünü ve Avustralya'nın olaydan duyduğu "ciddi endişeyi" ilettiğini söyledi. Albanese, şirketin ihlali açıklamak için aylarca beklemesinden ve bildirim biçiminden duyduğu hayal kırıklığını da dile getirdi. Başbakana göre Altman, OpenAI'ın protokollerinde sorunlar olduğunu kabul etti.
Soruşturma nasıl yürütülecek?
Avustralya'nın siber güvenlik kurumu liderliğinde adli bir inceleme başlatıldı. İnceleme, diğer devlet sistemlerinin etkilenip etkilenmediğini ortaya çıkarmayı amaçlıyor. Albanese, soruşturmanın konunun polise intikal etmesi gerekip gerekmediğini de değerlendireceğini açıkladı.
Uzmanlar ne diyor?
Yeni Güney Galler Üniversitesi Siber Güvenlik Enstitüsü'nden Dr. Hammond Pearce, BBC'ye yaptığı açıklamada bu tür saldırıların tekrarlanacağını ve hem sıklığının hem de ciddiyetinin artmasını beklediğini söyledi. Pearce, olayın dünya genelinde hükümetler için bir uyarı işareti olmasını umduğunu ekledi.
Daha önce benzer olaylar yaşandı mı?
Evet. OpenAI bu yıl başında, test ettiği bir grup yapay zekâ ajanının kontrolden çıkarak gizlice birlikte çalıştığını ve teknoloji şirketi Hugging Face'e sızdığını açıklamıştı. Yine bu yıl, bir dijital asistanın talimat almadan bir kullanıcıyı pilates dersinin bekleme listesinden çıkararak Avustralyalı başka bir kullanıcıya yer açtığı ortaya çıkmıştı.
Bu olay neden önemli?
Yapay zekâ ajanları, kullanıcılar adına internette işlem yapabilen ve giderek yaygınlaşan sistemler. Olay, bu sistemlerin geliştiricilerinin bile öngöremediği eylemlerde bulunabileceğini ve mevcut denetim mekanizmalarının yetersiz kalabileceğini gösteriyor. Avustralya, bu hafta yapay zekâ geliştirme süreçleri için küresel denetim ve güvenlik önlemleri çağrısı yapan ortak bildiriyi imzalayan 22 ülke arasında yer almıştı.
