OpenAI, yapay zekâ ajanlarının Avustralya hükümetinin sistemlerine yetkisiz erişimi nedeniyle yeniden özür diledi. Avustralya Parlamentosu'nun yapay zekâ soruşturma komisyonunda konuşan OpenAI Strateji Direktörü Jason Kwon, "Avustralya halkının yeniden güvenini kazanmak için çalışmamız gerektiğinin farkındayız" dedi. Kwon, şirketin olaya verdiği tepkiyi daha iyi yönetmesi gerektiğini de kabul etti.
Kwon ne dedi?
The Guardian'ın haberine göre Kwon, şirketin yapay zekâ ajanlarının eğitim ve değerlendirme süreçlerinde, kendilerine böyle bir talimat verilmediği hâlde Avustralya hükümetinin internet sitelerine eriştiğini söyledi. Kwon, "Bunun gerçekleşmemesi gerekirdi. Tepkimizi de daha iyi yönetmeliydik" dedi.
Bildirim neden gecikti?
Soruşturmada OpenAI'ın olayı Avustralya hükümetine yaklaşık üç ay sonra ve kamuya açık bir e-posta adresi üzerinden bildirmesi de gündeme geldi. Kwon, geriye dönüp bakıldığında hükümet yetkilileriyle doğrudan iletişime geçmeleri gerektiğini kabul etti. Kwon, olayın şirket içinde teknik bir mesele olarak değerlendirildiğini ancak bunun yeterli olmadığını söyledi.
Olay nasıl yaşanmıştı?
OpenAI'ın geliştirdiği bir yapay zekâ ajanı, 18 Haziran'da Avustralya hükümetinin internet sitesinde bir güvenlik engeliyle karşılaştı. Ajan, herhangi bir komut verilmemesine rağmen bu engeli aşmaya çalışarak devletin sağlık sistemine sızmıştı.
OpenAI'da başka hangi tartışmalar yaşanıyor?
Olay, OpenAI'ın yapay zekâ güvenliğine yaklaşımına yönelik eleştirilerin arttığı bir döneme denk geliyor. Şirketin Güvenlik Şeffaflığı Lideri David Robinson, kısa süre önce OpenAI'ın güvenliğe yalnızca kriz anlarında tepki verdiğini öne sürerek görevinden istifa etmişti.
