Yapay zekâ girişimi Vambo AI, Afrika'da konuşulan 12 yerel dil için sıfırdan geliştirdiği MORENA adlı dil modelini tanıttı. 1,5 milyar parametreye sahip model, kıyaslama testlerinde Google, Meta ve Alibaba gibi teknoloji şirketlerinin çok daha büyük sistemlerini geride bıraktı. Proje, yapay zekâ modellerinde yeterince temsil edilmeyen dillerin kendi yapılarına uygun sistemlerle desteklenebileceğini gösteriyor.
MORENA nedir?
MORENA, Afrika'daki 12 yerel dilin yanı sıra İngilizce, Fransızca ve yazılım kodlama dillerini kapsayan bir büyük dil modeli. Model, mevcut bir sistemin uyarlanmasıyla değil, doğrudan bu diller hedef alınarak sıfırdan tasarlandı.
MORENA'yı diğer modellerden ayıran ne?
Yaygın yapay zekâ modelleri ağırlıklı olarak İngilizce ve Batı dillerindeki verilerle eğitiliyor. Bu durum, Afrika dillerinde daha düşük performansa yol açıyor. MORENA'da ise bu dillerin yapısına uygun özel bir veri seti ve metni parçalara ayıran özel bir belirteç (token) yapısı kullanıldı. Bu yaklaşım, modelin bu dilleri daha verimli işlemesini sağlıyor.
MORENA testlerde nasıl bir performans gösterdi?
Model, 26 modelin karşılaştırıldığı kıyaslama testlerinde en yüksek skorlardan birini elde etti. Çok daha az parametreye sahip olmasına rağmen dil modelleme ve çeviri alanlarında daha büyük rakiplerinden üstün sonuçlar verdi. Parametre sayısı, bir modelin boyutunu ve genellikle kapasitesini gösteren temel ölçütlerden biri olarak kabul ediliyor.
MORENA'nın hangi sürümleri var?
Geliştirici ekip, 1,5 milyar parametreli ana modelin yanı sıra 500 milyon ve 200 milyon parametreli iki küçük sürümü de kullanıma sundu. En küçük "nano" sürüm, metin düzenleme ve konuşma tanıma gibi işlerde düşük maliyetle yüksek verim sunuyor.
MORENA internet olmadan çalışabiliyor mu?
Evet. Küçük sürümler düşük donanım gerektirdiği için dizüstü bilgisayarlarda internet bağlantısı olmadan çalışabiliyor. Bu özellik, internet erişiminin sınırlı olduğu bölgelerde modelin kullanılabilirliğini artırıyor.
MORENA'nın eğitimi ne kadara mal oldu?
Modelin ön eğitiminde yüz milyarlarca belirteç işlendi. Geliştirme sürecinde 22 bin saatten fazla A100 grafik işlemci kapasitesi kullanıldı. Bu kaynakların maliyeti yaklaşık 40 bin dolar olarak hesaplandı. Büyük teknoloji şirketlerinin modelleri için milyonlarca dolar harcandığı düşünüldüğünde bu, oldukça düşük bir maliyet anlamına geliyor. Proje, Birleşmiş Milletler Kalkınma Programı (UNDP) ve çeşitli araştırma merkezleri tarafından desteklendi.
Bu gelişme neden önemli?
Afrika, binlerce dilin konuşulduğu bir kıta olmasına rağmen bu dillerin büyük bölümü yapay zekâ sistemlerinde yeterince yer almıyor. MORENA, küçük ve düşük maliyetli modellerin belirli diller için büyük küresel modellerden daha iyi sonuç verebileceğini gösteriyor. Bu yaklaşımın, yapay zekâ yatırımlarında sınırlı kaynağa sahip ülkeler ve diller için bir örnek oluşturması bekleniyor.
