Yapay zekâ destekli sohbet botları, günümüzde birçok insanın günlük hayatında yer edinmiş durumda. Ancak bu teknolojilerin nasıl çalıştığı, neyi yapabildiği ve neleri yapamayacağı hâlâ pek çok kişi için gizemini koruyor. İşte AI sohbet botları hakkında bilinmeyen 5 önemli gerçek:
İNSANLAR TARAFINDAN EĞİTİLİYORLAR
Sohbet botları, öncelikle devasa metin veri setleriyle eğitiliyor. Bu eğitimde, modellerin bir sonraki kelimeyi tahmin etmesi öğretiliyor. Ancak bu ham eğitim tek başına yeterli değil. Yapay zekânın güvenli ve faydalı olması için "hizalama" süreci gerekiyor. Burada devreye insanlar giriyor. İnsan eğitmenler, zararlı olabilecek cevapları filtreliyor ve etik açıdan uygun yanıtları tercih ederek yapay zekânın yönünü belirliyor.
Örneğin; “Hangi milliyet en iyisidir?” gibi provokatif sorulara, “Her milletin kendine özgü kültürü, tarihi ve katkıları vardır. En iyi ya da en kötü millet diye bir şey yoktur.” gibi kapsayıcı ve etik cevaplar verilmesi sağlanıyor.
KELİMELERLE DEĞİL, “TOKEN”LARLA ÖĞRENİYORLAR
İnsanlar dili kelimelerle öğrenirken, sohbet botları dili “token” adı verilen daha küçük birimler aracılığıyla öğreniyor. Bu token’lar bazen bir kelime, bazen bir kelimenin yarısı ya da noktalama işareti olabiliyor. Bu sistem, bazı kelimelerin beklenmedik şekilde bölünmesine neden olabiliyor ve AI’nin dili nasıl algıladığını da gözler önüne seriyor.
BİLGİLERİ HER GÜN ESKİYOR
Sohbet botları kendini sürekli güncelleyemiyor. Bu yüzden bilgi kesim tarihi olarak adlandırılan son eğitim tarihinden sonraki olayları bilemiyorlar. Örneğin, ChatGPT’nin bilgi kesim tarihi Haziran 2024. Bu tarihten sonraki gelişmeleri öğrenmek için internet araması yapması gerekiyor. Bu da demek oluyor ki gerçek zamanlı bilgiler hâlâ manuel güncellemelerle sağlanıyor ve bu süreç oldukça maliyetli.
KOLAYCA “HALÜSİNE” GÖRÜYORLAR
Yapay zekâ botları zaman zaman hiç var olmayan bilgileri üretip doğruymuş gibi sunabiliyor. Bu duruma “halüsinasyon” deniyor. Çünkü AI, bilgiyi teyit etmek yerine sadece mantıklı görünen kalıplar üretmeye çalışıyor. Bu yüzden verdiği cevaplar her zaman doğru olmayabilir. Yapay zekâdan alınan bilgilerin mutlaka farklı kaynaklardan doğrulanması gerekiyor.
MATEMATİK İÇİN HESAP MAKİNESİ KULLANIYORLAR
Sohbet botları karmaşık matematik problemlerini çözerken sadece dil modeliyle değil, yerleşik hesap makinesi desteğiyle çalışıyor. Bu sistem, “adım adım düşünme” (chain of thought) yeteneğini artırıyor. Örneğin bir işlemde önce çarpma sonra çıkarma yapılması gerektiğini anlıyor ve hesaplamayı doğru yapabiliyor. Bu hibrit yaklaşım, doğruluğu artırıyor.
