Teknoloji

Chatbotlar gerçekte ne yapıyor? Düşünmüyor, hesaplıyor

Yapay zekâ sık sık “kara kutu”, “papağan” ya da “kelimeler için hesap makinesi” olarak tanımlanıyor. Ancak bu benzetmeler, hem teknolojinin basitleştirilmiş bir algısını hem de göz ardı edilen etik sorunlarını beraberinde getiriyor.

Abone Ol

Yapay zekâyı anlatmak için kullanılan benzetmeler çeşitlilik gösteriyor: “kara kutu”, “otomatik tamamlamanın steroidlisi”, “papağan” hatta bir çift “spor ayakkabı”. OpenAI CEO’su Sam Altman’ın popülerleştirdiği “kelimeler için hesap makinesi” benzetmesi ise giderek daha çok duyuluyor.

HESAP MAKİNESİ BENZETMESİ NEDEN ELEŞTİRİLİYOR?

Hesap makineleri hata yapmaz, önyargı barındırmaz ve etik ikilemler yaratmaz. Oysa yapay zekâ, insan dilindeki örüntüleri hesaplayan bir sistem olmasına rağmen, yanlışlar yapabilir ve toplum için tartışmalı sonuçlar doğurabilir.

DİLİN GİZLİ İSTATİSTİKLERİ

İnsanların çoğu farkında olmasa da dil kullanımı istatistiksel hesaplara dayanır. “Tuz ve biber” yerine “biber ve tuz” demek kulağa garip gelir. Bu, “kolokasyon” adı verilen, kelimelerin birlikte kullanılma sıklığıyla ilgili bir olgudur. Yapay zekâ da tam olarak bu hesaplama yöntemini kullanarak, bize “doğru” gelen kelime dizilerini üretir.

ÇAĞDAŞ YAPAY ZEKÂNIN KÖKLERİ

Bugünkü büyük dil modellerinin (LLM) kökeni, Soğuk Savaş döneminde Rusça-İngilizce çeviri için geliştirilen sistemlere dayanır. Zamanla dilbilimin katkısıyla gramer tabanlı kurallardan istatistiksel modellere, oradan da nöral ağlara geçildi. Ancak temelde değişmeyen şey, olasılık hesaplamalarıdır.

“DÜŞÜNME” DEĞİL, “HESAPLAMA”

Şirketler yapay zekâyı “düşünen”, “rüya gören” ya da “araştıran” sistemler gibi tanıtsa da gerçekte yaptığı tek şey hesaplama. “Ben seni seviyorum” ifadesindeki olasılıkları hesaplayabilir, ama ne “ben”dir, ne “sevgi”yi anlar, ne de size dair bir bilinç taşır.