"Avrupa'da ayrımcılık" başlıklı dosya haberinin 11. bölümünde AA muhabirinin sorularını yanıtlayan Bannor, Meta'nın iş ilanı algoritmasına karşı yürüttükleri hukuki süreci, algoritmaların kalıp yargıları nasıl pekiştirdiğini ve diğer teknoloji platformlarındaki riskleri değerlendirdi.
Bannor, İngiltere merkezli insan hakları kuruluşu Global Witness'ın birkaç yıl önce Facebook'un iş ilanı sistemine ilişkin araştırma yaptığını ve ilanların kullanıcılara cinsiyete göre seçici şekilde gösterildiğini ortaya koyduğunu anlattı.
Araştırmada iş ilanı sitesi Indeed'de yer alan gerçek ilanların cinsiyet açısından tarafsız görseller ve ifadelerle ücret ödenerek Facebook'ta yayımlandığına dikkati çeken Bannor, yaklaşık bir hafta sonra elde edilen sonuçların, ilanların cinsiyete göre ayrıştırılarak gösterildiğini ortaya koyduğunu dile getirdi.
Bannor, "Kalıp yargılara göre erkeklere atfedilen elektrikçi ve tamirci gibi işler ağırlıklı olarak erkeklere, öğretmenlik ve kuaförlük gibi bakım ve eğitim meslekleri ise ağırlıklı olarak kadınlara gösterildi. Bu da iş ilanı sisteminin algoritmasında açık bir cinsiyet unsuru olduğunu gösterdi." dedi.
Aynı araştırmanın Hollanda ve Fransa'da da yapıldığını ve benzer sonuçlar alındığını belirten Bannor, bu durumun bazı grupları ilgi ve hedeflerine uygun olabilecek işlerden dışladığına işaret etti.
Bannor, bu uygulamanın iş piyasasındaki eşitsizliği pekiştirdiğini ve kadınlarla erkekler arasında fırsat eşitliğini engellediğini söyledi.
"Emsal niteliğinde bir karar"
Araştırma sonuçlarının ardından hem Hollanda'da hem de Fransa'da ulusal veri koruma otoritelerine ve eşit muamele alanındaki denetleyici kurumlara şikayette bulunduklarını anlatan Bannor, Hollanda'da bu kurumun Hollanda İnsan Hakları Enstitüsü (College voor de Rechten van de Mens) olduğunu belirtti.
Enstitünün 2025'te verdiği kararda Hollanda Anayasası ve Genel Eşit Muamele Yasası uyarınca cinsiyete dayalı ayrımcılık bulunduğuna hükmettiğini söyleyen Bannor, kararda istihdama eşit erişim açısından da ayrımcılık tespit edildiğini ve AB'nin Genel Veri Koruma Tüzüğü (GDPR) kapsamında veri işlemenin adil olması ve ayrımcılığa yol açmaması gerektiğinin hatırlatıldığını dile getirdi.
Kararın "gerçekten harika" ve "emsal niteliğinde" olduğunu vurgulayan Bannor, şöyle konuştu:
"Avrupa'da bir büyük teknoloji şirketinin ilk kez bir ülkenin eşit muamele yasası kapsamında hesap vermesiydi. Bir eşitlik denetleyicisi kurum, ilk kez bir büyük teknoloji şirketinin özen yükümlülüğünün bulunduğunu teyit etti. Bu karar, büyük teknoloji şirketlerinin eşitlik ve eşit muamele yasaları dahil kurallara ve düzenlemelere bağlı olmadan istediklerini yapamayacaklarını gösteriyor."
"Algoritma, insanları profile göre kalıplara sokuyor"
Araştırmada yaşı da incelediklerini ve ilanların bazı yaş gruplarına diğerlerinden daha fazla gösterildiğini belirlediklerini dile getiren Bannor ancak Hollanda İnsan Hakları Enstitüsünün yaşa dayalı ayrımcılık tespit etmediğini söyledi.
Bannor, duruşma sırasında Meta'nın algoritmanın yaş, ilgi alanları, konum ve cinsiyet gibi çeşitli veri noktalarını kullandığını ve kullanıcı profiline dayanan bu verilerin hangi ilanların kime gösterileceğini belirlediğini kabul ettiğini anlattı.
"Bu şekilde söylendiğinde, kullanıcıya en ilgi çekici reklamları göstermek için tüm bu farklı bilgilerin kullanılması oldukça mantıklı gelebilir ancak bu durum, insanların sadece belli bir profile göre kalıp yargılara sokulmasına ve fişlenmesine de yol açabilir." diyen Bannor, bunun kişinin söz konusu işe uygun ya da nitelikli olduğu anlamına gelmediğini vurguladı.
"Göçmen kökeni ve ırk da etkili olabilir"
Meta'nın din, ırk ya da etnik köken konusunda bir açıklama yapmadığını ancak bu unsurların da etkili olabileceğinden şüphelendiklerini ifade eden Bannor, araştırma sonuçlarında yalnızca cinsiyet ve yaş etkisini görebildiklerini belirtti.
Hollanda'da algoritmaların göçmen kökeni, cinsiyet ve ırk gibi verileri kullandığı pek çok örneğin bulunduğunu söyleyen Bannor, çocuk bakım yardımı skandalını hatırlattı. Bu skandalda kullanılan algoritmanın, kişilerin dolandırıcılık yapma ihtimalini belirlemek için göçmen kökenini, sosyoekonomik ve aile durumunu kullandığının ortaya çıktığını anlatan Bannor, "Büyük teknoloji şirketlerinin algoritmalarının da bilgileri aynı şekilde sınıflandırıyor olması çok muhtemel ancak bunu dava sürecinde elbette söylemeyecekler." dedi.
Konum verisinin de dolaylı ayrımcılığa yol açabileceğine dikkati çeken Bannor, belli sosyoekonomik grupların belli mahallelerde yoğunlaştığını, bu nedenle bu bölgelerde yaşayanlara daha çok pratik meslek gerektiren ilanların gösterilebileceğini söyledi.
Global Witness'ın araştırmasına ABD'deki konut ilanları skandalının ardından başlandığını anlatan Bannor, orada da bazı ilanların belli demografik gruplara daha fazla gösterildiğini, ırk, din, cinsiyet, aile durumu ve engellilik gibi unsurların da bu süreçte etkili olduğunu belirtti.
Bannor, sosyal medya platformlarının kullanıcıların çevrim içi davranışlarını hem hangi içeriği hem de hangi reklamları göreceklerini belirlemek için kullandıklarını dile getirdi.
Platformların, ilan verenlerin reklamlarını tıklama ihtimali yüksek kişilere ulaştırmak istemelerini bunun gerekçesi olarak sunduklarını anlatan Bannor, "Eğer şart buysa kalıp yargılara dayanan, kapsayıcı olmayan ve belirli gruplar üzerinde ciddi etkileri olabilecek profiller oluşturmak, çok kolay hale geliyor." diye konuştu.
ABD'de sivil haklarla ilgili kuruluşların açtığı davalardaki uzlaşma sonucunda Facebook, konut, istihdam ve kredi ilanlarında yaş, cinsiyet ve posta koduna göre hedeflemeyi engellemiş ancak bu değişikliği yalnızca ABD’de, daha sonra da Kanada’da ve AB’de uygulamıştı. Değişikliğin dünyanın diğer bölgelerinde uygulanıp uygulanmadığı ise bilinmiyor.
Hollanda İnsan Hakları Enstitüsü, Meta İrlanda'nın ayrımcı etkisi olan reklam algoritması kullandığına ve Hollandalı kullanıcılarına karşı özen yükümlülüğünü yerine getirmediğine hükmetmişti. Meta ise süreç boyunca Hollanda'nın şirket üzerinde yargı yetkisinin bulunmadığını savunmuştu.
Fransa'da da eşitlik denetleyicisi Defenseur des Droits da 2025 sonunda Meta'nın algoritmalarının hukuka aykırı şekilde ayrımcılık yaptığına karar vererek şirkete sorunu gidermesi için üç ay süre tanımıştı.