Yüz tanıma yazılımının cinsiyet sorunu var

Yüz tanıma yazılımı, kısa bir bakışla cinsiyeti dikkate değer bir doğrulukla kategorize edebilir. Ancak yeni bir araştırmaya göre, bu yüz bir trans kişiye aitse, bu tür sistemler üçte birden fazla kez yanlış anlıyor. Kaya İLE Araştırma.
Baş yazar Morgan Klaus Scheuerman, “Yüz analizi hizmetlerinin trans bireyler üzerinde sürekli olarak daha kötü performans gösterdiğini ve evrensel olarak ikili olmayan cinsiyetleri sınıflandıramadığını bulduk” dedi. “Dışarıda pek çok farklı insan türü varken, bu sistemler cinsiyetin neye benzediği konusunda son derece sınırlı bir görüşe sahip.”
bu ders çalışma bir kişinin belirli özelliklerini değerlendirmek ve karakterize etmek için gizli kameralar kullanan yüz analizi teknolojilerinin giderek daha yaygın hale geldiği, akıllı telefonlarla flört uygulamalarından ve alışveriş merkezlerindeki dijital kiosklardan havaalanı güvenliğine ve yasa uygulama gözetleme sistemlerine kadar her şeyin içine yerleştirildiği bir zamanda geliyor. .
Önceki araştırmalar, beyaz erkeklerin cinsiyetini değerlendirirken en doğru olma eğiliminde olduklarını, ancak beyaz olmayan kadınları zamanın üçte biri kadar yanlış tanımladıklarını gösteriyor.
Kıdemli yazar Jed Brubaker, “Bu sistemlerde ırk ve etnik kökene ilişkin içsel önyargılar olduğunu biliyorduk ve cinsiyet konusunda da sorunlar olacağından şüpheleniyorduk” dedi. “Bunu gerçek dünyada test etmek için yola çıktık. Bu sistemler erkek veya kadın dışında başka bir dil bilmiyor, bu nedenle birçok cinsiyet kimliğinin doğru olması mümkün değil.”
Çalışma, bu tür hizmetlerin cinsiyeti modası geçmiş klişelere dayalı olarak tanımladığını öne sürüyor. Uzun saçlı bir erkek olan Scheuerman fotoğrafını gönderdiğinde, onu yarı yarıya kadın olarak kategorize etti. Scheuerman, “Bu sistemler, bir erkek ya da kadın olarak tanınmak istiyorsanız nasıl görünmeniz gerektiğine dair klişeleri güçlendirme riski taşıyor” dedi. “Bu herkesi etkiliyor.”
Araştırma NSF’ler tarafından finanse edildi Bilgisayar ve Bilişim Bilimi ve Mühendisliği Müdürlüğü.