Söz konusu dijital platformlar olduğu zaman algoritmalar ve yapay zekâ şu anda kurtarıcı muamelesi görüyor. Her şeyi bir algoritma ile çözebileceğimizi zannetmeye devam ettikçe de gerçekten absürt olaylar yaşamaya devam ediyoruz. Geçen hafta ise başrolde Twitter ve tweet görsellerini kırpan algoritması vardı. Algoritma ısrarlı bir şekilde fotoğraflarda beyaz insanları odağa alıyor ve farklı etnik kökendeki insanları ve çizgi film karakterlerini odak dışı bırakıyor. Twitter bu konuda özür diledi ve "sorunun üzerine çalışacaklarını" söyledi. Ancak ortada algoritma kaynaklı bir sorun yok. Bu tarz "algoritmik ayrımcılık" genellikle algoritmayı nasıl eğittiğiniz ve geliştirdiğiniz ile alakalı. Burada algoritmayı kimin geliştirdiği, nasıl bir ortam ve yaklaşımla geliştirildiği ve bu süreçte nasıl verilerin kullanıldığı gibi etkenler önemli bir rol oynuyor. Bunları iyi bir şekilde denetlemeyi başaramazsanız da sonuç çok ciddi olabiliyor. Kurgu bir örnek ile başlayalım. Diyelim ki bir görsel tanıma algoritmasını futbol formalarını tanıyıp ayırt etmesi için eğitmek istiyorsunuz. Fakat algoritmayı eğitecek ekibin hepsi Fenerbahçeli ve bu yüzden de birçok farklı forma kullansalar da bunların hepsi Fenerbahçe forması. Algoritma futbol formalarına dair öğrendiği şeylerin arasına "sarı ve lacivert renklerde olmak" gibi bir kategoriyi de otomatik olarak ekliyor. Kullanmaya başladığınızda bir de bakıyorsunuz ki algoritma yalnızca Fenerbahçe, Ankaragücü ve Bucaspor formalarını gösteriyor ve diğerlerini forma olarak tanımıyor. Twitter'ın yaşadığı türdeki algoritmik ayrımcılık vakalarının önemli bir kısmı bu şekilde gerçekleşiyor. Eğer elinizdeki veri veya algoritmayı tasarlayan ekip belirli önyargılara sahipse bu kaçınılmaz olarak algoritmada da kendisini gösteriyor. Bunu kasıtlı bir şekilde yapanlar olsa da çoğu zaman bu bilinçli bir şekilde yapılmıyor. Fakat bunlar uzun zamandır konuşulan ve hem aktivistler hem de akademisyenler tarafından gündeme taşınılan bir konu. Bu konuda yeterli önlemleri almamak ya da bunu önemsiz görmek de bilinçli bir tercih. Belki Twitter'ın görselleri nasıl kırptığı çok ciddi sorunlara neden olmayabilir ama önüne geçilmeyen algoritmik ayrımcılığın çok daha ciddi sonuçları oluyor. Bu yüzden algoritmalara çok fazla umut bağlamamak ve bu konuda daha eleştirel bir yaklaşım geliştirmek şart. Elbette algoritmalar kullanılmaya devam edilecek ama daha katedilmesi gereken uzun bir yol var. Buna rağmen YouTube gibi çok büyük sorunlarda koşa koşa yapay zekâya gidildiği sürece maalesef böyle olayları görmeye ve konuşmaya da devam edeceğiz. |
Hiç yorum yok:
Yorum Gönder