Ürdün’de hangi hanelerin mali yardım aldığını belirlemek için tasarlanmış, Dünya Bankası tarafından finanse edilen bir algoritma, muhtemelen uygun olması gereken kişileri hariç tutuyor. Bu, İnsan Hakları İzleme Örgütü tarafından yayınlanan yeni bir çalışmayla kanıtlanmıştır.
Takaful adı verilen yazılım sistemi, yardım arayan aileleri en azdan en yoksula doğru sıralıyor. Bunu yapmak için algoritma, gizli bir sisteme göre 57 sosyo-ekonomik göstergeyi ağırlıklandırır. Ancak, temyiz edenler, hesaplamanın gerçeğe uymadığını ve insanların ekonomik durumunu çok belirsiz veya haksız bir şekilde aşırı basitleştirdiğini iddia ediyorlar. Tekafül bugüne kadar 1 milyar dolardan fazlaya mal oldu ve Dünya Bankası, Orta Doğu ve Afrika’daki diğer sekiz ülkede benzer projeleri finanse ediyor.
İnsan Hakları İzleme Örgütü, sistemde önyargılara ve yanlışlıklara yol açan birkaç temel sorun tespit etti. Örneğin, başvuranlara su ve elektrik kullanımları sorulur. Raporun yazarları, bunların mutlaka güvenilir yoksulluk göstergeleri olmadığı sonucuna varıyor. Görüşülen ailelerden bazıları, araba eski olsa ve işe gitmek zorunda olsa bile, araba sahibi olmanın sınıflandırmalarını etkilediğini hissetti.
İstatistiksel tarafsızlık yok
Rapor kelimenin tam anlamıyla, “Bu istatistiksel nesnellik cephesinin arkasında daha karmaşık bir gerçeklik yatıyor: insanların karşı karşıya olduğu ekonomik baskılar ve geçimlerini sağlamak için mücadele etme biçimleri genellikle algoritma tarafından görülemez.” Ayda 250 dinar (353 dolar) kazanan ve bunu yapmak için mücadele eden Abdelhamad: “Sorulan sorular içinde yaşadığımız gerçeği yansıtmıyor.”
Aktivistler, Takaful’un cinsiyetçi yasal normlara dayanarak mevcut cinsiyet ayrımcılığını da muhtemelen güçlendirdiğini eleştiriyor. Nakit yardımı yalnızca Ürdün vatandaşlarına sağlanacak ve algoritmanın hesaba kattığı göstergelerden biri de aile büyüklüğü. Vatandaş olmayan biriyle evlenen Ürdünlü erkekler eşlerine vatandaşlık verebilirken, Ürdünlü kadınlar bunu yapamaz. Bu kadınlar için bu, hane halkı boyutunun küçülmesi anlamına gelir ve destek alma olasılıklarını azaltır.
Rapor, İnsan Hakları İzleme Örgütü tarafından son iki yılda gerçekleştirilen 70 görüşmeye dayanıyor. Dünya Bankası ve Ürdün hükümeti 57 göstergeden oluşan bir liste, göstergelerin ağırlıklandırma dökümü veya algoritmanın kararlarına ilişkin eksiksiz veriler yayınlamadığından, nicel bir değerlendirme teşkil etmez. Dünya Bankası yorum talebine yanıt vermedi.
Şeffaflığı sağlayın
İnsan Hakları İzleme Örgütü’nde yapay zeka ve insan hakları araştırmacısı ve raporun yazarlarından biri olan Amos Toh’a göre bulgular, algoritmik karar vermeyi kullanan hükümet programlarında daha fazla şeffaflık ihtiyacına işaret ediyor. Görüşülen ailelerin çoğu, sınıflandırma metodolojisine ilişkin güvensizliklerini ve kafa karışıklıklarını dile getirdi. Toh, “Ürdün hükümetinin bu şeffaflığı sağlama görevi var” diyor.
Yapay zeka etiği ve adaleti alanındaki araştırmacılar, refah sistemlerinde artan yazılım kullanımına daha yakından bakma çağrısında bulunuyor. New York Üniversitesi’nden Meredith Broussard ve “More Than a Glitch” kitabının yazarı, “Hizmetlere erişimi kontrol etmek için bu özel amaç için algoritmalar geliştirmeye başladığınızda, her zaman yardıma ihtiyacı olan insanlar dışarıda bırakılır” diyor. Teknolojide Irk, Cinsiyet ve Yetenek Önyargılarını Ele Alma Broussard, “Görünüşe göre bu, fonlara erişimi en çok ihtiyacı olanlar için sınırlayan kötü tasarımın başka bir örneği,” diyor.
Dünya Bankası, bir devlet refah kurumu olan Ürdün Ulusal Yardım Fonu tarafından yönetilen programı finanse etti. Rapora yanıt olarak Dünya Bankası, bu yılın Temmuz ayında tekafül programı hakkında daha fazla bilgi yayınlayacağını söyledi ve “evrensel sosyal yardımın uygulanmasını teşvik etme taahhüdünü” yeniden teyit etti. [und] tüm insanlar için erişimi sağlamak”. Kuruluş, maliyet etkinliğini ve daha adil dağıtımı teşvik ettiği için tekafül gibi nakit transfer programlarında veri teknolojisinin kullanılmasını savunmuştur.
Hükümetler ayrıca kendilerini refah dolandırıcılığından korumak için yapay zeka destekli sistemler kullanıyor. Hollanda hükümeti tarafından sahte olması muhtemel sosyal yardım taleplerini belirlemek için kullanılan bir algoritmaya ilişkin yakın tarihli bir araştırma, ırk ve cinsiyete dayalı sistematik ayrımcılık buldu.
(vsz)
Haberin Sonu
Takaful adı verilen yazılım sistemi, yardım arayan aileleri en azdan en yoksula doğru sıralıyor. Bunu yapmak için algoritma, gizli bir sisteme göre 57 sosyo-ekonomik göstergeyi ağırlıklandırır. Ancak, temyiz edenler, hesaplamanın gerçeğe uymadığını ve insanların ekonomik durumunu çok belirsiz veya haksız bir şekilde aşırı basitleştirdiğini iddia ediyorlar. Tekafül bugüne kadar 1 milyar dolardan fazlaya mal oldu ve Dünya Bankası, Orta Doğu ve Afrika’daki diğer sekiz ülkede benzer projeleri finanse ediyor.
İnsan Hakları İzleme Örgütü, sistemde önyargılara ve yanlışlıklara yol açan birkaç temel sorun tespit etti. Örneğin, başvuranlara su ve elektrik kullanımları sorulur. Raporun yazarları, bunların mutlaka güvenilir yoksulluk göstergeleri olmadığı sonucuna varıyor. Görüşülen ailelerden bazıları, araba eski olsa ve işe gitmek zorunda olsa bile, araba sahibi olmanın sınıflandırmalarını etkilediğini hissetti.
İstatistiksel tarafsızlık yok
Rapor kelimenin tam anlamıyla, “Bu istatistiksel nesnellik cephesinin arkasında daha karmaşık bir gerçeklik yatıyor: insanların karşı karşıya olduğu ekonomik baskılar ve geçimlerini sağlamak için mücadele etme biçimleri genellikle algoritma tarafından görülemez.” Ayda 250 dinar (353 dolar) kazanan ve bunu yapmak için mücadele eden Abdelhamad: “Sorulan sorular içinde yaşadığımız gerçeği yansıtmıyor.”
Aktivistler, Takaful’un cinsiyetçi yasal normlara dayanarak mevcut cinsiyet ayrımcılığını da muhtemelen güçlendirdiğini eleştiriyor. Nakit yardımı yalnızca Ürdün vatandaşlarına sağlanacak ve algoritmanın hesaba kattığı göstergelerden biri de aile büyüklüğü. Vatandaş olmayan biriyle evlenen Ürdünlü erkekler eşlerine vatandaşlık verebilirken, Ürdünlü kadınlar bunu yapamaz. Bu kadınlar için bu, hane halkı boyutunun küçülmesi anlamına gelir ve destek alma olasılıklarını azaltır.
Rapor, İnsan Hakları İzleme Örgütü tarafından son iki yılda gerçekleştirilen 70 görüşmeye dayanıyor. Dünya Bankası ve Ürdün hükümeti 57 göstergeden oluşan bir liste, göstergelerin ağırlıklandırma dökümü veya algoritmanın kararlarına ilişkin eksiksiz veriler yayınlamadığından, nicel bir değerlendirme teşkil etmez. Dünya Bankası yorum talebine yanıt vermedi.
Şeffaflığı sağlayın
İnsan Hakları İzleme Örgütü’nde yapay zeka ve insan hakları araştırmacısı ve raporun yazarlarından biri olan Amos Toh’a göre bulgular, algoritmik karar vermeyi kullanan hükümet programlarında daha fazla şeffaflık ihtiyacına işaret ediyor. Görüşülen ailelerin çoğu, sınıflandırma metodolojisine ilişkin güvensizliklerini ve kafa karışıklıklarını dile getirdi. Toh, “Ürdün hükümetinin bu şeffaflığı sağlama görevi var” diyor.
Yapay zeka etiği ve adaleti alanındaki araştırmacılar, refah sistemlerinde artan yazılım kullanımına daha yakından bakma çağrısında bulunuyor. New York Üniversitesi’nden Meredith Broussard ve “More Than a Glitch” kitabının yazarı, “Hizmetlere erişimi kontrol etmek için bu özel amaç için algoritmalar geliştirmeye başladığınızda, her zaman yardıma ihtiyacı olan insanlar dışarıda bırakılır” diyor. Teknolojide Irk, Cinsiyet ve Yetenek Önyargılarını Ele Alma Broussard, “Görünüşe göre bu, fonlara erişimi en çok ihtiyacı olanlar için sınırlayan kötü tasarımın başka bir örneği,” diyor.
Dünya Bankası, bir devlet refah kurumu olan Ürdün Ulusal Yardım Fonu tarafından yönetilen programı finanse etti. Rapora yanıt olarak Dünya Bankası, bu yılın Temmuz ayında tekafül programı hakkında daha fazla bilgi yayınlayacağını söyledi ve “evrensel sosyal yardımın uygulanmasını teşvik etme taahhüdünü” yeniden teyit etti. [und] tüm insanlar için erişimi sağlamak”. Kuruluş, maliyet etkinliğini ve daha adil dağıtımı teşvik ettiği için tekafül gibi nakit transfer programlarında veri teknolojisinin kullanılmasını savunmuştur.
Hükümetler ayrıca kendilerini refah dolandırıcılığından korumak için yapay zeka destekli sistemler kullanıyor. Hollanda hükümeti tarafından sahte olması muhtemel sosyal yardım taleplerini belirlemek için kullanılan bir algoritmaya ilişkin yakın tarihli bir araştırma, ırk ve cinsiyete dayalı sistematik ayrımcılık buldu.
(vsz)
Haberin Sonu