's zaman durdurmak için neden körü körüne büyük verilerde inanıyoruz
Hayat / / December 19, 2019
algoritmalar kredi, sigorta onaylar veya kimin görüşmeye davet aldığınızda, ama çoğu bu kadar haksız yapanlar şimdi karar. Ve sadece nüfus katmanları arasındaki boşluğu artırır.
Katie O'Neill (Cathy O'Neil)
finansal piyasalar uzmanı, kitabın yazarı analizine matematikçi, "matematiksel yenilginin Silahlar."
(Geçmişte ne) verileri ve başarılı bir sonuç tanımını (Eğer bu algoritmayı kullanarak bulmak istediğiniz şeyi): bir algoritma oluşturmak için, iki şey gerekir. Daha sonra kriterler başarılı bir sonuç yol belirler. Ama başarının tanımı evrensel olamaz.
Algoritma - başkasının görüşü, yerleşik koddur.
Biz algoritmalar objektif ve güvenilir olduğunu düşünmek kullanılan, ancak bizi sindirmeye ve bize algoritmalar ve matematiksel verilerde güven yapmak için tasarlanmış tek bir pazarlama hile olduğunu.
O'Neill algoritmaları ciddi zarar verebilir örnekler yer alıyor. çalışanları değerlendirirken bu gerçekleşir. Örneğin, 2011 yılında Washington Eyaletinde bir okulda 200'den fazla öğretmen sonrasında görevden alındı onların
ayıklamak algoritmasıRağmen onların aile ve akranların mükemmel öneriler vardı.Buna ek olarak, algoritmalar genellikle önyargılı kararlardan çıkarılması için nedenidir. Haber örgütü ProPublica geçenlerde yürüttüğü bir soruşturma bulunanrecidivism riskini belirleyen algoritmaları, nesnel olarak çalıştığını. Aynı suçlara At cümleler genellikle siyah Amerikalılar çıkarıldı.
Biz önyargıları bütün tabidir ve biz dikkate alınması hangi verilerin ihtiyacı karar algoritmaları hale getirilmesi.
Algoritmalar sadece mevcut düzeni otomatikleştirmek, geçmiş hataları tekrarlamaktan edilmektedir. körlemesine onlara güvenemezsin Yani, biz objektif olmak için bunları test etmek gerekir: başarılı bir sonuç tanımını yeniden düşünmeye, hata, herhangi algoritması tarafından sigortalı değildir. Ne kadar sıklıkla meydana kim etkilenir? Böyle hataların maliyeti nedir?
verilerle çalışan profesyoneller, adalet hakemler olmamalı. It zamanı körlemesine inanmak durdurmak için büyük veri.