Coded Bias

Netflix'de "Coded Bias" belgeselini izlemenizi tavsiye ediyorum. Sitesinden kısa bir bölümü burada paylaşıyorum:

Coded Bias'ın en iyi vurguladığı şey, 21. yüzyılda dijital kullanıcılar olarak haklarımızı korumaya yönelik bu savaşın tek başına kazanılamayacağıdır.  Başlamak için en iyi yer? Kendi topluluklarımız - arkadaşlar, aileler, iş arkadaşları, komşular. 

Matematiksel algoritmalarla ilgili bir çok şey söylüyor. 

Örneğin, yüz tanıma algoritmalarının beyazları veya erkek beyazları daha kesin tanıdığını, diğer erkek ve kadınlara ilişkin kesinliklerin daha düşük olduğunu söylüyor. Böylece yüz tanıma algoritmalarının beyaz olmayanlarda daha büyük sayılarda yanlışlara neden olduğunu iddia ediyor.    

Kişisel / çevresel özelliklerden yola çıkarak hazırlanan algoritmalarla işe alımlardan iş akitlerinin feshine kadar "matematiksel gerçeklik" adına matematiksel algoritmaların  tahakkümünü anlatıyor. 

Metaverse'de bir kadın avatara yapılan tacizler sosyal mecrada gündem olmuştu.  İşte Metaverse de bu algoritmaların koştuğu bir evren. 

Türkçe'de de yayınlanmış olan "Matematiksel İmha Silahları" kitabı, Cathy O'Neill (Harvard - Matematik) tarafından 2016'da yazılmış, algoritmaların toplumsal etkisi hakkında ayrıntılı şekilde durulmuş.

"Matematiksel bir model ortadaki şey ne olursa olsun eldeki sürecin soyut temsilinden başka bir şey değildir. Model, bildiğimiz şeyleri alır ve bunları farklı durumlarda oluşabilecek tepkileri öngörmek için kullanır. Hepimiz kafamızda modeller taşırırız. Bize ne umacağımızı söylerler ve kararlarımıza rehberlik ederler. (...) Güncellemeler ve düzeltmeler -istatistikçilerin sevdiği bir ifade ile - "dinamik modeller" haline getirir. Ancak her zaman yanlışlıklar olabilir. Çünkü modeller, doğaları gereği, birer basitleştirmeden ibarettir. Gerçek dünyanın karmaşıklığı bütünü ile hiçbir modele konamaz. Kaçınılmaz şekilde bazı sınırlı bilgiler model dışında kalır. 

Model yaratmak için neyin dahil edileceği kadar önemli olduğu ile ilgili tercihlerde bulunuruz. (Modelimizi) Önemli olgularla eylemleri yorumlamamızı sağlayacak minyatür bir versiyona indirgeriz. 

Modelin kör noktaları onu yaratan kişilerin yargıları ve önceliklerini yansıtır. Modeller hedefler ve ideolojileri taşır. 

Her modelin en temel bileşeni başarıyı yorumlama şekilleridir. Sadece modeli kimin tasarladığı değil o kişi veya şirketin neye ulaşmaya çalıştığını sormalıyız. 

Bugünkü koşullar için oluşturulmuş bir model yarın kötüleşebilir. Sürekli güncellenmediğinde eskiyebilir."

Cathy O'Neil, kitabında matematiksel modellerin sonuçlarının farkına varmasını ve uyanışını şöyle anlatıyor: 

"... Kurların, tahvillerin ve hisse senetlerinin yarattığı derya içinde, uluslararası piyasalarda akan trilyonlarca dolarla oynamaya alışmıştım. fakat akademik modellerimdeki sayıların aksine, yatırım fonlarımdaki modellerimin rakamları bir şeylere karşılık gelmekteydi. İnsanların emeklilik fonları ve mortgage ipoteklerine.

(...) matematiksel araçlarımızla kanırttığımız beş kuruşların, on centlerin ve çeyrekliklerin doğasını kavrayamamıştım. Bunlar madenlerden çıkan külçeler veya batık İspanyol kalyonlarından çıkarılan altın sikkeler gibi havadan kazanılan paralar değillerdi. Bu servet, insanların ceplerinden çıkıyordu. Wall Street'in   en kendilerinden emin oyuncuları olan yatırım fonları için bu "enayi parası" idi."