Demokrasi · 5-5

Uyarlanabilir Yönetim

Bölümü dinle

"Yapay Zekâ Yılı" olarak anılmaya başlanan dönemi başlatmak için Microsoft CEO'su Satya Nadella, İsviçre'nin Davos kentindeki Dünya Ekonomik Forumu'nda, kırsal Hindistan'da yerel bir dil konuşan bir çiftçinin, büyük dil modeli (BDM) arka ucuna eşlenmiş basit bir telefonla kamu hizmetlerine nasıl erişebileceğini gösterdi. Model sesi anladı, yerel dilden ilgili formların bulunduğu ulusal dile çevirdi, nelerin doldurulması gerektiğinde yol gösterdi ve çiftçiye sesli yanıt verdi.

Bu gösteri; yerel diller üzerine veri toplamak için Hintlileri istihdam eden, bu verilerden yararlanarak BDM'leri bu diller arasında çeviri yapmakta güçlendiren ve yalnızca basit telefonlara erişimi olan okuma yazma bilmeyen Hintlileri "sese dayalı bir internete" bağlayan AI4Bharat, Karya ve IVR Junction dâhil yıllar süren çalışmalar ve çok paydaşlı işbirlikleri üzerine kuruluydu. Bunlar birlikte, daha az öne çıkan dilleri konuşan ve şehirlerden uzak yaşayanların yaşam biçimlerini sürdürmek için ihtiyaç duydukları kamu hizmetlerine hâlâ erişebilmesini güvence altına alarak Hindistan'ın kültürel çeşitliliğini koruma ve güçlendirme vaadini taşıyor.

Bir Hintli ciftci cep telefonunda bir digerine bir seyi gosteriyor **
Şekil 5-5-A. Bu çalışmanın sonuçları şimdiden görülebiliyor. Kaynak: Microsoft'un izniyle.
**


Bu gösterilerin üzerine inşa eden Hintli iş, sivil ve devlet kuruluşları, bu yetilerden ölçekte yararlanmak üzere hizmetler başlattı. Bunlar arasında çiftçi finansal destek programlarına başvuruları desteklemek için devlet tarafından sağlanan bir sohbet botu ve çeşitli kamu hizmetleri hakkında rehberlik sunan ücretsiz, WhatsApp tabanlı çok dilli bir sohbet botu yer alıyor.

Yönetim ve bürokrasi, dünyanın büyük bölümünü örgütleyen merkezî özelliklerdir. Doğal dilin uzlaşımlarından çok daha resmî ve katı olan yapılandırılmış iletişim biçimlerini ve bu bilginin kural bağımlı işlenmesini içerirler. Çoğu kez meşruiyet, hakkaniyet ve usul adaleti sağlamayı amaçlayan, daha az zengin bir duyusal deneyimdir. Yine de oylamanın ya da piyasaların daha katı biçimde matematiksel ve mekanik etkileşimlerinin aksine genellikle bir tür genişletilmiş iletişime olanak tanırlar. Bu yüzden etkili biçimde ilerlemek ve uzlaşımların kullanılıp ihlal edilmemesini sağlamak için katılımcılar arasında daha derin bir ortak anlayış gerektirirler. Yönetim, bireylerin ya da küçük işletmelerin hükûmetlerle veya büyük şirketlerle kurduğu etkileşimlerin çoğunun merkezindedir. Sıkı toplumsal bağları olmayan bir siyasal topluluk içindeki insanlar arasında orta vadeli ilişkilerin kurulmasında da merkezîdir. Hukuk, mülkiyet sistemleri, kimliklendirme, işe alım ve kabul olarak düşündüğümüz şeylerin çoğunu ve "idari devletin" ve "kurumsal bürokrasinin" işlevlerinin çoğunu yönetir.

Bürokrasiye ve yönetime yönelik klasik şikâyetler, aynı anda hem keyfî olmaları — yönetimde çeşitli hüküm verici konumları tutanlara aşırı takdir yetkisi vermeleri — hem de katı olmaları; ne tekil bir vakanın inceliklerine ne de bürokrasinin beklentilerinin kapsamı dışındaki kültürel ortamlara uyum sağlayabilmeleridir. Bu bölümde, dijital teknolojideki ilerlemelerin, özellikle üretici temel modellerin, bu ödünleşimlerin bazılarını hafifletmeye ve daha çeşitli insan gruplarının yaşam biçimlerine saygı gösterilerek idari sistemlerde işbirliği yapmasına nasıl olanak tanıyabileceğini örneklemeyi amaçlıyoruz.

Bugün yönetim

Yaşamın en sonuç doğuran kavşaklarının birçoğu, yaşamlarımızın çoğunu sürdürme biçimimizden çok daha ince bilgi yapılarına (çeşitli türden "formlara") dayanan idari sonuçlara bağlıdır. Örnekler şunları içerir:

  • Kimlik ve seyahat belgeleri
  • Eğitim transkriptleri, özgeçmişler ve "bir yaşamın seyrine" ilişkin diğer özetler (curriculum vitae/CV)
  • Tapu senetleri ve sözleşmeler dâhil hukuki belgeler
  • Vergi beyannameleri
  • Yapılandırılmış performans değerlendirmeleri
  • Tıbbi kabul ve değerlendirme formları
  • Hukuki dilekçeler (bunlar genellikle yukarıdakilerden daha fazla ayrıntı ve bağlam içerse de)

Bu yapılandırılmış bilgi biçimleri, piyasaların ve oyların yaptığı gibi evrensel olarak şeffaf kurallara dayanamayacak kadar karmaşık olan potansiyel tahsislerin ya da tercihlerin "adil", "hakkaniyetli" ve "yansız" değerlendirilmesine olanak tanır. Adaleti sağlamak için bu sistemler çoğu kez bir dizi bilgiyi kasten bir kenara atar; bu, Avrupa geleneğinde adaletin çeşitli kişileştirilmiş temsillerindeki körlükle çarpıcı biçimde örneklenir. En azından öncü sosyolog Max Weber'den bu yana bilginlerin belirttiği gibi, oylardan ya da piyasalardan daha zengin bilgiden yararlanma ile adaleti koruma ikiz hedeflerine ulaşmak için idari sistemler, bu yapılandırılmış verileri kurallara ve yordamlara göre değerlendirmek üzere büyük "bürokrasiler" ve çokça dijital işleme kullanır.[1]

Böylece yönetimler, kabaca olanak tanıdıkları işbirliğinin zenginliğinin sınırlarına ve toplumsal çeşitliliği kapsama yetilerinin sınırlarına karşılık gelen iki karşıt şikâyetle karşılaşır.[2]

Birincisine "katılık" sorunu denebilir; yani bürokratik kurallar, çok sayıda ayrıntıyı atarak belirli vakaların ya da yerel koşulların önemli özelliklerine duyarsız sonuçlara yol açar. Örnekler sıradandan baskıcıya ve düpedüz gülünç olana kadar uzanır. Şunları düşünün:

  • Çoğu yargı bölgesinde güvenliği sağlamak için araç sürüş hız sınırları vardır. Ne var ki güvenli sürüş hızı yol, çevre ve diğer ilgili koşullara göre çarpıcı biçimde değişir. Bu, hız sınırlarının çoğu zaman koşullara göre ya çok yüksek ya çok düşük olduğu anlamına gelir. Benzer mantık, malların fiyatlarından çalışanlara tanınan mola süresine kadar hemen tüm idari politika ayarları için geçerlidir.
  • Yüksek maaşlı işlerin çoğunu elde etmek için dünyanın dört bir yanındaki çeşitli kültürlerden insanlar, başarılarını ve yaşamlarını, başarılarını doğru biçimde yansıtmak yerine idari bürokrasilere ve işe alım yöneticilerine okunabilir kılmak üzere tasarlanmış özgeçmiş ve transkript biçimlerine sığdırmak zorundadır.
  • 1990'ların sonlarında bir Hollanda havayolu, Schiphol havalimanından transit geçiş için uygun evrakı bulunmayan yüzlerce canlı sincabı fiziksel olarak öğütmekle son buldu. Özellikle iğrenç bir örnek olsa da, uçağa binmiş neredeyse herkes hava yolculuğunu yöneten bürokratik sistemlerin katılığının farkındadır ve bu sonuca aşırı şaşırmayacaktır.

Yine de katı, "soğuk" ve "kalpsiz" olmalarıyla eşzamanlı olarak, bürokrasiler hakkında aynı ölçüde yaygın ve karşıt bir şikâyet de "karmaşıklıkları"dır: çoğu kez anlaşılmaz, içinde yol almak zor (örneğin Franz Kafka'nın klasik yapıtı Şato'ya bakın), kırtasiyecilikle dolu olmaları ve görünüşte keyfî bürokratlara aşırı takdir yetkisi vermeleri.[3] Bu sorunlar bürokrasilerin en çileden çıkarıcı özellikleri arasındadır ve liberteryenlerin sürekli şikâyet kaynağıdır. Aslında bunlar, aşırı takdir yetkisinden kaçmayı amaçlayan "dağıtık özerk örgütler" (DAO) ve "akıllı sözleşmeler" hakkındaki fikirlerin çoğuna büyük ölçüde esin vermiş; hukuk sektörünün yüksek maliyetlerine de yol açmıştır. Yine de böylesi bir karmaşıklığın kilit nedeni açıkça, yönetmek zorunda oldukları vakaların çeşitliliğini ve inceliğini ele alma gereğidir. Dolayısıyla bürokrasilerin geniş bir toplumsal çeşitlilik yelpazesini kapsamaya çalışırken meşruiyetlerini yitirmesinin başlıca nedeni, bu yelpazeyi barındırmak için düzgün işleyemeyecek kadar karmaşık hâle gelmek zorunda olmalarıdır. Ancak giderek, bu ödünleşimde daha zarif biçimde yol alınmasına ve böylece daha zengin işbirliğinin daha geniş bir çeşitlilik yelpazesini meşru biçimde kapsamasına olanak tanıyan dijital teknolojiler beliriyor.

Yarın uyarlanabilir yönetim

Zarif karmaşıklık yönetiminde şimdiye dek en önemli teknoloji dizisi, genellikle "yapay zekâ" (YZ) diye anılanlar olmuştur. Ancak defalarca belirttiğimiz gibi YZ terimi belirli bir araç kümesinden çok bir özleme gönderme yapar; bu durumda söz konusu araçların ayrıntıları, eski idari bürokrasileri üretici temel modellerin (ÜTM) açtığı potansiyelden ayıran şey açısından hayati önemdedir. 1970'lerde ve 1980'lerde alana egemen olan ve bazen "iyi eski moda YZ" (GOFAI) denen YZ çalışması, birçok bakımdan geleneksel bürokratik işlemeyi otomatikleştirme girişimiydi. Programcılar "uzmanlarla" konuşarak idari süreçleri karmaşık iç içe kural kümelerinde (çoğu kez "karar ağaçları" denir) kodlamaya çalışırdı: Hastanın ateşi var mı? Varsa gözleri kızarık mı; değilse lenf düğümleri iltihaplı mı?... Bu YZ üslubu büyük engellerle karşılaştı ve 1990'larda gözden düştü. O zamandan beri büyük ölçüde "makine öğrenmesi", özellikle sinir ağları ve bunların en iddialı ve en yeni türevi olan ÜTM'lerle değiştirildi.

GOFAI'nin tam tersine makine öğrenmesi; sınıflandırma, öngörü ve kararlara istatistiksel ve beliren bir yaklaşımdır. Sistem, yukarıdan aşağıya sabit kodlanmış bir kurallar kümesi uygulamak yerine örneklerden, olasılıksal biçimde ve çoğu kez basit bir açıklaması olmayan yollarla sınıflandırmayı öğrenir. Sinir ağlarında ve özellikle ÜTM'lerde çoğu kez birbirinden girdi alan milyarlarca, hatta trilyonlarca "düğüm" bulunur. Bu düğümler daha sonra tetiklenip diğer düğümlere girdi verir ve hepsi bir sonraki sözcük ya da görüntü gibi bir sonucu öngörmek üzere birleşir. Böylesi süreçlere dayanan ÜTM'ler, insanların çoğu kez yapabildiği türden esnek sınıflandırma, tepki ve akıl yürütmeyi hızla ölçeklenebilir ve büyük ölçüde yeniden üretilebilir biçimde gerçekçi olarak yeniden üretmede dikkat çekici ve hızla iyileşen bir yeti göstermiştir.

Böylesi başarılar, ÜTM'lerin yönetimin kalbindeki temel ödünleşimi hafifletmesine dair baştan çıkarıcı bir olasılık yarattı. ÜTM'lerden idari süreçlerde bileşen olarak yararlanmak, bu süreçlerin çok daha çeşitli ve yapılandırılmamış bir girdi yelpazesini almasına, düşünceli ve bilgili bir uzmanın yapabileceği biçimde bunlara uyum sağlamasına ve bunu, kullanıcılara özel formlar doldurma konusunda gereksiz yük bindirmeden bir ölçüde yeniden üretilebilirlik sunacak şekilde yapmasına olanak tanıyabilir.

Bu olasılığın araştırılması özellikle son iki yılda, ÜTM'lere ilgi patlamasıyla belirdi:

  • Giriş vinyetimizde öne çıkardığımız gibi bu araçlar, ötekileştirilmiş toplulukların aksi hâlde keşfetmekte ve içinde yol almakta zorlanacakları kamu hizmetlerine erişmesine olanak tanımada önemli vaat göstermiştir. Sosyal hizmet uzmanlarının başlıca rollerinden biri uzun süredir böylesi bir yol almayı desteklemek olmuştur, ama kamu harcamaları özellikle gelişmekte olan ülkelerde evrensel erişime yaklaşmayı güvence altına almak için genellikle çok küçük kalmıştır. Bu pratiklerde öncüler Finlandiya hükûmetinin Kela-Kelpo projesi, Almanya'nın Federal Emeklilik Sigortası sistemi ve ABD'deki Benefits Data Trust olmuştur.
  • Benzer ama daha da iddialı bir uygulama, nitelikli geleneksel hukuki desteği karşılayamayanlar için hukuki danışmanlığa ve hizmetlere erişimi iyileştirmek üzere ÜTM'lerden yararlanmaktır. Örnekler arasında Legal Robot ve DoNotPay yer alır; her ikisi de kısıtlı olanaklara sahip müşterilerin, yalnızca dava sonuçlarını değil yarattıkları emsalleri de önemsedikleri için nitelikli hukuk hizmetlerini karşılayabilen kurumsal varlıklarla aralarındaki hukuki erişim dengesizliğini azaltmasına yardım etmeyi amaçlar.[4]
  • İş piyasaları çoğu kez "zengin daha da zenginleşir" örüntüsüne düşer; üst düzey işverenler genellikle yalnızca seçkin üniversitelerden işe alır ya da ünlü emsal firmalardaki iş deneyimini potansiyelin başlıca göstergesi olarak kullanır; bu da daha az geleneksel patikaları olan birçok kişi için fırsat yollarını kapatır ve belki daha da önemlisi, böylesi fırsatlarla ilgilenen herkesi dar bir eğitim ve kariyer patikasına zorlar. HiredScore, Paradox.ai, Turing ve Untapped gibi birkaç yeni insan kaynakları platformu, işe alım yöneticilerinin değerlendirebileceği aday genişliğini ve çeşitliliğini artırmayı amaçlıyor. Başlıca sınama, geçmişte böylesi çeşitli adayların işe alınmasına dair sınırlı örneklerin bu algoritmaların güvenilirliğini ve esnekliğini zayıflatabilmesidir.
  • Yeryüzünün çevresel ve kültürel açıdan en zengin bölgelerinin birçoğu ya kötü haritalanmıştır ya da çevreye daha dikkatli olan ve uzun süredir var olan ilişkileri bulunan yerli halkların değil, sömürgeci dışarıdakilerin bakış açısını dayatan biçimlerde haritalanmıştır.[5] Çeşitli gruplar, böylesi geleneksel hak örüntülerini betimlemek ve sömürgeci hukuk sistemlerine karşı ileri sürmek için dijital haritalama araçlarından ve giderek ÜTM'lerden yararlandı. Bunlar arasında Digital Democracy, Rainforest Foundation US, Avustralya Hükûmeti'nin Yerli Kara ve Deniz Kurumu'u ve Meksika'nın SERVIR Amazonia'sı yer alıyor.[6]

Özellikle son örneğin imlediği gibi, geleneksel olarak "YZ" ile ilişkilendirilmeyen bir dizi dijital teknoloji de burada geçerlidir; haritalama (küresel konumlandırma ve coğrafi bilgi sistemleri) dâhil. Bu, afetlere ve çatışmalara müdahalede yardımcı olan Ushahidi'nin işbirliğine dayalı haritalama çalışmasında çarpıcı biçimde örneklenir.[7] Ayrıca, ID2020 gibi kuruluşlarca mülteci kimlikleri için ya da Honduras'ta tapu sicilleri için alt katman olarak kullanıldığı bir dizi vakada örneklenen şeffaf veri tabanları (dağıtık defterler dâhil) da dâhildir. Dahası, ÜTM'lerin gücü "YZ" olmalarından çok, daha büyük bir girdi çeşitliliğine ve belirsizliğine uyum sağlamalarını mümkün kılan ağ örgüsel ve olasılıksal yapılarından kaynaklanır. Böylesi yapılar, daha uyarlanabilir bürokrasi biçimleri, paket anahtarlamaya dayalı güven ilişkileri vb. dâhil insan ilişkileri ağlarında da var olabilir.

Uyarlanabilir yönetimin sınırları

İster insan zihinleri ağlarına, ister bilgisayarda benzetimlenmiş nöronlara, ister en olası ve etkili biçimde ikisinin iç içe geçmiş bir örgüsüne dayansın, böylesi sistemlerin potansiyeli, büyük ölçüde mevcut katı idari yapılara uymayı ve dolayısıyla birçok durumda onların sınırlılıklarını pekiştirmeyi amaçlayan bu ilk denemelerin çok ötesine uzanabilir. Bu yüzden zihnimizi bu kısıtlardan bir ölçüde özgürleştirip daha dönüştürücü bir değişime doğru inşa etmeyi hayal etmek yararlı olacaktır.

En umut vaat eden yönlerden biri Danielle Allen, David Kidd ve Ariana Zetlin tarafından önerildi.[8] Geleneksel ders çalışmalarının ve notların, çok daha çeşitli bir "rozetler" yelpazesiyle kademeli olarak değiştirilmesini öneriyorlar. Belirli ölçülebilir becerilerin somut tanınmasıyla başlanıyor; bunlar daha sonra sahiplerinin "orta rozetler" için nitelik kazanmasına yardım ediyor. Mikro ve orta rozetlerin uygun bir bileşimine sahip olmaya dayanarak insanlar sonunda potansiyel işverenlerin ya da eğitim kurumlarının kullanabileceği tanınır "makro rozetlere" tırmanıyor. Bu süreç, daha alt düzey girdilerin bileşimlerinin giderek daha üst düzey ve dolayısıyla daha anlamlı çıktıları tetiklediği bir sinir ağı içinde olan bitenle doğrudan koşutluk taşır. Allen ve ortak yazarları, böyle bir sistemin; becerilerin ayrıntılı doğasını ve standart sınıf pratiklerinin buna kötü uyum sağladığını vurgulayan yıllarca süren eğitim psikolojisi araştırmalarıyla ve birçok öğrencinin, özellikle tarihsel olarak ötekileştirilmiş ve/veya akademik olarak isteksiz olanların, çoğu kez bu tür katı yapılarca fırsattan dışlandığı olgusuyla çok daha tutarlı olacağını savunuyor.

ÜTM'ler ve diğer sinir ağları yalnızca böyle bir sistemin yapısında yansıtılmakla kalmaz, işverenlerin bu sistemin yaratacağı daha karmaşık özgeçmişlerle baş etmesine olanak tanıyarak doğrudan da yararlı olabilir. ÜTM'ler ayrıca öğrencilerin bu sistemin sağlayacağı daha çeşitli öğrenme patikalarında yol almasına yardım edebilir ve ilgili rozetlerin bazılarını doğrudan somutlaştırıp üretebilir. Dahası, aleniyet teknolojileri (sosyal ağlar, doğrulanabilir kimlik bilgileri ve dağıtık defterler dâhil) böylesi rozetler etrafında güven, inandırıcılık ve şeffaflık sağlamakta hayati olacaktır. İlgili biçimde, ama belki daha geniş olarak; kimliklendirme ve kimlik bilgisi gerektiren alanlara (kulüpler, okullar, göç yoluyla uluslar vb.) kabul pratiklerinin çoğu, böylesi bir sinyaller yelpazesi gelecekte daha uyarlanabilir idari altyapıca anlamlı biçimde işlenebilirse, Kimlik ve Kişilik bölümümüzde tartıştığımız üzere çeşitli toplumsal ilişkilerden gelen daha dağıtık bir sinyaller ağına dayanabilir.

Daha da iddialı olarak, bir gün çok daha çeşitli hukuk sistemlerini idari pratiklere bütünleştirmek mümkün olabilir. Modernliğin ve sömürgeciliğin dünya genelinde gelişi, coğrafyaya ve kültüre göre çarpıcı biçimde değişen bir dizi geleneksel pratiği büyük ölçüde geçersiz kıldı. Bu pratiklerin birçoğu gayriresmî olarak sürüyor ama çoğu kez uzaktaki ulusal hükûmetlerce dayatılan resmî hukuki yapılarla çelişiyor. Bunlar arasında toplumsal cinsiyet ve cinsel ilişkilerle ilgili pratikler, hediye vermeyle ilişkili yükümlülükler, ailevi çatışma ve yükümlülüklerin çözümü, arazi kullanımı ve daha fazlası yer alıyor. Bazı durumlarda bu geleneklerin kaldırılmasının uygun olduğuna dair büyüyen bir uzlaşma varken (örneğin kadın sünnetinin yasaklanması), birçok durumda yasalar geleneksel pratiklerin "üzerine", inançtan çok kolaylık nedeniyle yazmıştır. Örneğin geleneksel pratikler, uzaktan gelen birinin bir toplulukta nasıl arazi edineceğini ya da uygun biçimde evlilik yoluyla akrabalık kuracağını anlamasını zorlaştırır. Kültürel pratiklerin kimi zaman zorla, kimi zaman ikna yoluyla türdeşleştirilmesi, karışıma ve dinamizme birtakım yararlar getirmiş, ama kültürlerin çoğu kez kadim ve çeşitli bilgeliği açısından büyük bir bedele mal olmuştur.

Tıpkı ÜTM'lerin giderek artan sayıda dil arasında düşük maliyetli çeviri sağlayabilmesi gibi, kültürel normlar arasında da aynı ölçüde hızlı çevirinin uygulanabilir hâle gelebileceğini hayal etmek mümkün. Bu hizmetler geçmişte kültürel antropologlar ve etnograflar tarafından kusurlu biçimde ve büyük maliyetle sağlanıyordu. Tıpkı çok daha ucuz ve kolay çevirinin, sağlayacağı dış birlikte çalışabilirlik nedeniyle çok daha geniş bir dil yelpazesinin yeni kuşaklar için yaşayabilir ve çekici kalmasına olanak tanıyabilmesi gibi, normların çok daha ucuz ve kolay çevrilmesi de çok daha geniş bir hukuki ve mülkiyet pratikleri yelpazesini sürdürülebilir kılabilir. Bu, yalnızca sömürgeleştirilmişlere değil, gelişmiş dünyadaki çoğu kez kırsal alanlardaki bir dizi "geleneksel" topluluğa da dayatılan modernliğe uyma yükünü azaltacaktır. Ayrıca, ÜTM'lerin gelecek kuşakları bu kültürel farklarca esnetilerek giderek daha esnek biçimde çalışmayı öğrendikçe, toplumsal büyümenin ve ilerlemenin yakıtı olarak kalan çeşitliliği büyük ölçüde zenginleştirecektir.

Mevcut çeşitliliğin korunmasının ötesinde, böyle bir gelecek onun daha da çeşitlenmesini ve türleşmesini destekleyebilir. Bu kitapta taslağını çizdiğimiz pratiklerin birçoğu, iddialı fütüristlerin bile hayal gücünü zorluyor. Bu, bu tür fikirlerle deney yapmaya ilgi duyanları "ağ devletleri", "imtiyazlı şehirler", "deniz yerleşimleri" ve mevcut hukuki yargı bölgelerinden diğer kaçış biçimlerini önermeye yöneltti; bunlar açıkça daha geniş kamusal malları ve toplumsal düzeni korumakla bir dizi gerilime giriyor. Ne var ki bu deneyler makine çevirisiyle kolayca anlaşılabilir ve mevcut hukuki yapılara bütünleştirilebilirse, böylesine keskin bir ayrım onları desteklemek için gerekli olmayabilir. Bu, geniş toplumsal farklılıklar boyunca işbirliğini korurken yeni ve geleneksel pratiklerin bileşimleriyle çeşitli bir deney yelpazesini güçlendirebilir ve sonsuz bileşimler içinde sürekli genişleyen, sonsuz çeşitliliğin serpilmesini sağlayabilir.

Uyarlanabilir yönetimin sınırlılıkları

Bugün tuzakları ve tehlikeleri ÜTM'lerden daha çok tartışılan bir teknoloji belki de yoktur ve bunun iyi nedenleri vardır. Opaklıkları, yaratılma koşullarını gizlemeye yarayan özerklik mistiği (bu yüzden çoğunlukla kaçındığımız yaygın "YZ" terminolojisinde örtük olarak), hem kaynak verilerinin hem yaratıcılarının önyargılarını miras alma potansiyelleri ve kötüye kullanım potansiyelleri önemli tehlikeler doğurur.

İdari uygulamalar bağlamında bu kusurların tezahürlerini görmek kolaydır. ÜTM'lerle etkileşim daha az külfetli olabilse de, bürokrasinin opaklığını tartışmasız daha da derinleştirirler ve böylesi sistemlerin önyargılarını ya da geçmişteki hangi insan davranışı kümelerinin bugünkü çıktılarını biçimlendirdiğini haritalamak çoğu kez son derece zor olduğundan takdir yetkisi ve insan önyargısı sorunlarını pek hafifletmeyebilirler.[9] Bu modeller ezici biçimde mevcut veri üzerinde eğitildiğinden, YZ araştırmacılarının değer verdiği ama tanımlamakta zorlandığı veri çeşitliliğini ölçmek, modellerin genel olarak performanslı olmasını ve hayal ettiğimiz biçimde çeşitlilikle baş edebilmesini güvence altına almak açısından hayatidir. Bu çeşitliliğin araştırıldığı ve modellere katıldığı iktidar koşulları, bunların çeşitlilik için fırsat sunmasını mı yoksa uyumu dayatmasını mı belirleyecektir. Eski etnografların birçoğu kapsayıcı çevirinin sesleri olmak yerine sömürgeci boyunduruğun araçlarına dönüştü.[10] Dahası, güçlü çıkarlarca kötüye kullanılırsa, hukuk rejimleri arasındaki birlikte çalışabilirlik kolayca düzenleyici arbitraja kayabilir; hukuki niyet ile resmî kurallar arasındaki boşluktan yararlanabilir.

Neyse ki bu kısmın diğer bölümlerinde öne çıkardığımız teknolojilerin bazıları, bu zararların en azından bir bölümünü kısmen ele alma potansiyeline sahip. ÜTM'lerin mantığı matematiğin basitleştirici temsillerine indirgemeye çalıştığımızda umutsuzca opak olsa da, sürükleyici paylaşılan gerçeklik ya da post-sembolik iletişim gibi daha zengin biçimler, daha zengin takdir yetkisi kullanımını mümkün kılan insan topluluklarında güvenin kurulmasına yardımcı olacak daha derin bağ ve anlayış kiplerine erişim verebilir. Önceki bölümde öne çıkardığımız ve bir sonrakinde daha da inceleyeceğimiz kolektif müzakere ve karar alma yöntemlerinin birçoğu; ÜTM'lerin yönetişimini, yarattıkları ekonomik değerin dağılımını ve kamusal iradelerle uyumlu davranmaları için kolektif olarak yönlendirilme biçimlerini doğrudan biçimlendirebilecek meşru güç dağılımlarını tanımlamada doğal uygulamalara sahiptir. Böylesi pratiklerin sağlayabileceği meşruiyete dayanan ve daha zengin etkileşim kipleri aracılığıyla araştırılan bu ve diğer dijital sistemler, modernliğin bedeli olagelmiş sistemler dünyasının aynı anda soğuk ve keyfî doğasını aşma konusunda önemli vaat taşıyor.

  1. Max Weber, Economy and Society (Somerville, NJ: Bedminster Press, 1968). ↩︎

  2. Yakında çıkacak bir kitap bu patolojiler üzerine mükemmel bir inceleme sunuyor ve aşağıdaki sincap örneğini de veriyor. Davies, a.g.e. ↩︎

  3. Franz Kafka, The Castle (Münih: Kurt Wolff Verlag, 1926). ↩︎

  4. Marc Galanter, "Why the 'Haves' Come Out Ahead: Speculations on the Limits of Legal Change", Law and Society Review 9, sayı 1 (1974): 95. ↩︎

  5. Aníbal Quijano, "Coloniality and Modernity/Rationality", Cultural Studies 21, sayı 2-3: 168-178. ↩︎

  6. Jake Ramthun, Biplov Bhandari ve Tim Mayer, "How SERVIR Uses AI to Turn Earth Science into Climate Action", SERVIR blog 21 Kasım 2023, https://servirglobal.net/news/how-servir-uses-ai-turn-earth-science-climate-action. ↩︎

  7. Ory Okolloh, "Ushahidi, or 'Testimony': Web 2.0 Tools for Crowdsourcing Crisis Information", içinde Holly Ashley, ed., Change at Hand: Web 2.0 for Development (Londra: International Institute for Environment and Development, 2009). ↩︎

  8. Danielle Allen, David Kidd ve Ariana Zetlin, "A Call to More Equitable Learning: How Next-Generation Badging Improves Education for All", Edmond and Lil Safra Center for Ethics and Democratic Knowledge Project, Ağustos 2022, https://www.nextgenbadging.org/whitepaper. ↩︎

  9. Örneğin bkz. Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: New York University Press, 2018). Cathy O'Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (New York: Broadway Books, 2016). Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Crow (Cambridge, UK: Polity Press, 2019). ↩︎

  10. Talal Asad, Anthropology & the Colonial Encounter (Ithaca, NY: Ithaca Press, 1973). ↩︎