Prof.Dr. Ergin ERGÜL
Kamu yönetiminde hız ve verimliliği artırmak amacıyla yapay zekâ sistemlerinin kullanımı giderek yaygınlaşıyor ve bu süreç, yönetişimi adım adım algoritmik yönetişime dönüştürüyor. Bu dönüşümün birçok yönden olumlu olduğu kuşkusuz. Ne var ki algoritmik yönetişim, insan odaklı bir anlayışla ve anlamlı bir insan kontrolüyle birlikte ele alınmadığı takdirde doğurduğu riskler çok yönlü ve ciddidir. Dünyadan örnekler bunu açıkça gösteriyor.
Hollanda’da bir aile, çocuk bakım yardımı için devlete başvurdu. Aradan yıllar geçtikten sonra kapılarına, dolandırıcılık şüphesiyle düzenlenmiş bir borç bildirimi dayandı. Ailenin neden şüpheli sayıldığını kimse açıklayamıyordu; çünkü kararı bir memur değil, vergi idaresinin kullandığı bir risk hesaplama programı vermişti. Program, başvuru sahibinin Hollanda vatandaşı olup olmadığını bir risk işareti olarak okuyor, yabancı uyruklulara baştan daha yüksek puan biçiyordu. Toeslagenaffaire adıyla bilinen bu skandalda 2005-2019 arasında yaklaşık yirmi altı bin ebeveyn haksız yere suçlandı; ortada gerçek bir suç yokken iki binden fazla çocuk ailesinden alınıp devlet bakımına verildi. Bedelini sonunda hükümet ödedi: Başbakan Mark Rutte 2021’in başında istifa etti.
Bu olay münferit bir aksaklık değil, idarenin yüzyıllardır bildiği kavramların ayağının altından kaydığı bir dönemin işaretiydi. Klasik idare hukukunda idari işlem, bir kamu görevlisinin somut olayı takdir yetkisi içinde değerlendirerek verdiği karardır. Algoritmik kararda ise süreç baştan farklı işler: karar, bir yazılımın geniş veri kümeleri üzerinde yaptığı istatistiksel çıkarıma dayanır. “Gerekçe” dediğimiz şey korelasyona, “takdir yetkisi” dediğimiz şey parametre ayarına dönüşür. Karen Yeung bu durumu, kararların bilgi işlemsel kurallarca yönlendirildiği ya da büsbütün yürütüldüğü bir yönetim biçimi olarak tanımlar; bu biçimin şeffaflık, gerekçelendirme ve yargısal denetim gibi hukuk devleti ilkelerini yapısal bir baskı altına aldığını gösterir. Frank Pasquale ise vatandaşların, hayatlarını belirleyen kararların gerekçesine ulaşamadığı bu düzeni “kara kutu toplumu” olarak adlandırır.
Sorunun ilk boyutu şeffaflıktır. Bir algoritmanın hangi mantıkla çalıştığı, kararını hangi ölçütlere dayandırdığı çoğu zaman onu kullanan kamu kurumu tarafından bile tam olarak bilinmez. OECD’nin Kasım 2024 tarihli raporu, dünya genelinde kamu algoritmalarına ilişkin kayıtların büyük bölümünün “anlamlı şeffaflık” sağlayamadığını saptıyor. Hollanda’da kullanıldığı bildirilen sistemlerin yalnızca yüzde beşi kamu kütüğünde yer alıyor; Birleşik Krallık’ın merkezî kayıt defteri ise kurulmasından yıllar sonra hâlâ seyrek dolduruluyor. Élise Degrave’ın Belçika’da devlet arşivlerinde rastlantı eseri keşfettiği OASIS sistemi bu körlüğün vardığı noktayı gösteriyor: sistem, vatandaşların vergi, sosyal güvenlik ve emeklilik verilerini birleştirerek “potansiyel dolandırıcı” profilleri çıkarıyor, vakaların yaklaşık yüzde onunda kişileri haksız yere işaretliyordu. Üstelik bunu neden yaptığını kimse açıklayamıyor, sistemin işleyişini düzenleyen herhangi bir kanun da bulunmuyordu.
İkinci boyut önyargıdır. Algoritma geçmişin verisiyle beslenir; o veri eşitsizlik taşıyorsa, sistem bu eşitsizliği nesnel bir ölçütmüş gibi yeniden üretir. Avusturya’da iş arayanları istihdam şanslarına göre sınıflandıran AMS algoritması bunun açık bir örneğiydi. Sistem kadınlara sistematik olarak daha düşük puan veriyor; çocuk sahibi kadınları negatif puanla cezalandırırken çocuk sahibi erkekleri aynı ölçüye vurmuyordu. Engelliler ve otuz yaş üstündekiler de baştan düşük puanla yola çıkıyordu. Kurum bunu “iş piyasasının sert gerçekliğini yansıtmak” diye savundu. Oysa mevcut eşitsizliği veri diye kodlamak, dezavantajlı grupların dezavantajını otomatikleştirmekten başka bir sonuç vermiyordu.
Üçüncü boyut hesap verebilirliktir. Vatandaş kararının gerekçesini sorduğunda çoğu zaman “sistem böyle hesapladı” yanıtının ötesine geçilemez; bu da itiraz hakkını fiilen ortadan kaldırır. Avustralya’nın Robodebt programı, bu açığın nereye varabileceğini gösterdi. 2016-2020 arasında işleyen sistem, yıllık geliri basitçe haftalara bölen kaba bir varsayımla yaklaşık beş yüz yirmi altı bin kişiye hukuka aykırı borç bildirimi gönderdi; mevsimlik ve yarı zamanlı çalışanlar için bu yöntem sistematik biçimde yanlış borçlar üretti. 2023 Kraliyet Komisyonu sistemi kamu yönetiminin maliyetli bir başarısızlığı olarak niteledi; programın hukuki dayanaktan yoksun olduğunun resmen tespit edilmesi ise ancak devreye alınmasından dört yıl sonra mümkün oldu. Bu gecikme, algoritmik sistemlerde denetimin kararlar üretilmeden önce yapılması gerektiğini açıkça gösteriyor; çünkü sonraya bırakılan denetim, ancak yüz binlerce hatalı karardan sonra devreye giriyor.
Bu tablo karşısında pek çok ülke, denetimi güçlendirmenin yollarını arıyor. Avrupa Konseyi’nin 2024 tarihli Yapay Zekâ Çerçeve Sözleşmesi, taraf devletlere bu sistemleri denetleyecek bağımsız mekanizmalar kurma yükümlülüğü getiriyor; açıklayıcı raporunda da ombudsmanlık kurumlarını bu görevin doğal adayı olarak gösteriyor. Aynı yıl yürürlüğe giren AB Yapay Zekâ Yasası ise sosyal yardım, göç ve kolluk gibi kamu hizmetine erişimi etkileyen alanlardaki sistemleri “yüksek riskli” sayıyor; bunlar için etki değerlendirmesi yapılmasını, insan gözetiminin sağlanmasını ve etkilenen kişiye gerekçeli bir açıklama sunulmasını zorunlu tutuyor. Ne var ki yine Avusturya örneği, insan gözetiminin kâğıt üzerinde var olmasının yetmediğini gösteriyor: orada danışmanların algoritmanın çıktısını geçersiz kılma yetkisi vardı; ama ağır iş yükü altında bu yetkinin fiilen kullanılıp kullanılmadığı bambaşka bir sorundu.
Bu tartışma Türkiye için uzak bir gündem değil. Vergi denetiminde 2025’te devreye alınan KURGAN, mükelleflerin mali işlemlerini anlık tarayarak riskli olanları ayıklamaya çalışıyor. Sosyal yardım alanında Bütünleşik Sosyal Yardım Bilgi Sistemi, otuz milyonu aşkın vatandaşın verisini çapraz kontrol ederek yardım uygunluğunu belirliyor. ÖSYM’nin merkezî yerleştirmesi ise her yıl milyonlarca öğrencinin geleceğini biçimlendiriyor. Bütün bu sistemlerin hata düzeltme ve itiraz mekanizmalarının ne ölçüde şeffaf olduğu, Kamu Denetçiliği Kurumu’nun önümüzdeki dönemde yüzleşeceği başlıca sorulardan biri olacak.
Meselenin insan ölçeğini Fransa’dan bir örnek özetliyor. 2023’te Affelnet adlı lise yerleştirme sisteminde bir öğrencinin akademik değerlendirme puanı, bir veri aktarım hatası yüzünden cetvelde 0,000 olarak göründü; çocuğun bütün lise tercihleri bu yüzden reddedildi. Hatayı ne sistem fark etti ne de onu denetlemekle yükümlü olanlar; gerçek, yalnızca ailenin ısrarla bilgi istemesi üzerine ortaya çıktı. Bilgiye ve imkâna erişimi olmayan bir ailenin çocuğu için ise o sıfır, cetvelde öylece kalırdı.
——————————-
Kaynak:
