Bilgisayar Programcılığı Bölümü öğretim görevlileri Dr. Muhammed Burak Görentaş ile İbrahim Halil Dilber, yaşamın her alanında kullanılmaya başlanan yapay zeka sistemlerinin daha yaygın kullanılmasıyla ortaya çıkabilecek ayrımcılık ve ön yargıların önlenmesine yönelik çalışma başlattı. Akademisyenler, yapay zeka sistemlerinde ayrımcılığa yol açabilecek veri setlerinin tespit edilmesi, ön yargıların giderilmesine yönelik yöntemlerin geliştirilmesi ve daha adil yapay zeka modellerinin oluşturulması üzerine yaklaşık bir yıl çalışma yürüttü.
BİLİŞİM TEKNOLOJİLERİ YARIŞMASINDA ÜÇÜNCÜ OLDU
ABD'de kefaletle serbest bırakılma başvurularında hakimlere yardımcı olmak amacıyla kullanılan COMPAS sistemine ilişkin veri setinin Afro-Amerikalılara karşı ön yargılı sonuçlar üretebildiği yönündeki bulgular üzerine çalışan iki akademisyen, bu veri setini analiz ederek ayrımcılığı azaltmaya yönelik bir yöntem geliştirdi. Belirli bir eşik değeri (threshold) yöntemini kullanarak Afro-Amerikalılarda yüzde 44, diğer grupta yüzde 23 olarak belirlenen risk oranlarını eşitleyen akademisyenler, hazırladıkları projeyle geçen yıl kasımda teknoloji şirketi Huawei tarafından düzenlenen yarışmaya katıldı. Projeleriyle önce yarı finale yükselen akademisyenler, 13 Nisan'da gerçekleştirilen finalin ardından 28 Nisan'da açıklanan sonuçlara göre dünya üçüncülüğü elde etti.
"YARIŞMAYA BİNLERCE BAŞVURU OLDU"
Görentaş, yapay zekanın artık her alanda yaygın kullanıldığını söyledi. Ulusal ve uluslararası kuruluşların yapay zekaya ilişkin etik ilkelerinde ayrımcılığın önlenmesinin önemli bir yer tuttuğunu belirten Görentaş, bu doğrultuda meslektaşı Dilber ile proje geliştirdiklerini anlattı. Üç yıl önce bu konuyla ilgili bir kongre bildirisi de yayımladığını ifade eden Görentaş, şunları kaydetti: "Yapay zeka etiği kapsamında, istatistiksel teknikler kullanılarak verilerin düzenlenebileceğini ve böylece yapay zeka sistemlerindeki ayrımcılık ile ön yargının ortadan kaldırılabileceğini ortaya koymuştum. Huawei'nin bilişim teknolojileri yarışmasının duyurusunu görünce başvuru yaptık. Mühendislik fakültesi öğrencilerimize, bir yapay zeka sistemi geliştirilirken ön yargı ve ayrımcılığa nasıl dikkat edebileceklerini, bunun istatistiksel tekniklerinin neler olduğunu ve bunu kod yazarak nasıl uygulayabileceklerini anlattık. Yarışmaya binlerce başvuru oldu. Süreç 2025'in kasım ayında başladı ve oldukça uzun sürdü. Önce ön başvurular alındı, ardından yarı final aşaması gerçekleşti. Birkaç ay sonra finale kaldık ve en sonunda dünya üçüncüsü olduk."
"PROJEMİZİ GELİŞTİRMEYE DEVAM EDECEĞİZ"
Projenin temel amacının, yapay zeka sistemleri kurulmadan önce verilerdeki ön yargıları tespit etmek olduğunu vurgulayan Görentaş, veriler ön yargıdan arındırıldığında geliştirilen yapay zeka sistemlerinin daha adil olacağının altını çizdi. Yaptıkları çalışmanın Anadolu medeniyeti geleneğiyle örtüştüğünü ifade eden Görentaş, "Tarih boyunca insanlık yararına işler yapmaya çalıştığımız gibi burada da aynı anlayışla hareket ediyoruz. Yarışmaya katılan projeler arasında yapay zeka etiği odaklı tek çalışma bizimkiydi. Öğrencilerimize şunu öğretmeye çalıştık, bir yapay zeka sistemi geliştireceğiniz zaman öncelikle ayrımcılık olup olmadığını istatistiksel tekniklerle tespit edin. Eğer ayrımcılık varsa bunu ortadan kaldırın, daha sonra sisteminizi geliştirin." dedi.
Hukuk camiasında ve yapay zekada ayrımcılık üzerine çalışan çevrelerde bilinen COMPAS risk değerlendirme sistemine ilişkin veri setlerinin bulunduğunu anlatan Görentaş, bu veri setinin ABD'de kullanıldığını söyledi. Bu sistemin hakimlere yardımcı olmak amacıyla kullanıldığını dile getiren Görentaş, şöyle devam etti: "Bir avukat bu yapay zeka sisteminin siyahilere, yani Afro-Amerikanlara karşı ön yargılı davrandığını fark ediyor. Konunun üzerine gidildi ve veri seti ortaya çıkarıldı. İncelemeler sonucunda sistemin gerçekten de Afro-Amerikanlara karşı ön yargılı davrandığı tespit edildi. Biz de öğrencilerimize bu veri seti üzerinden eğitim verdik. Python programlama dili ile çeşitli analizler yaparak veri setini inceledik ve gerçekten de Afro-Amerikanlara karşı ayrımcılık içeren bir sistem olduğunu gördük. Daha sonra bunu düzeltmek için threshold adı verilen bir yöntem kullandık."
Verilerde Afro-Amerikanların suçsuz olmalarına rağmen beyaz tenlilere göre iki kat daha fazla suçlu olarak değerlendirildiğini gördüklerini belirten Görentaş, "Örneğin bir grupta bu oran yüzde 44 iken diğer grupta yüzde 23 seviyesindedir. Yani yaklaşık iki katlık bir fark söz konusu. Biz belirli bir eşik değeri kullanarak veri setindeki bu farklılığı düzelttik. Böylece her iki grup için de aynı risk oranlarını elde ettik. Bunun dışında uygulanabilecek birçok yöntem bulunuyor. Örneğin veri setindeki ırk sütunu tamamen kaldırılabilir ve sistem bu bilgiyi hiç görmeyebilir. Bu da uygulanabilecek yöntemlerden biridir." diye konuştu.
"BU BAŞARI BİZİM İÇİN ÇOK ÖNEMLİDİR"
Öğretim görevlisi İbrahim Halil Dilber ise yarışmada derece elde etmenin gururunu yaşadıklarını söyledi. Dilber, "Çok mutluyuz. Hem ülkemiz hem de üniversitemiz adına büyük gurur yaşıyoruz. Binlerce kişinin katıldığı yarışmada dünya üçüncüsü olduk. Bu başarı bizim için çok önemlidir. Bundan sonraki süreçte de benzer projeler geliştirmeye devam edeceğiz." dedi.