Yapay Zeka Uzmanından Önyargı Uyarısı

Yapay zekanın tarifine baktığımızda, insan zihninin gerçekleştirebileceği süreçleri gerçekleştirebilen makine ve yazılımlar olduklarını görüyoruz. Amazon Alexa üzere günlük ömrümüzde gördüklerimizden Google’ın aramalarımızı iddia eden sistemine kadar pek çok farklı yapay zeka bulunuyor.

Bir yapay zeka uzmanı, hemen ilgilenilmesi gereken bir sıkıntıya dikkatleri çekti. Leiden Üniversitesi’nden yapay zeka alanında yardımcı profesör Peter van der Putten, yapay zekada yer alan bir kusuru göz önüne çıkardı.

Yapay zekada önyargı sorunu

Karar vermek ekseriyetle karmaşık bir sürecin sonucu olarak gerçekleşir. Elde edilen tek bir çıktı (alınan karar) olmasına karşın altta yatan farklı etmenler olabilir. Bu etmenleri değerlendirirken gözlemciler kendi tecrübelerine nazaran hareket ederler. İşe alım yapan bir kişinin adayları “Benimle birebir okuldan mı?” ya da “Kimler benim okulumdan değil?” diye ayırma yoluna gitmesi bir yanlılık göstergesidir.

Van der Putten de bu noktada yapay zekaların kendi başlarına yeterli ya da berbat olmadıklarını söyleyerek hususa dahil oluyor. Tekrar de insanların önyargılarını ve yanlılıklarını da bu sistemlerin kopyalayabileceğini tabir ediyor. 

Yapay zeka uzmanı ek olarak bilgilerden ötürü da önyargıların ve kusurların sistemlere aktarılabileceğini belirtiyor. Örneğin insan kaynakları için geliştirilen bir yapay zekanın, bayanların yaşadığı mesleksel yükselme sıkıntılarını önyargı olarak kopyaladığı ortaya çıkmıştı. Öteki çalışan datalarından yola çıkarak eğitilen yapay zeka, daha üst düzeylerde denk adaylarla karşılaştığında bayan adayları reddetmeye yönelmişti.

Yapay zeka önyargıyı öğreniyor

Kuralların ve bilgilerin kendi içinde barındırdığı önyargı, her vakit için direkt isimlendirilemese de istatistiklerle ortaya konabiliyor. Bu istatistiksel yapıyı evvelce keşfeden yapay zeka da daha sonra kendi kodunun kesimi haline getiriyor. 

Apple’ın kurucularından Steve Wozniak, algoritmaların bayanlara karşı önyargılar geliştirmiş olabileceğini lisana getiren bir öbür isim olmuştu. Firmanın kredi kartı da kredi özellikleri misal olan bayan ve erkeklere farklı limitler sunmuştu. 

Uzmanlara nazaran yapay zeka, onu kurarken kullanılan bilgi kadar önyargılı ve taraflı oluyor. Bunu engellemek mümkün değil lakin tesirini denetim edilebilir tutmak mümkün olabiliyor. Yapay zeka yeni datalarla bir şeyler öğrendikçe bizde bir şeyler öğreniyoruz üzere duruyor.