Yıllık raporunda yapay zekanın toplumsal etkilerini inceleyen disiplinlerarası bir araştırma merkezi olan AI Now Institute; bazı durumlarda insanların duygularını tanımak için tasarlanmış teknolojinin yasaklanmasını istedi. Özellikle araştırmacılar; duygu tanıma teknolojisi olarak da adlandırılan etki tanıma teknolojisinin; işe alma kararları veya ağrı değerlendirmeleri gibi “insanların yaşamlarını ve fırsatlara erişimini” etkileyen kararlarda kullanılmaması gerektiği, yeterince doğru olmadığı ve önyargılı kararlar alındığı görüşünde…
Halihazırda kullanılan ve pazarlanan bu teknoloji nedir ve neden endişe uyandırıyor?
Yüz Tanımanın Büyümesi
Araştırmacılar; insanların duygularını ve niyetini belirleyebilecek bilgisayar görme algoritmaları üzerinde ve diğer çıkarımlarda en az on yıldır aktif olarak çalışıyorlar. Yüz ifadesi analizi; en az 2003’ten beri var olmuştur. Bu süreçte; bilgisayarlar duyguları daha uzun süre anlayabilmiştir. Bu en son teknoloji; “makine öğrenimi” olarak bilinen veri merkezli tekniklere dayanır. Verilerin nasıl karar vereceğini “öğrenmek”, daha doğru etki tanımayı gerçekleştirmek için işleyen algoritmalardır.
Duyguları Okuma Zorluğu
Araştırmacılar; her zaman daha önce yapılanlara dayanarak yeni şeyler geliştirmeye çalışıyorlar. Duygu tanıma caziptir, çünkü bir şekilde, insanlar olarak bunu erken yaşlardan itibaren nispeten iyi bir şekilde başarabiliriz ve yine de bilgisayar vizyonunu kullanan insan becerisinin hala zor olduğunu söyleyebiliriz. Ünlü bir sanatçı tarafından çizilmiş gibi görünmesi için bir fotoğrafı stilize etmek ve hatta foto-gerçekçi yüzler oluşturmak, resimlerle oldukça dikkat çekici şeyler yapmak mümkün olsa da; gerçek bir imgeden insan duyguları gibi çıkarımlar, araştırmacılar için her zaman ilgi odağı olmuştur.
Duygular zordur, çünkü duruma bağlıdırlar. Örneğin, birisi bir şeye yoğunlaştığında; sadece düşünüyormuş gibi görünebilir. Yüz tanıma; makine öğrenimini kullanarak uzun bir yol kat etti. Ancak bir kişinin duygusal durumunu yalnızca bir kişinin yüzüne bakmaya dayalı olarak tanımlamanın temel bilgileri eksiktir. Duygular sadece bir kişinin ifadesi ile değil; aynı zamanda nerede olduklarını ve ne yaptıklarını ifade eder. Bu bağlamsal ipuçlarını, modern makine öğrenme algoritmalarına bile aktarmak zordur. Bunu ele almak için; yapay zeka tekniklerini yalnızca duygu tanıma için değil, her türlü uygulamada, durumu dikkate almak için de aktif çalışmalar vardır.
Çalışanların Duygularını Okuma
AI Now tarafından yayınlanan rapor; işçi verimliliğini değerlendirmek ve hatta görüşme aşamasında olduğu kadar erken bir zamanda AI’nin iş gücüne uygulandığı bazı yollara ışık tutuyor. Görüşmelerdeki görüntülerin; özellikle uzakta iş arayanlar için analiz edilmesi, hala devam etmektedir. Eğer yöneticiler; mülakattan değerlendirmeye kadar astlarının duygularını anlayabilirlerse, yükseltme, terfi veya atama gibi diğer istihdam konularına ilişkin kararlar; bu bilgilerden etkilenebilir. Ancak; bu teknolojinin kullanılabilmesinin başka yolları da var.
Neden Endişe Ediliyor
Bu tür sistemler; neredeyse her zaman örüntü eşleştirmelerine uygun adalet, hesap verebilirlik, şeffaflık ve etik (“FATE”) kusurlara sahiptir. Örneğin, bir çalışma; yüz tanıma algoritmalarının siyahların yüzlerini gülümserken bile beyaz yüzlerden daha kızgın olarak değerlendirdiğini buldu.
Birçok araştırma grubu bu sorunu ele almaktadır; ancak bu noktada sorunun sadece teknolojik düzeyde çözülemeyeceği açıktır. AI’de FATE ile ilgili konular; bu sorunların farkında olmak ve bunları ele almak için teknolojiyi kullananların sürekli ve uyumlu bir çaba göstermesini gerektirecektir.
AI Now raporunda vurgulandığı gibi: “AI etik içeriğindeki artışa rağmen, etik ilkeler ve açıklamalar nadiren AI etiğinin nasıl uygulanabileceğine ve etkili olup olmadıklarına odaklanmaktadır.”
Bu tür AI etik beyanlarının, bu tür kılavuzların; nasıl, nerede ve kimin devreye alınacağı konusundaki soruları büyük ölçüde göz ardı ettiğini belirtmektedir. Gerçekte; herkesin, kendi önyargılarımızdan ve başkalarının önyargılarından nasıl haberdar olmamız gerektiğine benzer şekilde, bu sistemlerin sunduğu önyargı ve zayıflık türlerinin farkında olması gerekir.
“Battaniye Teknolojisi” Yasaklarıyla İlgili Sorun
Daha fazla doğruluk ve sürekli izlemede kolaylık; etik‘in ötesindeki diğer endişeleri de beraberinde getirir. Polis beslemesi olarak hizmet veren kameraların yaygınlaşmasından, potansiyel olarak hassas verileri anonim hale getirmeye kadar; teknolojiyle ilgili bir dizi genel gizlilik endişesi de vardır.
Bu etik ve mahremiyet endişeleriyle; doğal bir tepki bu tekniklerin yasaklanmasını gerektirebilir. Şüphesiz, yapay zeka; iş görüşmesi sonuçlarında veya cezai hüküm verme prosedürlerinde, sistemler önyargı öğreniyorsa veya başka türlü güvenilmezse tehlikeli görünmektedir. Bununla birlikte, örneğin; gençlerin intiharını önlemek ve sarhoş sürücüleri tespit etmek için nokta uyarı işaretlerine yardımcı olmak için yararlı uygulamalar vardır. Bu nedenle, ilgili araştırmacılar; düzenleyiciler ve vatandaşlar bile AI ile ilgili teknolojilerde Battaniye Yasağı* çağrısı yapmaktan vazgeçtiler.
Yapay Zeka ve İnsan Kararını Birleştirmek
Sonuçta, teknoloji tasarımcıları ve toplumun bir bütün olarak yapay zeka sistemlerinden gelen bilgilerin karar verme süreçlerine nasıl enjekte edildiğine dikkatle bakmaları gerekiyor. Bu sistemler; diğer zeka türleri gibi yanlış sonuçlar verebilir. Ayrıca, insanlardan farklı olarak, nesneleri tanıma yeteneği gibi daha basit görevlerde bile kendi güvenlerini derecelendirmede kötü bir şekilde kötüdürler. Duyguları okurken; özellikle duyguları ifade etmek için bağlam dikkate alındığında, önemli teknik zorluklar devam etmektedir.
İnsanlar karar verirken doğru olmayan bir sisteme güveniyorsa; o sistemin kullanıcıları daha kötü durumdadır. İnsanların bu sistemlere diğer otorite figürlerinden daha fazla güvenme eğiliminde oldukları da bilinmektedir. Bunun ışığında, bir toplum olarak bu sistemlerin adalet, hesap verebilirlik, şeffaflık ve etiğini hem tasarım hem de uygulama sırasında dikkatle düşünmemiz gerekir.
* Açık Rıza nedir? (KVKK)
Açık rıza, belirli bir konu çerçevesinde, kişinin bilgilendirmeye dayanan özgür beyanıdır. Açık Rıza’nın üç ana unsuru, konusu bulunmaktadır.
Belirli bir konuya ilişkin olması,
Rızanın bilgilendirmeye dayanması,
Özgür irade ile açıklanması,
Belirli bir konuya ilişkin olması ne demektir?
Açık rızanın geçerli olabilmesi için, beyanı alınacak kişinin hangi konu hakkında rızasını beyan ettiğini net bir şekilde anlaması gerekmektedir. Bu yüzden genel bir irade açıklaması ile alınan rıza “kişisel verilerimin işlenmesini kabul ediyorum” ifadesi geçerli olmayacaktır. Çünkü bu ifade belirsiz ve bir konu gözetmeksizin alınmıştır. Belirsiz bir rıza kanun kapsamında uygun bir rıza beyanı/şekli olarak kabul edilmez. Hukuk dilinde bu tür uygulamalara, Battaniye Rıza denir. / Bilişim Teknoloji ve Siber Güvenlik Derneği
