Toronto Üniversitesi ve LG AI Research’ten araştırmacılar; ekranlardaki kusurları belirlemeye ve ortadan kaldırmaya yardımcı olabilecek “açıklanabilir” bir yapay zeka (XAI) algoritması geliştirdiler. Sektör karşılaştırmalı değerlendirmelerinde, karşılaştırılabilir yaklaşımlardan daha iyi performans gösteren yeni algoritma; LG ve Toronto Üniversitesi arasında 2019 yılında işletmeler için yapay zeka uygulamalarına odaklanılarak genişletilen sürekli bir yapay zeka araştırma işbirliği aracılığıyla geliştirildi. Araştırmacılar, XAI algoritmasının; tıbbi taramalardan elde edilen verilerin yorumlanması da dahil olmak üzere, makine öğreniminin kararlarını nasıl verdiğine dair bir pencere gerektiren diğer alanlarda potansiyel olarak uygulanabileceğini söylüyor.
Edward S. Rogers Sr. Uygulamalı Fakültesi Elektrik ve Bilgisayar Mühendisliği Profesör Kostas Plataniotis: “Açıklanabilirlik ve yorumlanabilirlik, mühendisler olarak kendimiz için belirlediğimiz kalite standartlarını karşılamakla ilgilidir ve son kullanıcı tarafından talep edilmektedir. XAI ile ‘herkese uyan tek bir beden’ yoktur. Kimin için geliştirdiğini sormalısın. Başka bir makine öğrenimi geliştiricisi için mi? Yoksa bir doktor veya avukat için mi?… “
XAI, makine öğrenimi stratejilerinin ‘kara kutu’ yaklaşımı ile ilgili sorunları ele alan gelişmekte olan bir alandır. Kara kutu modelinde, bir bilgisayara milyonlarca etiketli görüntü biçiminde bir dizi eğitim verisi verilebilir. Verileri analiz ederek, algoritma girdinin (görüntülerin) belirli özelliklerini belirli çıktılarla (etiketler) ilişkilendirmeyi öğrenir. Sonunda; daha önce hiç görmediği görüntülere doğru şekilde etiket ekleyebilir. Makine; görüntünün hangi yönlerine dikkat edileceğine ve hangilerinin göz ardı edileceğine kendisi karar verir, yani tasarımcıları bir sonuca nasıl ulaştığını asla tam olarak bilemeyecekleri anlamına gelir. Ancak böyle bir “kara kutu” modeli sağlık hizmetleri, hukuk ve sigorta gibi alanlara uygulandığında zorluklar ortaya çıkarır.
Araştırmacı Sudhakar: “Örneğin, bir (makine öğrenimi) modeli, bir hastanın yüzde 90 oranında tümör sahibi olma şansına sahip olduğunu belirleyebilir. Yanlış veya önyargılı bilgilere göre hareket etmenin sonuçları kelimenin tam anlamıyla ölüm kalım meselesidir. Modelin tahminini tam olarak anlamak ve yorumlamak için, doktorun algoritmanın ona nasıl ulaştığını bilmesi gerekir.”
Geleneksel makine öğreniminin aksine, XAI; karar verme sürecini şeffaf hale getiren bir “cam kutu” yaklaşımı olacak şekilde tasarlanmıştır. XAI algoritmaları; öğrenme performanslarının geçerliliğini ve seviyesini denetlemek için geleneksel algoritmalarla aynı anda çalıştırılır. Yaklaşım aynı zamanda hata ayıklama yapmak ve eğitim verimliliklerini bulmak için fırsatlar da sağlar.
Araştırmacı Sudhakar; geniş anlamda bir XAI algoritması geliştirmek için her birinin avantajları ve dezavantajları olan iki metodoloji olduğunu söylüyor.
İlki geri yayılma olarak bilinen, ağın tahmininin girdisine nasıl karşılık geldiğini hızlı bir şekilde hesaplamak için temeldeki AI mimarisine dayanır. Karışıklık olarak bilinen ikincisi ise; doğruluk için biraz hızdan ödün verir ve gerekli telafiyi belirlemek için veri girişlerini değiştirmeyi ve karşılık gelen çıktıları izlemeyi içerir.
Araştırmacı Sudhakar: “LG’deki ortaklarımız, her ikisinin de avantajlarını birleştiren yeni bir teknoloji istiyorlardı. LG ürünlerindeki kusurlu parçaları ekranlarla tanımlayan mevcut bir (makine öğrenimi) modeline sahiptiler ve bizim görevimiz, kabul edilebilir bir çalışma süresini korurken olası kusurların yüksek çözünürlüklü ısı haritalarının doğruluğunu iyileştirmekti.”
Ekibin ortaya çıkan XAI algoritması; Açıklama için Anlamsal Girdi Örnekleme (SISE), 35. AAAI Yapay Zeka Konferansı için yakın zamanda yayınlanan bir makalede açıklanmaktadır.
Araştırmacı Plataniotis: “SISE’de yaygın uygulama potansiyeli görüyoruz. Belirli senaryonun sorunu ve amacı her zaman algoritmada ayarlamalar gerektirecektir. Ancak bu ısı haritaları veya ‘açıklama haritaları’, örneğin bir tıp uzmanı tarafından daha kolay yorumlanabilir.”
Araştırmacı Jang: “LG’nin Toronto Üniversitesi ile ortaklıktaki hedefi, yapay zeka inovasyonunda dünya lideri olmaktır. XAI’deki bu ilk başarı, şirketimizin LG ürünlerinin işlevselliği, üretimin inovasyonu, tedarik zinciri yönetimi, malzeme keşfinin verimliliği ve müşteri memnuniyetini artırmak için yapay zekanın kullanılması gibi birçok alanda katkı sağlamaya yönelik devam eden çabalarından bahsediyor.”
