Tayvan Academia Sinica İnovasyon Araştırma Merkezi’ndeki araştırmacılar, kısa bir süre önce; jeneratörün çıktı katmanında ikili nöronlara sahip yeni bir Generatif Adversarial Network (GAN- Çekişmeli Üretici Ağlar) geliştirdiler. Bu model; test zamanında doğrudan ikili değerli tahminler üretebilir.
Şimdiye kadar, GAN yaklaşımları sürekli dağılımları modellemede dikkate değer sonuçlar elde etmiştir. Bununla birlikte, GAN’ları ayrı verilere uygulamak; özellikle modelin, yüksek boyutlu farklı bir alandaki hedef veri dağıtımına doğru optimize edilmesindeki engeller nedeniyle zor olmuştur.
Araştırmacı Hao-Wen Dong: ” Şu anda Academia Sinica’da Müzik ve AI Laboratuvarı’nda müzik üretimi üzerinde çalışıyorum. Benim düşünceme göre, kompozisyon oluşturma bir dizi karar olarak yorumlanabilir. Örneğin; enstrümantasyon, akorlar ve hatta kullanılan tam notalar… Sağlam bir AI bestecisinin büyük vizyonunu gerçekleştirmek için, özellikle GAN’lar gibi derin üretken modellerin karar verebilmeleri ile ilgilenmekteyim. Bu çalışma; standart eğitim algoritması olan geri bildirimi kullanarak, ikili kararlar vermek için ikili nöronlarla bir GAN’ı eğitip eğitemeyeceğimizi incelemiştir.”
Dong ve danışmanı Yi-Hsuan Yang, test zamanında doğrudan ikili değerli tahminler oluşturabilecek bir model geliştirdi. Daha sonra, ikili MNIST* basamaklarını oluşturmak ve farklı ikili nöron, GAN hedefleri ve ağ mimarilerinin performansını karşılaştırmak için kullandılar.
Dong : “Özetle, BinaryGAN; ikili nöronları, jeneratörün çıktı katmanında bir ya da sıfır çıkaran nöronları benimseyen bir GAN’dır. GAN’ın iki ana bileşeni vardır: Jeneratör ve ayrımcı… Jeneratör; diskriminatörü (ayıklayıcı) üretilen numuneleri gerçek olarak sınıflandırabilmeye yarayan sahte veri örnekleri üretmeyi amaçlar. Diğer yandan, ayrımcıların hedefi; sahte olanı ayırt etmektir. Gerçek verilerden, diskriminatör tarafından sağlanan geri bildirim daha sonra jeneratörü iyileştirmek için kullanılır. Eğitimden sonra, jeneratör yeni veri örnekleri oluşturmak için kullanılabilir.”
Araştırmacılar, ikili nöronları ve üretken modelleri olan BinaryGAN’ı etkin bir şekilde eğitebildiler. Önerilen model için önceden aktive edilmiş çıktıların histogramları (sütun grafikleri) ve gerçek değerli model için olasılıksal tahminleri yürütebildiler.
Dong ve Yang şimdi, şartlı bir bilgisayar grafiğinin gerçekleştirilmesi için ikili nöronları benimseyen bir GAN’ı uygulamak istiyor. Bu örnekte, ağın ikili nöronları tarafından alınan kararlara göre; bazı bileşenler aktive edilip devre dışı bırakılacaktı.
Dong, “Bu, ağın ilk katmanlarında alınan kararlara dayanan, daha karmaşık bir model oluşturmamıza izin verdiği için önemlidir. Örneğin, enstrümantasyon ve akorlara ilk karar vermeyi öğrenen ve daha sonra buna göre hazırlayan bir AI bestecisi kurabiliriz.”
* MNIST: Görüntüyü işlemek ve anlamlandırmak için kullanılan, elle yazılan bir veri seti.
