Yapay zekanın (AI) “beyninde” neler olup bittiği tam olarak bilinmiyor. Bu nedenle eylemlerini doğru bir şekilde tahmin edemiyoruz. Testler ve deneyler yapılabilir; ancak AI’nin yaptığı bir şeyi neden yaptığı her zaman tahmin edilemez ve anlaşılamaz.
Tıpkı insanlar gibi, yapay zekanın gelişimi de deneyimlere (yapay zeka için ise verilere) dayanır. Bu nedenle yapay zekanın davranış şekli bazen insanları şaşırtıyor. Yapay zekanın cinsiyetçi, ırkçı veya uygunsuz davrandığına dair sayısız örnek var…
DTU Compute Profesör Soren Hauberg: “Yapay zekanın, bir görevi; en iyi şekilde çözmek için verilerdeki kalıpları bulmasını sağlayan bir algoritma geliştirebilmemiz, onun hangi kalıpları bulduğunu anladığımız anlamına gelmez. Dolayısıyla, onu yaratmış olsak bile; onu bildiğimiz anlamına gelmez.”
Kara Kutu Problemi denilen bir paradoks: Bir yandan yapay zekanın kendi kendine öğrenme doğasına dayanırken, diğer yandan şu ana kadar yapay zekanın “beynine” bakmanın ve onun yapay zeka ile ne yaptığını görmenin (öğrenmesinin temelini oluşturacak veriler) mümkün olmaması gerçeğinde yatmaktadır.
Yapay zekanın hangi verilerle ve nasıl çalıştığını bulabilirsek, bu, sınavlar ve psikanaliz arasında bir şeye karşılık gelir: Yapay zekayı çok daha iyi tanımanın sistematik bir yolu… Şimdiye kadar bu mümkün değildi, ancak şimdi Soren Hauberg ve meslektaşları klasik geometriye dayalı bir yöntem geliştirdiler ve bu da yapay bir zekanın kendi “kişiliğini” nasıl oluşturduğunu görmeyi mümkün kılıyor.
Dağınık Beyin
Robotlara tutmayı, fırlatmayı, itmeyi, çekmeyi, yürümeyi, zıplamayı, kapıları açmayı vb. öğretmek çok büyük veri kümeleri gerektirir. Yapay zeka yalnızca belirli bir görevi çözmesini sağlayan verileri kullanır. Yapay zekanın yararlı verileri gereksiz verilerden ayırma ve sonucunda da eylemlerini temel aldığı kalıpları görme yolu, verilerini sinir ağlarına sıkıştırmaktır.
Ancak, tıpkı biz insanların bir şeyleri bir araya getirdiğimizde olduğu gibi; başkalarına kolayca dağınık görünebilir ve hangi sistemi kullandığımızı anlamak zor olabilir.
Örneğin, evimizi olabildiğince kompakt olması amacıyla bir araya toplarsak; yerden tasarruf etmek için çorba tenceresine kolayca bir yastık koyabiliriz. Bunda yanlış bir şey yok, ancak dışarıdan gelenler yanlış sonuca varabilir; yastıklar ve çorba tencereleri birlikte kullanmayı planlamadığımız şeylerdir. Şimdiye kadar biz insanlar yapay zekanın hangi sistematikleri kullandığını anlamaya çalıştığımızda durum aynen bu şekilde karışıktı. Ancak Soren Hauberg’e göre bu artık geçmişte kaldı:
“Temel araştırmamızda, teorik olarak geriye gitmek için sistematik bir çözüm bulduk, böylece hangi kalıpların gerçekte kök saldığını ve hangilerinin sıkıştırma ile icat edildiğini takip edebiliriz. İkisini ayırabildiğimizde, biz insanlar kazanabiliriz. Yapay zekanın nasıl çalıştığını daha iyi anlamak, aynı zamanda yapay zekanın yanlış kalıpları dinlemediğinden emin olmak demektir.”
Soren ve DTU meslektaşları, 18. yüzyılda harita çizmek için kullanılan matematikten yararlandılar. Bu klasik geometrik modellerle; sıkıştırmanın verileri nasıl hareket ettirdiğinin bir haritasını yapmak için kullanılabilecekleri makine öğreniminde yeni uygulamalar buldular. Böylece AI’nın sinir ağında geriye doğru gittiler ve öğrenme sürecini anladılar.
Kontrolü Geri Verir
Çoğu durumda endüstri; özellikle üretimin güvenliğin çok önemli bir parametre olduğu bölümlerinde, yapay zeka kullanmaktan kaçınır. (Sistemin kontrolünü kaybetme korkusuyla…) Algoritma; tanımadığı ve kendisi harekete geçmek zorunda kaldığı durumlarla karşılaşırsa kazalar veya hatalar meydana gelir.
Yeni araştırma, kaybedilen kontrol ve anlayışın bir kısmını geri veriyor. Yapay zeka ve makine öğrenimini bugün yapmadığımız alanlara uygulama ihtimalimizi artırıyor.
Soren Hauberg: “Kabul etmek gerekir ki, hala açıklanamayan kısımlar var, çünkü sistemin bir kısmı modelin kendisinden verilerde bir kalıp bulmasından ortaya çıktı. Kalıpların en iyisi olduğunu doğrulayamıyoruz, ancak mantıklı olup olmadıklarını görebiliriz. Bu, yapay zekaya daha fazla güvenmek için büyük bir adım…”
Matematiksel yöntem, Karlsruhe Teknoloji Enstitüsü ve Almanya’daki endüstriyel grup Bosch Yapay Zeka Merkezi ile birlikte geliştirildi. Bir diğeri ise; robot algoritmalarında DTU’nun yazılımını uygulamıştır. Sonuçlar, Robotics: Science and Systems konferansında sunulan bir makalede yayınlandı.
