Gerçek insanlar gibi görünen sosyal botlar veya otomatik sosyal medya hesapları; COVID-19 salgını gibi önemli konular hakkındaki konuşmalar da dahil olmak üzere her türlü tartışmaya sızdı. Bu botlar, otomatik aramalar veya istenmeyen e-postalar gibi değildir.
Son araştırmalar, sosyal medya kullanıcılarının onları çoğunlukla gerçek insanlardan ayırt edilemez olduğunu göstermiştir.
Pensilvanya Üniversitesi ve Stony Brook Üniversitesi araştırmacılarının, Findings of the Association for Computational Linguistics dergisinde yayınlanan yeni bir çalışması; bu robotların kendilerini nasıl gizlediğine dair araştırmalar içeriyor. Son teknoloji makine öğrenimi ve doğal dil işleme teknikleri sayesinde araştırmacılar; botların, yaş, cinsiyet ve çeşitli duygular dahil olmak üzere 17 insan özelliğini ne kadar iyi taklit ettiğini tahmin etti. Çalışma; botların sosyal medya platformlarında nasıl davrandığına ve gerçek hesaplarla nasıl etkileşime girdiğine ve bot oluşturma teknolojilerinin mevcut yeteneklerine ışık tutuyor.
Ayrıca, botları tespit etmek için yeni bir strateji öneriyor: Herhangi bir bot tarafından kullanılan dil, inandırıcı bir şekilde insan kişilik özelliklerini yansıtsa da, birbirlerine benzerlikleri, yapay doğalarını ele veriyordu.
Penn Üniversitesi Mühendislik ve Uygulamalı Bilimler Okulu Bilgisayar ve Bilgi Bilimleri (BDT) Bölümü Yüksek Lisans Öğrencisi Salvatore Giorgi: “Bu araştırma, botların bu platformlarla fark edilmeden nasıl etkileşime girebildiği konusunda bize fikir veriyor. Bir Twitter kullanıcısı bir hesabın insan olduğunu düşünüyorsa, o hesapla etkileşim kurma olasılığı daha yüksek olabilir. Botun amacına bağlı olarak, bu etkileşimin sonucu zararsız olabilir, ancak potansiyel olarak tehlikeli yanlış bilgilerle etkileşime girmeye de yol açabilir. “
Giorgi ile birlikte araştırma, BDT’de Profesör Lyle Ungar ve Stony Brook Üniversitesi Bilgisayar Bilimleri Bölümü’nde Doçent olan kıdemli yazar H. Andrew Schwartz tarafından yürütüldü. Araştırmacıların önceki çalışmalarından bazıları, sosyal medya gönderilerinin dilinin, yazarın yaşı, cinsiyeti ve “Büyük Beş*” kişilik özelliklerinin bir testinde nasıl puan alacakları da dahil olmak üzere yazarın bir dizi özelliğini doğru bir şekilde tahmin etmek için nasıl kullanılabileceğini gösterdi.
*”Büyük Beş” kişilik özellikleri: Deneyime açıklık, vicdanlılık, dışa dönüklük, uyumluluk ve nevrotiklik.
Yeni çalışma, üç bin bot hesabı ve eşit sayıda gerçek hesap tarafından yazılan 3 milyondan fazla tweet’i inceledi. Araştırmacılar; yalnızca bu tweetlerdeki dile dayanarak, her hesap için 17 özellik tahmin etti: Yaş, cinsiyet, Beş Büyük kişilik özelliği, sekiz duygu (sevinç, öfke ve korku gibi) ve olumlu/olumsuz duygu.
Elde ettikleri sonuçlar, botların bireysel olarak insan gibi göründüğünü ve tahmini demografik özellikleri, duyguları ve kişilik özellikleri için makul değerlere sahip olduğunu gösterdi. Bununla birlikte, bir bütün olarak; sosyal botlar, 17 özelliğin tamamındaki tahmini değerleri açısından birbirlerinin klonları gibi görünüyor. Ezici bir şekilde, kullanılan dil botları, 20’li yaşların sonlarında ve ezici bir çoğunlukla olumlu bir kişinin karakteristiği gibi görünüyordu. Araştırmacıların analizi, sosyal botların 17 insan özelliği üzerindeki puanlarının tekdüzeliğinin o kadar güçlü olduğunu ortaya çıkardı ki, bu özelliklerin bir bot dedektörünün tek girdisi olarak ne kadar iyi çalışacağını test etmeye karar verdiler.
Araştırmacı Schwartz: “Bir kalabalığın içinde hepsi çok iyi ama aynı zamanda çok benzer kılıklara sahip casuslar bulmaya çalıştığınızı hayal edin. Her birine ayrı ayrı bakıldığında, otantik görünüyorlar ve son derece iyi uyum sağlıyorlar. Ancak, uzaklaştırıp tüm kalabalığa baktığınızda, açıkça görülüyor. Çünkü kılık değiştirme çok yaygın: sosyal medya ile etkileşim şeklimiz, biz uzaklaştırılmamamız, sadece birkaç mesajı aynı anda görmemiz… Bu yaklaşım, araştırmacılara ve güvenlik analistlerine sosyal botların ortak kılık değiştirmesini daha iyi görmeleri için büyük bir resim görünümü veriyor.”
Tipik olarak, bot dedektörleri; botun sosyal ağından ve yayınladıkları görüntülerden daha fazla özelliğe veya karmaşık bir bilgi kombinasyonuna güvenir. Schwartz ve Giorgi, hesapları otomatik olarak yalnızca bu 17 özelliğe dayalı ve bot etiketi içermeyen iki gruba ayırarak, iki gruptan birinin neredeyse tamamen bot olduğunu buldu. Aslında, bu tekniği denetimsiz bir bot dedektörü yapmak için kullanabildiler ve yaklaşık olarak son teknoloji doğrulukla eşleşti (Gerçek pozitif oran: 0.99, hassasiyet/hatırlatma: 0.95).
Araştırmacı Giorgi: “Sonuçlar hiç de beklediğimiz gibi değildi. İlk hipotez, sosyal bot hesaplarının açıkça insanlık dışı görüneceğiydi. Örneğin, sınıflandırıcımızın bir botun yaşını 130 veya eksi 50 olarak tahmin edebileceğini düşündük, yani gerçek bir kullanıcı bir şeylerin ters gittiğini söyleyebilirdi. Ama 17 özelliğin tamamında, bot popülasyonunda son derece sınırlı çeşitlilik olmasına rağmen, çoğunlukla botların ‘insan’ aralığına düştüğünü gördük.”
Buna karşılık, yapay doğalarını gizlemeye çalışmayan otomatikleştirilmiş hesaplar olan sosyal olmayan botların; insan özelliği tahminlerine bakıldığında, özellik dağılımları orijinal hipotezinkilerle eşleşiyor: Normal insan aralığının dışında kalan ve görünüşte rasgele olan tahmini değerler,nüfus düzeyindeki dağılımlar…
Araştırmacı Giorgi: “Twitter’da neredeyse bilim kurgu benzeri bir manzarayla karşılaşabileceğiniz hesap türlerinde çok fazla çeşitlilik var: İnsanlar, insan gibi davranan insan benzeri klonlar ve robotlar…”
