Öncelikle hayallerinizi ve komplo teorilerinizi yıkacağım için şimdiden özür dilerim. Ama işin gerçeğine değinmeden durmam da mümkün değil. Son günlerde her yerde Facebook’un chatbotları ile ilgili spekülatif haberler görüyoruz. Birbiri ile konuşmaya bırakılan yapay zeka ürünleri chatbotlar, kendi dillerini oluşturunca fişleri çekildi. Birçok haber sitesi bu duruma yapay zekanın dünyayı ele geçirme çalışmalarına son anda engel olunmuş gibi yaklaşıyor. “Facebook chatbotlar şeytana dönüşmeden fişleri çekildi” başlığını dahi gördüm.
Facebook chatbotlar çok da uzak olduğumuz bir konu değil. Kullanıcılara daha hızlı dönüş sağlamak ve basit problemleri doğrudan çözmek maksadıyla, ülkemizde bazı firmalar tarafından da kullanılmakta. Facebook AI laboratuvarları yapay zeka alanındaki çalışmalarına yoğunlaşmış durumda. Geçtiğimiz günlerde yaptıkları ufak bir hata sonucu İngilizce kurallarına dikkat etmeden anlamsız cümleler kuran chatbotlar ortaya çıktı. Açıkçası Facebook mühendislerinin bunu çok da önemsediğini sanmıyorum. Ancak medya konuyu oldukça farklı yerlere çekti.
Peki bu işin aslı astarı neydi? Facebook mühendisleri bu müzakereci chatbotları daha iyi hale getirmek için yaptığı çalışmalardan birini daha gerçekleştiriyordu. Yapay zekanın müzakere yeteneğini geliştirmek için, iki oyuncunun ellerindeki şapkalar, toplar ve kitaplardan oluşan nesneler koleksiyonunu kendi aralarında bölüştürdükleri basit bir oyun tasarladılar. Bir süre sonra iki yapay zeka birbiri ile normal İngilizce kurallarına uymayan bir şekilde, tekrarlardan oluşan bir tarzda konuşmaya başladı. Aralarında geçen konuşma şu şekilde:
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Chatbotlar hangi dilde konuştu?
Aslında yapay zekaların yeni bir dil oluşturdukları falan yok. Yalnızca, insanların da sıklıkla yaptığı gibi, kısaltmalar ve tekrarlar kullanarak daha hızlı ve kolay iletişim sağlamaya çalıştılar. Bunun sebebi de mühendislerin onları temel İngilizce kurallarını kullanmakla kısıtlamamış olmasından kaynaklıydı. Chatbotlar oyunu kazanmak için görevlendirilmişti ve yalnızca işlerini yapıyorlardı. Dünyayı ele geçirme planları yaptıkları bir konuşma değildi yani bu. Zaten Facebook mühendisleri de durumun farkına varıp, konuşmayı sonlandırdı ve gerekli kısıtlamaları yaptı. Ancak bu panikledikleri ve korktukları için değil, yaptıkları hatayı düzeltmek içindi.
Elbette iki yapay zekanın birbiri ile anlaşılmaz bir dilde konuşması korkutucu gelebilir. Buna izin vermemek için haklı sebeplerimiz de var. Ancak şunun farkında olmak gerekir ki biz izin vermedikçe konuşamazlar. Onları içine yerleştirdiğimiz sınırlar ne ise ancak onu yaparlar. Eğer bir gün kötü bir şey yaparlarsa emin olun ki bu yine bizim yaptığımız bir hatadan kaynaklı olacaktır. Yapay zeka çalışmaları hızlı ve başarılı ilerliyor olsa da yakın gelecekte bilim kurgu filmlerinde gördüğümüz irade sahibi yapay zekalarla karşılaşmayacağız gibi duruyor. Yani dünyayı ele geçirmelerine daha zaman var. Üzücü haber: “hasta la vista baby” repliği için biraz daha beklemeniz gerekiyor.
Bu haberin bu kadar abartılmasında kuşkusuz ki Mark Zuckerberg‘ün en önemli yapay zeka savunucularından olması yatmakta. Geçtiğimiz günlerde bir diğer yapay zeka geliştiricisi Elon Musk ile fikir ayrılığına düşmüşler ve bu durum gündemi yine çokça meşgul etmişti. Mark Zuckerberg yapay zekayı savunan açıklamalar yaparken, Elon Musk temkinli yaklaşmaktan yana.
Yapay zekadan korksak dahi, Elon Musk’ın yaptığı gibi geliştirmekten de asla vazgeçmeyecek gibi duruyor insanoğlu.
