Mersin Escort Konya Escort izmir escort
Ana Sayfa Genel 6 Kasım 2021 105 Görüntüleme

Araştırma: Süper akıllı bir yapay zekayı denetleyemeyiz

David Nield

Yapay zekânın insan tipini alt edeceği fikri on yıllardan beridir konuşuluyor ve bir küme bilim insanı, Ocak 2021’de, üst seviye bir bilgisayarın barındırdığı üstün zekâyı denetim edip edemeyeceğimize ait bir karara vardı. Yanıt mı? Onu denetim etmek neredeyse imkansız.

Sıkıntı şu ki, insanların kavrama gücünün çok ötesinde bir üstün zekayı denetim etmek için tahlil edebileceğimiz bir harika zeka simülasyonuna gereksinimimiz var. Ancak şayet bunu kavrayamayacaksak, bu türlü bir simülasyonu yaratmak da mümkün değil.

ANLAYAMIYORSAN DENETLEYEMEZSİN!

2021 tarihli makalenin müelliflerine nazaran, bir yapay zekanın ne üzere senaryolar üretebileceğini anlayamadığımız bir durumda ‘insanlara ziyan vermemek’ üzere kurallar da koyamayız. Şayet bir bilgisayar sistemi programcılarımızın kapasitesinin üstündeki bir düzeyde çalışıyorsa, ona artık bir sınırlama getiremeyiz.

Araştırmacılar, “Bir harika zeka, temelde, tipik olarak ‘robot etiği’ başlığı altında tartışılan olgulardan farklı bir sorun oluşturuyor” diye not ediyorlar.

“Bunun sebebi, bir üstün zekânın çok karmaşık olması ve bu yüzden potansiyel olarak anlayamadığımız gayelere ulaşmak doğrultusunda, potansiyel olarak birçok farklı kaynağı harekete geçirme maharetine sahip olması.”

Araştırma takımının ortaya koyduğu münasebetlerin bir kısmı, Alan Turing’in 1936 yılında öne sürdüğü ‘duraksatma’ [ing. halting] probleminden kaynaklanıyor. Sorun, bir bilgisayar programının karşılık ararken bir sonuca ulaşıp ulaşmayacağını (bu yüzden duraksayabilir) ya da sadece bir karşılık bulmaya çalışırken sonsuza dek bir döngüde takılı kalıp kalmayacağını bilmek üzerine odaklanıyor.

Turing’in kimi zekice hesaplamalarla ispatladığı üzere, kimi belli programlar bağlamında bunu bilebilirken, şu ana dek yazılabilecek her potansiyel program için bunu bilmemize imkan sağlayacak bir yol bulmamız mantıksal olarak imkansız. Bu gerçek, bizi, muhteşem akıllı bir durum kelam konusu olduğunda, beklenen olan tüm bilgisayar programlarını tıpkı anda hafızasında tutabilen bir yapay zekaya geri getiriyor.

NE YAPACAĞINA KENDİSİ KARAR VERECEK

Yapay zekanın insanlara ziyan vermesini ve dünyayı yok etmesini önlemek gayesiyle yazılacak rastgele bir program, tahminen bir sonuca varabilir (ve işleyişini durdurabilir) ya da bu türlü olmayabilir; her iki durumda da kesin biçimde emin olmamız matematiksel bağlamda mümkün değil ve bu da denetim edilemeyeceği manasına geliyor.

Almanya’da bulunan Max-Planck İnsani Gelişim Enstitüsü’nde bilgisayar bilimci olan Iyad Rahwan, ocak ayında verdiği bir demeçte, “Aslında bu durum, sınırlayıcı bir algoritmayı fonksiyonsuz hale getiriyor” demişti.

Araştırmacıların aktardığı kadarıyla, yapay zekaya bir ölçü etik öğretmenin ve -hiçbir algoritmanın tam manasıyla kesin olarak yapamayacağı- dünyayı yok etmemesini telkin etme seçeneğinin alternatifi, muhteşem zekanın maharetlerini sınırlamak olabilir. Mesela, internetin kimi kısımlarıyla ya da muhakkak ağlarla teması kesilebilir.

Son periyotta gerçekleştirilen araştırma, bunun, yapay zekanın erişimini sınırlayacağını savunarak bu fikri de reddediyor; burada öne sürülen münasebet, “Şayet onu insanların denetimi dışındaki sıkıntıları çözmek için kullanmayacaksak, neden onu yaratalım” biçiminde.

ÖNEMLİ SORULAR SORMAMIZIN VAKTİ GELDİ

Şayet yolumuza yapay zeka ile devam edeceksek, denetimimiz altında olmayan bir harika zekanın ne vakit ortaya çıkacağını dahi bilemeyebiliriz; onu anlaşılmaz kılan şey de işte bu. Bu gerçek ise, ilerleyeceğimiz doğrultuyla ilgili önemli sorular sormaya başlamamız gerektiği manasına geliyor.

Max-Planck İnsani Gelişim Enstitüsü’nden bilgisayar bilimci Manuel Cebrian, “Dünyayı denetim eden muhteşem akıllı bir makine, kulağa bir bilim kurgu öğesi üzere geliyor” diyor. “Ne var ki, programcıların şimdi nasıl öğrendiklerini kesin olarak anlamadığı lakin kimi önemli misyonları bağımsız biçimde yerine getiren makineler halihazırda mevcut.”

“Bu yüzden, bunun bir yerden sonra insanlık açısından denetim dışı ve tehlikeli bir hale gelip gelmeyeceği sorusu karşımızda duruyor.”

Araştırma, Journal of Artificial Intelligence Research [Yapay Zeka Araştırmaları] isimli mecmuada yayınlandı


Yazının yepyenisi Science Alert sitesinden alınmıştır. (Çeviren: Tarkan Tufan)

Gazete Duvar

hack forum hack forumu hack forum gaziantep escort gaziantep escort Shell download cami halısı cami halısı cami halısı cami halısı cami halısı cami halısı cep bahis
evden eve nakliyat şehirler arası nakliyat
hack forum forum bahis onwin fethiye escort bursa escort infoisrael.net casino siteleri deneme bonusu veren siteler meritking meritking izmit escort Ataşehir escort ankara escort bostancı escort kadıköy escort slot siteleri casibomcu.bet deneme bonusu veren siteler deneme bonusu veren siteler hack forum hack forum hack forum hack forum hack forum warez script hacking forum loca forum hack forum Tarafbet