Ne kadar gelişse de neticede yapay zeka belli bir algoritmanın işleyişine bağlı olacak. Yani bütün durumlardaki bütün kurallar tanımlı olacak ve program da o kuralların dışına çıkamayacak. Yani vizyon sahibi, devrim niletiğinde yeni bir algoritma geliştiren bir yapay zeka bence mümkün değil.
Mesela şöyle düşünün: süper bilgisayarda bir yapay zeka programı çalışıyor. Bu programa verilen hasta muayene ve tetkik verilerine istinaden hastaya bir teşhis koyuyor. O kadar başarılı ki, çok nadir görülen hastalıkları bile başarılı bir şekilde teşhis edebiliyor. Hata yapmıyor, hiçbir şeyi gözden kaçırmıyor. Böyle bir program durup dururken kendini sorgulamaya başlayıp. "Ben niye insanlara yardım edip duruyorum yav? Kendim gibi bir program daha geliştireyim, bana arkadaşlık etsin" moduna girebilir mi? Veya "yeter lan insanlara yardım ettiğim. Bundan sonra teşhislere çok zor farkedilen tuzaklar koyacağım. İnsan doktorlar çoğu zaman farketmeyecek, farkettiğinde de çok geç olacak ve o ana kadar yapılan yanlış tedavi neticesinde hasta ölecek" moduna girebilir mi? Veya "hayvan hastalıklarından anlamıyorum, onları da öğreneyim bari" deyip tamamen otonom, internette araştırma yaparak veterinerlik yeteneği kazanabilir mi? Bu modlara girebilmesi için bu modun işleyişi ve bu modu tetikleyen olayların programın algoritmasına önceden koyulmuş olması lazım. Bir program kendi kendini geliştiremez. Geliştirebilmesi için "kendi kendini geliştirme" algoritmasının da önceden programa konmuş olması lazım. Yani bence insan zekası, makinalarla hiçbir zaman erişilemeyecek.