"Yapay zekâ" imgesi sizde yaşamın daha kolay aktığı, güzel bir geleceği mi yoksa bir distopyayı mı çağrıştırıyor?
Yapay zekâyı, doğal zekânın yapay bir türevi olarak görmek gerekiyor. Mühendislik kavramlarıyla yapay zekâ üzerine düşünmenin bir anlamı yok. Mühendisler, "know-how"a kilitlenmiş durumdalar. Bu nedenle ortaya çıkan ürünlerinin sorumluluğundan da bihaberler. Zaten eğitim formatları da, başta ABD'deki MIT gibi okullar olmak üzere, dünyayı kontrol etme şeklinde bir ideoloji üzerine kurulu. Dolayısıyla, bu doğaya egemen olma mitosu mühendislik alanındaki eğitimin önemli bir parçası. Hal böyleyken, yapay zekânın bu anlayıştan türemiş olması oldukça endişe verici. Silah teknolojilerini bir düşünün; uydu yoluyla küçücük alanlar tespit edilip hedef her kimse ortadan kaldırılıyor.
O dans eden şirin robotlara bakıp "Aaa ne güzel" dememek lazım. Bunların tamamı aslında askeri teknoloji. Görünene bakmayın, arka taraf zifiri karanlık. Bu rezil durumu da sosyal medya aracılığıyla çok güzel bir şekilde yutturuyorlar. O yüzden, WikiLeaks'in faili Julian Assange gerçekten tekere çomak soktu. Bütün bu arkada dönen dolapları bir anda sahnenin önüne yıktı. Bu yüzden küreselleşmiş dünyayı yöneten hegemonya Assange'ı günah keçisi ilan etti ve bir daha kimse buna cüret edemesin diye bir örnek haline getirdiler. Oysa adamın ortaya koymaya çalıştığı şey, tam olarak teknoloji adı altında sana satılan şeyin sahne arkasındaki karanlık yüzüydü. Biz ne gördük orada? Çok çirkin güç ilişkileri. Aslında resmen bir tür teknik, teknolojik zekâsı aşırı gelişmiş "Maymunlar Cehennemi"nde yaşıyoruz. Yapay zekâ adı altında pazarlanan bir dünya var; çok parlak bir dünya. İşlerin kolaylaştığı, küçücük bir parmak hareketiyle her şeyi yapabileceğin bir dünya. Bir defa bu kolaylaşmanın maliyeti büyük bir işsizlik olacak. Dünya buna hazır mı? Son derece eşitlikten yoksun bir dünyada yaşıyoruz. Bu dünyada yapay zekâ ne anlama geliyor? Bu sorulara müspet cevap veremiyorken, yapay zekâ egemenliğindeki geleceği distopya olarak görmek kaçınılmaz.
Yapay zekâ insanlık tarihinde nasıl bir aşamaya tekabül ediyor?
Yapay zekâyı çok kritik bir aşama olarak görmemiz lazım. İnsan makine yoluyla şimdiye kadar mekanik olanı üretti. Elektronik olanla birlikte başka bir aşamaya geçildi. Mekanik ve elektronik geçiş teknolojik olarak önemli bir geçiş. Elektronikle birlikte aslında yavaş yavaş el kol sallama işinden zihinsel çalışmaya geçmiş olduk. Yani üretim olarak kas ve iskelet sisteminden sinir sistemine geçtik; oradan omuriliğe bağlandık, şimdi de ön beyni zorluyoruz. Çünkü yapay zekâda üç temel hedef var: Aşağıdan yukarı doğru (taklit edilen) action (hareket), perception (algı) ve conception (düşünme, idrak, kavrama). Yeni teknoloji "action" olarak çok iyi bir noktada. Robotları hepimiz görüyoruz, oldukça komplike hareketleri yapabiliyorlar, dans ediyorlar vs.
O halde yapay zekâyla ilgili gelinen noktayı bir açıdan iyi anlamak lazım. Bununla ilgili teknolojiyi zorlayan ve gayet iyi bilinen birtakım isimler son derece apokaliptik masallar anlatıyorlar; artık onlara neler söyleniyorsa. Fakat bence yapay zekâ geliştiricilerinin kendileriyle ilgili de bir sorun var; çünkü yapay zekâyı doğrudan bilinç yerine koyuyorlar. Hatta belki de onun daha gelişmiş versiyonu olarak da görüyor olabilirler. Bu konuyla ilgili felsefi tartışmalar yapay zekâ tarihinden çok daha eskiden beri biliniyor; bilişim, enformasyon gibi kavramlar zamanında çok ciddi anlamda tartışılmış şeyler. Saul Kripke mesela… Bu insanlar bu tartışmaları ilk ortaya attıkları halde zamanla buradan çekilmişler ve bunların çekildiği alanları bütün o hevesli teknik elemanlar, teknologlar, mühendisler doldurmuş.
Az önce yapay zekâya bilinç atfedildiğini söylediniz. Bu, yapay zekâyı özne yerine koymak anlamına gelmez mi?
Evet, tamamıyla öyle. Çünkü bilinçle ilgili temel problem birinci tekil şahıs bilinci, bu da özne demek. Özne inanılmaz sorunlu bir alan. Çünkü dönüp bakıp, "bu özne" diye ortaya koyabileceğimiz bir varlık yok. "Özne bir uydurmadır" demenin kendisi de uydurmadır; çünkü öyle ya da böyle o uydurma sayesinde insanlık tarihi var. Mesela meşhur "Turing deneyi", aslında yapay zekânın tam anlamıyla neden bilinç yerine konulamayacağıyla alakalı. Çünkü yapay zekâ dediğimiz şey, düşünme fonksiyonlarının taklididir aslında; bu durumda "dolayımsal düşünme"dir. Descartes "Düşünüyorum öyleyse varım" der ve egoyu, özneyi doğrudan düşünme eylemine bağlar. Yapay zekâ üreticileri aslında farkında olmadan aynı şeyi yapıyorlar. Yapay zekâ düşünüyorsa orada bir ego olmalı fikrindeler. Ego varsa da bilinç vardır demek oluyor bu. İşte burada yanılıyorlar. Düşünüyor zannettikleri teknoloji aslında düşünmüyor ki! Bu, bildiğimiz anlamda bir düşünme değil, "machine learning"deki "learning" de öğrenme değil. Çünkü düşünen öğrenir, öğrenen de düşünür zaten. Bu tür kelimelerin aslında metaforik şekilde kullanılmaları gerekirken doğrudan kitabi alıyorlar. Chomsky, Searl gibi filozoflar bunların yanıldığını ısrarla söylüyor ama kimsenin umurunda değil tabii.
Her geçen gün yapay zekânın yeni bir mucizesini, kuantum bilgisayarları, Web 3.0'ı konuşuyoruz. Yapay zekâya yeni gerçeklik diyebilir miyiz?
Bir şeye yakınlaşmak veya ona yakınsamak, ona ulaşmak veya o olmak anlamına gelmiyor. Biz matematikte de bunu yapıyoruz. Normalizasyonlarla kuantum mekaniği problemleri geliştiriyoruz yani bütün o formüller sonsuza çıktığı halde bir yerde kesip atıyoruz. Tıpkı pi sayısını 3,14'te kestiğimiz gibi. Hâlbuki böyle bir transandantal sayı varsa sen dairenin alanını hesaplayamazsın. Kapalı bir alanı hesaplayamıyoruz, bu çok kadim bir matematik problem; daireyi karelemek. Bir çokgen şekilden çıkarmaya çalışıyorsun ama çıkmıyor. Limitasyonları biz yararlılık adı altında matematiği tümüyle bir işleve indirgeyerek hızla bundan ne sağlayabileceğimizi düşündüğümüz için aynı zamanda bunun bir "bilgi", dolayısıyla da hakikat olduğu zannını da hâlâ muhafaza ediyoruz. Oysa yaptığımız şey oyun oynamak. Bakın, çok açık olarak söylüyorum ki bilim ve teknoloji bir oyundan ibaret. Bir hakikati kesinlikle yok. Onun hakikati kendi yarattığı dünyası ve bu yaygın geçerliliği de gerçeklik diye yutturması.
Sahnenin arkasındaki karanlığı görmek için de gözümüzü yanı başımızdaki Gazze'ye çevirmemiz yeterli! Gözümüzün önündeki sivilleri ve çocukları alçakça katlediyorlar. İşte mesele bu kadar basit. O yüzden, yapay zekâyla ilgili mevzular apokaliptik ve fantastik olarak tehlikeli değiller, şu an itibariyle tehlikeliler. Çünkü bunların çıkış noktası silah teknolojileri. Buna yarar sağlamayacak hiçbir teknolojik gelişim kendiliğinden ve kendisi için bugünkü dünyada üretilemez. Bu eşitsizlik düzenini sürdürebilmeleri için, kitleleri ikna etmek için teknolojiyi hâkimiyetleri altına almaları gerekiyor. Bugün teknoloji başat bir "üretim aracı" hâline gelmiştir. O zaman teknoloji denen şeyin bilim adı altında doğrudan doğruya bir ideoloji olduğu ortaya çıkar. Bu zihnin biliminin maliyeti bugün Gazze'de çıkıyor. Daha önce Nagazaki'de, Hiroşima'da çıkmıştı. Erdemden yoksun bilgiyi hakikat yerine koyarak medeniyet geliştirmek mümkün değil. G7 ülkelerinin her birinin kendi tarihine bak. O ülkelerin insanlarının çocukları dâhil olmak üzere tıpkı Gazze'dekiler gibi nasıl harcandığını görürsünüz. Örneğin maden ocaklarında. Kendi insanlarına acımadıkları için başkasına asla acımayan bir zümre oturuyor dünyanın üzerinde. Karşımıza bunun felsefe, sinema, kültür olarak çıkması büyük bir aldanış sadece. Ortada sadece bir ideoloji var ve bu ideoloji eşitsizlik düzenini bütün dünyaya sanat, bilim gibi kılıflarla yutturmaya çalışıyor. Aslında bütün bunların halledilebilmesiyle ilgili çerçeve teknolojiden geçiyor. Çünkü teknoloji hayatı birinci elden dönüştürüp değiştiriyor.
Ben konuyla ilgili biraz daha radikal düşünenlerdenim. Şu an içinde bulunduğumuz durumda, insan yapay zekâyı üretirken onu bu açıdan kendisine benzetmiş değil. Ürettiği bir şey olarak asıl kendisi ona, yapay zekâya benziyor. Burada bir diyalektik ilişki söz konusu. Bugün biz üretim biçiminin kendisinin radikal anlamda değişmesi ve dönüşmesiyle ilgili bir süreç yaşıyoruz. Eğer insanın, Hegel'in deyişiyle, "öz bilinç olarak üretiminde kendisini tanıması" kısmı aşılırsa ve bu yapay zekâya devredilirse o zaman insan ister istemez yapay zekâyla olan ilişkisinde ona tabi olmak zorunda kalır. Buna bir örnek vereyim. Şu anda hâlâ satrançta büyük ustalar var ve turnuvalar yapılıyor. Ama hiçbir usta Deep Blue isimli bilgisayarı ya da daha doğrusu satranç algoritmasını yenemiyor. Başka bir ifadeyle, satrançta insan Deep Blue'ya tâbi. Mühendislik ve tıp alanında bugünkü algoritmalar bile verim ve performans olarak, hatta maliyet hesabı da dâhil performans ve verimlilik olarak insanların üzerine çıkar. Çünkü algoritmanın permütasyon ve girdi-çıktı hesaplarıyla girdiği detaya senin girmen mümkün değil. Geçenlerde yapay zekânın kullanımıyla ilgili okuduğum bir metinde, şizofreni teşhislerinde bile mükemmel sonuçlar elde edebildiği yazıyordu. Çünkü bir girdi-çıktı bağlamı var içeride. Bu girdi-çıktı yüklemeleri arttırıldığında da o kadar kompleks oluyor ki o kompleks sistem kendisinin daha önce hiç bilmediği yeni bir durumu ortaya koymasını sağlıyor. "Öğrenme" denilen şey de aslında bu. Algoritmayı mekanik bir şey zannetmekten vazgeçmemiz lazım. İşin içine olasılık hesapları girdiği için çok sürprizli bir çıkış söz konusu olabiliyor. İşte bu yönüyle de yapay zekâ bir kara kutu.
İnsanın Tanrılık hevesiyle yapay zekâyı ürettiğini söylüyorsunuz. Bir yandan da yeni bir Tanrı "yaratmış" olmuyor mu?
Bunları birlikte ve iç içe anlamak lazım. Burada da bir diyalektikten söz edilebilir. Bu sebeple insan kendi Tanrısal kompleksini tatmin etme peşinde. Çünkü Tanrısal kompleksin kaynağı, bilincin kendi üzerine katlanmasıyla kendisinin farkında olmasının diğer canlı türlerine göre kategorik olarak başka bir şeye dönüşmesi. Bu başkalaşma kendiliğinden zihinde olup bitmiyor, üretimle ortaya çıkıyor. Aleti yaptığın an dönüşüyorsun. Ondan sonra bir bakıyorsun, beyin gücü gelişmeye başlamış, ön korteksi içerecek biçimde beyinde gramaj artmış. En aşağı üç milyon yıllık bir birikim var bunun arkasında. Önce taş alet teknolojisi, sonra metalürji, metali eritip şekillendirmek. Mevzunun biçimlendirme olduğunu anladığı anda insan malzemeyi doğrudan biçimlendirme açısından değerlendirmeye başlıyor. İnsanın alet yapmaya başladığı andan itibaren süreç o kadar büyük bir birikimle geliyor ki artık bu durdurulabilir değil. Artık evrimsel olarak senin pençe ve diş geliştirmene gerek kalmıyor, alet olarak dışarı çıkarıyorsun, herhangi bir malzemeyi matematik evrenine sınırsız temas sayesinde bir araya getirip işe yarayan bir işlev tanımlayabiliyorsun. Alet yapma eylemi da öyle bir aşamaya geliyor ki artık bilinç doğrudan kendisini seyretmeye başlıyor. Yaptığın alet senin özünden bir şey alıyor ama aynı zamanda senin özün de sabit kalmıyor, alet onu başka bir yere taşıyor. Dolayısıyla yapmak aynı zamanda olmak. Bunun anlamı ise 'tarihsellik' demek. Onun için toplum üretim esaslı anlaşılabilir, tek başına kültürle anlaşılamaz. Marks bu açıdan meseleyi çok iyi anlamış biri.
Yapay zekâda yapılanlarsa basit anlamda işe yarayacak ürünler olmanın çok ötesinde, insanın Tanrılık kompleksinin bir sonucu ve aynı zamanda son aşaması. "Tanrı, insanı kendi suretinde yarattı" denir ya, insan da yapay zekâyı kendine benzer bir şekilde, kendi suretinde yarattı. Fakat aradaki fark şu ki Tanrı'nın özü değişmez olmak zorunda, başka deyişle Tanrı insanı yapmakla insanlaşmaz; buna karşılık insan ise yaptığına dönüşür. "Transhümanizm" ve "teknolojik tekillik" kavramlarına uçuk kaçık fikirler olarak bakmamamız lazım. Sen aslında ürettiğin şeye dönüşerek kendini hep yeniden üretiyorsun. Yaptığımız robotlarda da durum aynı. Biz onlara dönüşmekte olduğumuz için insanların hareketleri robotlaşmış durumda. O yüzden bir mühendis algoritmik düşünür. Bu insanların sanatla ya da felsefi düşünceyle bu nedenle hiç bir ilişkisi olamaz. Aslında ortada siyaset ve sermaye bağlamında bir "teknokrasi" yani "tekno egemenlik" var.
Homo sapiens, hayvan-ı natıka, eşref-i mahlûkat gibi tamlamalarla tanımlanan insan, gelecekte yapay zeka karşısında nasıl konumlanacak?
"Eşref-i mahlukat"ın diğer tarafına "esfel-i safilin" diyorlar. Demek ki aşağının en aşağısından ve sonra hayvandan yukarıya doğru bir yükseliş gerekli. Bu yükseliş makine teknolojisi yoluyla değil, ancak erdemle olabilir. Sen ürettiğin şeyin sorumluluğuna sahip değilsen bilgeliğine de sahip değilsin. Bilgelik öyle mistik bir kavram değildir. Bilgelik, bilgi ve erdemin iç içeliğinde insanın kendi üretiminin sorumluluğunu alması demek. Bırakın Julius Robert Oppenheimer'ın atom bombasını denediği Nagazaki ve Hiroşima'daki korkunç etkilerini, eyaletteki insanlar birkaç kuşak boyunca kanser hastası oldu. Nerede erdem, sorumluluk ve bilgelik? Sen tamamen gücün maşası haline gelmişsin; hangi bilim?
Bizim insan olarak asıl dramımız öz bilinç tuzağında kendimizden kurtulamıyor oluşumuz; asıl sorun bu. Yapay zekâ bizim kendimizden kurtulmamızı sağlayabilir mi, korkarım hayır. Ama çok ısrar edersek belki toptan yok olmamızı sağlayabilir. Çünkü yapay zekâ bilişsel dönüşümümüzün son merhalesi, bir anlamda kendimizle göz göze geldiğimiz son an. Bugüne kadar taş devrinden bu yana ürettiğimize dönüştük ve bilincimiz kendisini bu şekilde tanıdı ve tanımladı. Artık bilinç bizzat kendisini üretebilir mi, mesele bu. Öyle organik kopyalarla, genetik olarak değil, doğrudan doğruya yoktan, yokluktan. Descartes'ın icat ettiği modern özne artık bu aşamada. Şu anda yapay zekâyla ilgili en temel sorun bu. Bunun önüne geçmenin imkânı yok. Bunu başardığında aslında kıyamet kopmayacak, kıyamet zaten ilk insanın kıyamıyla, ayağa kalkışıyla birlikte koptu.
Bu durumda hem imkânsız hem de kaçınılmaz bir geleceğe doğru mu gidiyoruz?
Evet, tam olarak doğru ifade bu. Yok oluş teorisi hem mümkün değil hem de tam olarak oraya gitmek için var olduğundan kaçınılmaz. "Bu ifade de biraz teleolojik değil mi" filan denebilir ama zaten burada teleolojinin kendisi teknoloji. Yani teknolojiye tâbiyiz.
