İnsanlık, dijital bilincin egemen olduğu bir geleceğe doğru yol alırken büyük bir soru ile karşı karşıya: Kendi ürettiğimiz yapay zekâ teknolojisi sonunda bizi geride bırakarak, algoritmalarla yönetilen bir dünyada insanları modası geçmiş hale getirebilir mi? Bu sorudaki senaryo size distopik bir bilim kurgu romanından alıntılanmış gibi gelebilir ama dünya genelindeki en parlak zihinlerinden bazıları tarafından ciddi olarak değerlendiriliyor.
Yapay zekâ kavramının insan zekasını geride bıraktığı bir noktaya (genellikle "tekillik" olarak anılan bir an) ilerlemesi artık sadece spekülatif kurguya ilham kaynağı değil; bu, teknoloji meraklılarının, etik uzmanlarının ve siyasilerin de dikkatini çeken bir konu. Yapay zekânın insanlığa olası zararları ne zaman gündeme gelse tartışılan konu bu oluyor. Oysa bana göre asıl tehlike çok başka bir yerde yatıyor. Korkmamız gereken akıllı makineler değil, aptal insanlar.
Tekillik fikri genellikle yapay zekâ sistemlerinin "süper zeki" hale geldiği, yani yaratıcılık, genel bilgelik ve sosyal beceriler de dahil olmak üzere her açıdan insan zekâsını geride bıraktığı anla bağlantılıdır. Tekilliği ilginç kılan şey onunla ilişkili olan "zekâ patlaması" hipotezidir. Bu hipotez yapay zekânın belirli bir zekâ düzeyine ulaştığında, kendisini otonom olarak geliştirmeye başlayabileceğini ve bunun, zekâda insan yeteneklerini çok aşan hızlı ve üstel bir büyümeye yol açabileceğini öne sürüyor.
Buna göre kendi kendini geliştiren bu yapay zekâ, daha sonra daha akıllı varlıklar tasarlayıp inşa edebilir ve böylece insanların ne tahmin edebileceği ne de kontrol edebileceği bir zekâ güçlendirme döngüsünü başlatabilir. Yapay zekâ anlayamadığımız, tahmin edemediğimiz veya yönetemediğimiz eylemler yapmaya başlarsa bu gezegenin ana karar vericisi rolümüzü kaybettiğimiz anlamına gelecektir.
İnsanlık için varoluşsal bir risk
Tabiatıyla öngörülememezlik en önemli sorunlardan biri. Süper akıllı yapay zekânın hedeflerinin insani değerler ve çıkarlarla uyumlu kalmasını nasıl sağlayabiliriz? Yapay zekânın insan refahına kayıtsız veya düşmanca hedefler geliştirmesi veya onları evrimleştirmesi riski mevcut. Başlangıçta iyi niyetli olsa bile, eğer refahımız bir öncelik olarak görülmezse, bir yapay zekânın hedeflerine ulaşma yöntemleri insanlar için felaketle sonuçlanabilir. Hatta bu insanlık için varoluşsal bir risk bile olabilir.
Örneğin yapay zekâ, hedeflerine ulaşma arayışında kaynakları tekeline alabilir ve bu da insanların yoksullaşmasına yol açabilir. Aşırı senaryolarda insanların bir tehdit ya da gereksiz bir yük olduğuna karar verebilir ve bizi ortadan kaldırmak ya da boyunduruk altına almak için harekete geçebilir. Bu senaryolar elbette spekülatif ama bazı düşünürlere göre imkân dâhilinde. Nick Bostrom, Eliezer Yudkowsky, David Chalmers gibi çok sayıda düşünür bu konularda yoğun olarak çalışmalar yapmaktadır.
Ancak Daniel Denett'in başını çektiği bir başka kamp bu felaket senaryolarına şüpheci bir şekilde yaklaşıyor. Ben de şu aşamada kendimi bu kampa yakın görüyorum. Bana göre asıl tehdit yapay zekânın insandan daha akıllı hale gelmesi değil, insanın entelektüel görevleri yapay zekâya devrederek "aptallaşması" olabilir.
Yazının girişinde zikrettiğim senaryolar, böylesi süper zeki bir makine yapmaktaki karmaşıklığı hafife alıyor gibi görünüyor. Yapay zekâ çağına girdiğimize ve akıllı makinelerin gittikçe gelişip hayatın her alanında daha görünür olacağına elbette şüphe yok. Hatta toplumu radikal bir şekilde etkileyeceği aşikâr… Çok sayıda meslek kaybolma tehlikesi ile karşı karşıya. Ama yapay zekânın insanlığın yok olmasına veya dramatik kontrol kaybına yol açacağı senaryolarının çok uzağındayız gibi görünüyor.
İnsanların kaybettiği yetenekler
Bana göre asıl tehdit, kaderimizin efendisi olma konumumuzu gasp eden makineler değil. Bunun yerine, en son teknolojik araçlarımızın yeteneklerini abartma ve yetkinliklerinin çok ötesinde otoriteyi onlara bırakma eğilimimizin potansiyel bir sorun olduğunu düşünüyorum.
Mesela ulaşımı ele alalım. Havacılık ve denizcilik endüstrilerinin yanı sıra bireyler de navigasyon için GPS'e büyük ölçüde bağımlı hale geldi ve genellikle geleneksel yol haritaları yerine akıllı telefon uygulamalarını tercih ediyor. Bunun ise elbette bize kaybettirdiği bir yetenek var: GPS olmadan yön bulmak. Bunun gibi,tıpta bilgisayar tabanlı sistemler, kanser gibi hastalıkların erken evrelerini dikkate değer bir doğrulukla tespit etme konusunda insan teşhis uzmanlarından daha iyi performans gösteriyor. Bu durum, tıp eğitimi ve makinelerin teşhiste artan rolü göz önüne alındığında, geleceğin doktorları için gerekli olduğunu düşündüğümüz bilgileri yeniden düşünmemiz gerekip gerekmediği konusunda önemli soruları gündeme getiriyor. Bu da doktorların gelecekte bazı bilgi ve yeteneklerini kaybedebileceği anlamına geliyor.
Ya da benim de içinde olduğum eğitim dünyasını ele alalım. Dijital platformlar ve yapay zekâ destekli eğitimler, geleneksel öğrenme yöntemlerini yeniden tanımlıyor ve genellikle geleneksel sınıflarda geliştirilen derin, eleştirel düşünme becerileri üzerinde verimliliği ve kişiselleştirmeyi teşvik ediyor. Bu değişim eğitimin geleceği hakkında kritik soruları gündeme getiriyor.
Bu teknolojiler bilgiyi aktarma konusunda daha fazla sorumluluk üstlendiğinde, öğretmenin rolü ne olur ve öğrencilerin eleştirel analiz, yaratıcılık ve empati kapasitesini (yalnızca insana özgü olan ve algoritmalar tarafından o kadar kolay kopyalanamayan nitelikler) korumalarını nasıl sağlayabiliriz? Bu yeni öğrenim teknolojileri beraberinde yeni ölçme ve değerlendirme kriterleri getiriyor. Bunu denetleyen de yine makineler olacak gibi. İyi ama makinelerin öğretim ve değerlendirmeyi üstlendiği bir ortamın uzun vadede nasıl nesiller yetiştireceğini ne kadar iyi öngörebiliyoruz?
YZ ilerlerken insan gerilerse…
Dolayısıyla asıl tehlike, akıllı makinelere olan bağımlılığımızın artmasında ve bunun da bizi potansiyel olarak "kendimizi aptallaştırmaya" yöneltmesinde yatıyor. Tarih boyunca teknolojik gelişmeler hayatımızı kolaylaştırmayı amaçladı ancak yapay zekâ benzersiz bir zorluk sunuyor. Yalnızca fiziksel emeğin yerini alan araçlardan farklı olarak yapay zekâ, geleneksel olarak insani etki alanları olan, entelektüel çaba ve karar alma gerektiren roller üstleniyor. Endüstride makinelerin işlerin bir kısmını elimizden alması kaslarımızı zayıflattığı ortada... Spor yapmayan bir bireyin kas kitlesi eskinin çalışan bireyine göre daha düşük. Benzer şekilde yapay zekânın entelektüel çabayı elimizden alması "beyin kaslarımızın" zayıflamasına yol açabilir.
Akıllı makinelere bu kadar bağlı hale gelmemiz ise bir sürü yeni ciddi tehlikeyi beraberinde getiriyor. Mesela bu sistemler arızalanırsa veya güneşten koronal kütle atımı sonucu küresel elektronik altyapımız çökerse ne olur? Böyle bir krizi yönetebilecek yeterli bilgili insanımız olur mu? Neredeyse herkesin günlük işler için cep telefonlarına ve GPS'e bağımlı olduğu ve bu teknolojilerin ulaşımdan finansa kadar birçok sektörde kritik rol oynadığı bir çağda, uzaydan gelebilecek teknolojiyi etkileyebilecek tehditler ciddi bir endişe kaynağı oluyor.
Sorun yalnızca makinelerimizi bu tür olaylara karşı daha dayanıklı hale getirmekle ilgili değil. Bu, teknolojiye aşırı bağımlı olmaktan kaçınmak ve makinelerin toplumu yönetme yeteneğini asla abartmamamızı sağlamak için kültürel olarak nasıl uyum sağlayabileceğimizle ilgili. Entelektüel otoritemizi ve uzmanlığımızı makinelere bırakmadan, teknolojinin bize hizmet ettiği dengeyi nasıl koruyabiliriz? Bana göre bu, yapay zekânın ilerlemesiyle karşılaştığımız gerçek zorluğu temsil ediyor.
Bunun bazı örnekleri şimdiden hayatımızda. Öğrencilerim şimdiden ödevlerini yapay zekâya yaptırıp biz hocalarını kandırmak için en iyi araçları arar oldular. Dolayısıyla ödevlerini yapma işini yapay zekâya devretmeye başladılar. Bu böyle devam ederse yazma beceresinden yoksun bir neslin doğması kaçınılmaz hale gelecektir.
Çizgiyi net bir şekilde belirlemek
Teknolojiye artan bağımlılığımızla mücadele etmek için Denett'in savunduğu yaklaşımlardan biri, araç görevi gören makineler ile entelektüel işlerin yerini almayı amaçlayan makineler arasındaki çizgiyi net bir şekilde belirlemek. Bu sistemlerdeki gereksiz insanbiçimciliğin (gerçek doğalarını maskeleyen büyüleyici, gittikçe insana benzeyen etkileşimlerin) gizemini açığa çıkarmak ve bunlara meydan okumak çok önemli… Bir bilgisayarla etkileşime geçtiğinizde, kişinin aslında bir insanla değil, bir makineyle etkileşimde olduğu açıkça anlaşılmalıdır.
Teknolojik sistemlerimizdeki kusurları tespit edip vurgulamanın bir norm, hatta bir gurur meselesi haline gelmesi gerekiyor. Dahası, tıpkı sağlık hizmetleri reklamlarının olası yan etkileri listelemesi gerektiği gibi, mevzuatın teknoloji reklamlarının da yazılımın sınırlamalarını tam olarak açıklamasını zorunlu kılması zorunlu. Eksikliklerini kasıtlı olarak gizleyen veya şeffaflık olmadan insan yeteneklerini simüle eden sistemlerin sahtekârlık olarak etiketlenmesi gerekiyor. Bu tür aldatıcı teknolojilerin yaratıcılarının ciddi yasal sonuçlarla karşı karşıya kalması bir gereklilik.
Ben Denett'ten daha ileri gitmekten yanayım. Bana göre nasıl ki ilaçlar kullanılmadan önce kişiler üstündeki olası yan etkileri tespit etmek için çalışmalar yapılıyor ve bundan sonra piyasaya sunuluyorsa, yapay zekâ programlarının önemli bir kısmı benzer süreçler sonucunda piyasaya sürülmeli. Bu programların hem toplum hem de bireyin üstünde entelektüel, kültürel ve ahlaki etkileri ölçülmeli ve olası yan etkileri belirlenmeli.
Bu duruş aşırı gibi görünse de, bunu toplumlarımızın bugün nasıl işlediğine ilişkin daha geniş bir bağlamda anlamak çok önemli. Bilgi ve uzmanlık çeşitli sektörlere dağılmış durumda; politikacılar, bilim insanları, akademisyenler, iş dünyası liderleri ve acil servislerin her biri yapbozun bir parçasını tutuyor ancak hiç kimse bütünü kavrayamıyor. Uzmanlaşma arttıkça, bu parçalı uzmanlığın makinelere bırakılması tehlikesi daha da belirgin hale geliyor. Bu değişim, toplumsal karmaşıklıkların artmasına rağmen insanın bu karmaşıklıkları yönetme anlayışının ve yeteneğinin azaldığı bir paradoksal duruma yol açabilir.
Dijital kültürel emperyalizm
Yazımı fazla uzatmamak adına burada detaylı tartışamayacağım bir başka soruna daha işaret etmek istiyorum: Dijital kültürel emperyalizm. Makine öğrenmesi merkezli yapay zekâ -mesela ChatGPT gibi hayatımızdaki yapay zekâlar böyledir- çeşitli verileri inceleyip işleyerek gelişir. Yapay zekânın karar ve davranışlarını bu veriler şekillendirilir. Biz yapay zekânın tarafsız ve objektif olduğunu sanırız, oysa o eğitildiği veriler kadar tarafsız ve objektiftir.
Eğer veriler tek bir kültürden doğarsa, yapay zekânın davranışları da o kültürü yansıtır. Günümüzdeki yapay zekâların çoğu başta ABD olmak üzere batılı veriler ile eğitilmektedir. Bu yapay zekâların dünyayı domine etmesi halinde bir Batılı dijital kültürel emperyalist çağ ile karşı karşıya kalabiliriz. Bu yüzden farklı kültür ve medeniyetlerin yapay zekâ devrimine katılım sağlaması önemlidir.
Makinelerde bir şey ters gittiğinde ya da saçmaladıklarında basit bir çözüm uygularız: Yeniden başlatma. O da olmazsa fabrika ayarlarına döneriz. Ancak medeniyetimizi makinelere teslim ettiğimizde olası sorunlar karşısında onu sıfırlamak ya da fabrika ayarlarına dönmek bir felaket olacaktır. Böyle bir tehlikeye düşmemek için insanlık olarak sadece parayı/kârı maksimize etmekle ve rahatlık ya da hazla meşgul olmamalıyız.
Varoluş için bize bırakılan çevreyi nasıl korumakla yükümlüysek, sosyolojik çevremiz olan medeniyeti de korumak ve ileriye taşımakla da sorumluyuz. Bu konuda aşırı gibi görünse de bazı önlemler almak hayati önem taşımaktadır.
