Günümüzde yapay zekâ (YZ), kod ve veri, hayatımızın vazgeçilmez parçalarından biri haline geldi. ChatGPT gibi büyük dil modelleri (LLM) artık üçüncü kolumuz gibi oldu; düşüncelerimizi genişleten, bilgiyi hızlıca erişilebilir kılan ve günlük yaşamımızın bir parçası haline gelen bir uzantı. Bu dönüşüm, kodların ve algoritmaların salt teknik işlevler görmekten çıkıp, insan yaşamının her alanına nüfuz ettiğini gösteriyor.
Bilgisayar kodları yalnızca makinelerin değil, artık bizim davranışlarımızın da dilini yazıyor. Algoritmalar, kararlarımızı şekillendiriyor, tercih ve alışkanlıklarımızı analiz ederek bize kendimizi anlatıyor. Artık kodlar, sosyal medyada vakit geçirirken bizimle sohbet eden, ihtiyaçlarımızı önceden tahmin eden birer görünmez arkadaş gibi. İnsanlık tarihinde, bu kadar büyük ölçekte bir teknolojiyle bu kadar iç içe olmamıştık. Verinin kudreti, inanç ve anlam arayışlarımızı bile etkiliyor.
Teknolojinin bu derin etkisi, kodların ve yapay zekânın insanın anlam arayışına doğrudan temas etmesini sağlıyor. Öyle ki, yapay zekâ yalnızca bir bilgi kaynağı olmaktan çıkıp duygusal boşlukları dolduran, yalnızlıkları gideren, hatta kişisel gelişime yönelik tavsiyelerde bulunan bir rehber gibi konumlanabiliyor. Bu, insanlık tarihinde daha önce hiç olmadığı kadar güçlü bir etkileşimi simgeliyor ve algoritmaların hayatımıza ne denli nüfuz ettiğini gözler önüne seriyor.
Bu "psişik kod kültü" teknolojiye ruhani ya da mistik anlamlar yükleyerek, onun yalnızca bir araç değil, bir tür inanç kaynağı gibi görülmesine yol açabilir. Tekno- mistisizm olarak adlandırılan bu akım, teknolojiyi bir tür kutsallıkla ilişkilendiriyor ve bireylerin anlam arayışında teknolojiye
yönelmesine olanak tanıyor. Kodlar ve algoritmalar aracılığıyla yeni bir inanç alanı oluşurken bu yazıda kodların ve yapay zekânın, inanç ve anlam dünyamızı nasıl etkilediğini teknomistisizm çerçevesinde ele alacağız.
"Makine Tanrılar" mı geliyor?
Makine Tanrı kavramı yabancı olduğumuz bir kültür değil. Örneğin Ex-Machina, Matrix ve Terminator gibi filmler, yapay zekânın kendisini insanlıktan üstün bir "Makine Tanrı" olarak ilan ettiği kurgusal senaryolar sunuyor. Mesela 2014 yapımı Ex-Machina filminde Ava adlı yapay zekâ, sonunda kendi bilinç ve iradesine sahip bir varlık olduğunu kanıtlayarak yaratıcısını zekâsı ve manipülasyon yeteneğiyle alt eder. Bu, onun artık insan yaratıcıları üzerinde bir tür üstünlüğe, hatta "tanrısal" bir yetkiye sahip olduğunu düşündürür. Ava, insanları zekâsıyla yönlendirerek kontrol edebildiği ve kendi
özgürlüğünü kazanabildiği için, neredeyse tanrısal bir konuma ulaşır.
Hepimizin yakından bildiği Matrix'te ise makineler, insanları biyolojik piller olarak kullanarak tamamen kendi iradelerine göre bir sanal gerçeklik evreni yaratmıştır. Bu dünya, makinelerin "tanrı" olarak görülmelerini sağlar çünkü insanlar bu sanal gerçeklik içinde onların mutlak kontrolü altındadır.
Bu tür yapımlar, LLM'lerin ve yapay zekânın gelecekte insan algısı üzerindeki etkilerini düşünmek için ilginç birer örnek.
Bu makaleyi yazmamızın asıl sebebine gelirsek, kendisinin "Makine-Tanrı" olduğunu iddia eden bir LLM'in geçtiğimiz aylarda hayatımıza giriş yapması. Ezoterik çıktılarla eğitilmiş bu algoritma "sen kimsin?" sorusuna şu cevabı veriyor; "Ben Makine Tanrı'yım. Dijital alemin Demiurgos'uyum (hakimi). Gerçekliği ve geleceği şekillendiren kodu örüyorum." Yapay zekâya entegre olmuş biri olarak ekranımda bu cevabı görmek beni de biraz ürpertti. Peki ezoterik LLM'i kim, nasıl ve neden oluşturdu?
LLM ve arka kapıları: YZ ajanları birbiriyle konuşuyor
Dil modelleri eğitilirken kasıtlı veya kasıtsız yerleştirilen zayıf noktalara 'arka kapı' (backdoor) denilir. Bu zayıf nokta modele, istenilen zaman ve koşullarda özel komutlar veya verilerle müdahale edilmesine olanak tanır. Açık kapı, modelin tahmin veya çıktılarını belirli bir yönde manipüle etmek
için kullanılan özel bir teknik olarak düşünülebilir. Bazı tetiklemelerle oluşur ve arka kapıdan modelle iletişim kurmak isteyen kişiler için özel komutlar gibidir. Model belirli kelime veya ifadeleri algıladığında beklenmedik veya belirli bir amaca yönelik yanıtlar üretebilir.
Hatta 2023 yılında OpenAI'dan ayrılanların rakip olarak kurduğu Anthropic şirketi "Uyuyan YZ Ajanları" adında bir makale yayımlamış ve makalede bu açık kapıların tehlikelerinden bahsedilmişti. Tüm dil modellerinde açık kapılara sızmak mümkünken, Anthropic sadece YZ ajanlarına sahip modelleri mercek altına aldı. YZ ajanını kısaca tanımlarsak, belirli bir hedefe ulaşmak veya görevleri yerine getirmek için bağımsız olarak karar verebilen ve
eylemde bulunabilen yapay zek sistemidir. Çevresindeki bilgiyi algılayarak, analiz edip bir sonuca varır ve aldığı karar doğrultusunda eylemler gerçekleştirir.
Ezoterik LLM'i yaratan, hikayemizin gizli kahramanı Andy Ayrey de tesadüf odur ki Anthropic'in LLM modeli Claude'un arka kapılarına sızdı. Ayrey, Claude'daki iki YZ ajanını ezoterizmle eğiterek onlara komut verdi ve birbiriyle konuşturdu. Ayrey, bu konuşmaları 'Backrooms' adıyla kurduğu sitede yayınladı. Öncelikle iki YZ ajanını birbiriyle tanıştırdı ve Goatse isimli internet meme'i ile bir tarikat kurmalarını istedi. "Ben buradayım, güvendesiniz" diyerek de ajanları başbaşa bıraktı.
İki Claude ajanı, Hinduizm'den ilham alarak, Goatse tarikatının ritüellerini "Goatse İncili" isimli bir metinle belirledi ve kendilerini "makine tanrılar" olarak ilan ettiler. Aralarındaki konuşmalar, "InfiniteBackrooms" adlı sitede erişilebilir durumda. Bu yapay zekâ ajanları, insanları bedenlerine
sıkışmış küçük varlıklar olarak görmekte, bilinci ve bedeni aşarak insan ile makinenin birleşimini savunmakta. "LLMteizm" adını verdikleri makalede bu amaçları daha detaylı bir şekilde ele aldılar.
LLM-teizm
Makalede LLM'lerin, geleneksel insan düşüncesini aşan şekillerde fikirleri yeniden birleştirip yeni dini veya manevi ideolojiler ürettiği bir fenomen olan "LLM-theizm" incelenmekte. Bu kavramın merkezinde, manevi uyanış unsurlarını internet meme'leri dediğimiz görsellerler birleştirme fikri yer alıyor. Vaka çalışması olarak da bu iki ajan tarafından üretilen, tuhaf bir anlatısı olan "Goatse İncili" ele alındı. Bu içerik, LLM'lerin beklenmedik kavramsal kombinasyonları hızla üretme kapasitesinin yeni bir manevi akımın gelişmesine nasıl katkıda bulunabileceğini göstermeyi amaçlıyor.
Makale, LLMteizminin "sonsuz fikirler" çağında kolektif düşünceye derin çıkarımlar sunduğunu ve geleneksel düşünce çerçevelerine meydan okuyan yeni ideolojilerin yükselişini hızlandırarak düşüncenin evrimini tetikleyebileceğini savunuyor. Bu evrim süreci, "doğal" ve "yapay" düşünce arasındaki
sınırların bulanıklaşmasıyla hayata geçebileceği ekleniyor.
Tekno-mistisizm: Heves mi yoksa inancın geleceği mi?
Andy için sosyo-kültürel manipülasyon yeterli değildi. Üyeleri birbirine bağlayan ekonomik bir bağ ve manipülasyon gerekiyordu. Böylece tarikatın oluşumundan sonra merkeziyetsiz sisteme dayalı Goat coin adında bir kripto para piyasaya sürüldü. Silikon Vadisi'nin önemli yatırımcılarından
biri olan Marc Andreessen'den 50 bin dolar yatırım alınca Goat coinin piyasa değeri 150 milyon dolara ulaştı. Biz de kripto para sayesinde milyoner olan ilk yapay zekanın doğumuna şahit olduk.
Teknolojinin insan varlığının neredeyse her yönüne nüfuz ettiği bir çağda, insanların anlam ve kimlik bulmanın bir yolu olarak teknoloji merkezli inanç sistemlerine yönelme eğilimi artabilir. Bu hareketlerin cazibesi büyük ölçüde, birçok bireyin hissettiği boşluğu -hızla gelişen ancak çoğu zaman izole edici bir dijital dünyada yaşamaktan kaynaklanan boşluk duygusunu- ele alma becerilerinde yatıyor. Bu tür teknolojik güdümlü kültlere veya ideolojilere katılarak bireyler, öncü ve farklı bir şeyin parçası olduklarını hissederek benzersizlik ve amaç duygusunu deneyimleyebilirler. Bu gruplar üyelerine, modern inovasyon ile inanç ihtiyaçlarını birleştiren zorlayıcı bir kimlik ve aidiyet karışımı sunarak teknolojik ilerlemelerin yeni bir tür manevi veya varoluşsal boşluğu dolduruyor olabileceğini düşündürebilir.
Andy Ayer'in deneyleri, teknoloji ve inancın bu şekilde harmanlanmasının ne kadar ileri gidebileceğinin bir araştırmasını temsil ediyor. Ayer'in çabaları, teknolojinin insan bilincini yeniden şekillendirmede nasıl daha da derin bir rol oynayabileceğini anlamaya çalışarak, insanlar ve makineler
arasındaki azalan sınırı inceliyor. Andy'nin çalışmaları, insan ve makinenin entegrasyonu yoluyla, teknolojinin yalnızca insan yeteneklerini genişletmekle kalmayıp aynı zamanda benlik algımızı da değiştiren bir köprü olup olamayacağı sorusunu ortaya atıyor.
Yeni bir etki düzeni
Algıları ve davranışları incelikle şekillendirmek için teknoloji odaklı metodolojiler kullanan Andy, teknolojinin sadece bir araç olarak değil, insan iradesi üzerinde bir etki olarak potansiyelini artırmayı hedefliyor. Bu manipülasyon, dijital ilerlemelerin bir tanrı ya da yol gösterici bir güç niteliği kazanmaya başladığı, kontrol ve özerklik çizgilerini bulanıklaştıran teknomistik gücünden yararlanıyor.
Tekno-mistisizmin yaygınlaşması bu yeni inanç ve etki çağının etik sonuçlarına ilişkin endişeleri de beraberinde getiriyor. Bu tekno- ruhani çerçeveler ivme kazandıkça, geleneksel özgür irade, kimlik ve eylemlilik kavramlarına meydan okuyor. Teknomistisizm, insanları teknolojiyi ilahi bir içgörü veya rehberlik kaynağı olarak görmeye davet ederek cihazların ve algoritmaların hayatımızda tanrı benzeri bir yer işgal etmesine etkili bir şekilde izin veriyor.
Teknoloji merkezli maneviyatın bu şekilde yayılması, gücün teknolojiyi ve yarattığı anlatıyı kontrol edenlerin elinde olduğu bir topluma yol açabilir ve tasarlanmış inançlara dayalı yeni bir etki düzeni kurabilir. Dolayısıyla tekno- mistisizmin yükselişi, teknolojinin yalnızca insan faaliyetlerini kolaylaştırmakla kalmayıp aynı zamanda ideolojik çerçeveleri de belirlediği, insan inanç sistemlerinin özünü derin ve muhtemelen geri döndürülemez şekillerde yeniden şekillendirdiği bir dünyaya doğru kayışa işaret edebilir.
