2016 seçim gecesi Amerika'da yalnızca bir seçim sonucu açıklanmadı. O gece yeni bir dijital güç mimarisinin miladı oldu.
Donald Trump kazandıktan sonra yeni ama gizli bir teknolojik altyapının şifreleri yavaş yavaş deşifre oldu. Ortada, görünmeyen bir seçim mühendisliği vardı. İlk kez bir kampanyanın kaderi saha yerine veri altyapısında şekillenmiş oldu.
O kampanya klasik siyaset diliyle yürütülmedi. Çünkü ortada klasik bir kampanya yoktu. Görünen taraf mitingler, televizyonlar ve sloganlardı. Görünmeyen taraf ise sürekli çalışan bir veri operasyonuydu. İnsan davranışı ölçüldü, sınıflandırıldı, bölündü ve yeniden üretildi.
Kullanılan altyapının merkezinde tek bir unsur bulunuyordu. Onun adı ise: Veri. Sürekli akan, sürekli işlenen, sürekli yeniden anlamlandırılan bir güç katmanı. İşte noktadan sonra tablo yalnızca siyasi bir tartışma olmaktan çıktı.
Bu kırılma noktasından sonra yapay zekâ çok hızlı ve çok güçlü bir şekilde gelişmeye başladı. Çünkü elde edilen sonuçlar bu araçların finansmanını güçlendirmiş oldu. Devasa finansmanlarla yapay zekâ araçlarını geliştirenler zaman geçtikçe yapay zekâya en sert çıkış yapanlar haline dönüştüler. Çünkü sistemi kuranlar, sistemin kontrol edilebilirliği konusunda aynı güvene sahip değildi artık.
Sert çıkışların merkezinde Elon Musk yer aldı. Yapay zekâyı geliştiren aktörlerden biri olarak aynı teknolojinin sınırları konusunda en sert uyarıları yapan isimlerden biri haline geldi. Süper yapay zekâ tartışmaları, kontrol edilemeyen yapay zekâ senaryoları ve insanın karar mekanizmasını aşabilecek sistem ihtimali gibi başlıklar teknoloji ve politika önderlerince yoğun olarak tartışıldı.
Algı üretmeye başladı
Trump ile başlayan gerçeklik algısı çok daha büyük bir evreye ulaştı. Yapay zekâdaki asıl dönüşüm istisnai olaylarda değil de sıradan hayatın içine sessizce yerleşen sürekli izleme düzeninde gerçekleşti. Artık gözetim farkına varmadığımız bir standart haline geldi. Her akıllı cihaz bir kayıt noktası. Her uygulama bir veri toplayıcısı. Her etkileşim bir analiz girdisi.
Mahremiyet burada teknik bir kavram olmaktan çıkıyor. Davranışsal veri setine dönüşüyor. Veri ekonomisinin gözetim boyutu artık soyut bir tartışma alanı değil. Somut olaylarla, mahkeme kayıtlarıyla ve kamuoyuna yansıyan krizlerle okunuyor.
Yapay zekânın en sert sonuçlarından biri, artık gerçeğin kendisini de üretilebilir hale getirmesidir. İlk büyük şok, finansal dolandırıcılık vakalarıyla ortaya çıktı. Birçok raporda yer alan örneklerde, üst düzey yöneticilerin sesleri ve görüntüleri yapay zekâ ile kopyalandı ve bu içerikler kullanılarak milyonlarca dolarlık para transferleri yapıldı. Telefonun ucunda ya da videoda gerçek bir insan yoktu. Ama ses gerçekti. Ton gerçekti. İkna gücü gerçekti.
Bu dönüşüm toplumun en temel varsayımını yıktı. "Gördüğüm şey gerçektir" düşüncesi çöktü. Yapay zekâ teknolojisi yalnızca içerik üretmedi. Algı üretmeye başladı. Bir görüntünün sahte olduğunu kanıtlamak görüntüyü üretmekten daha zor hale geldi.
Sahte olan, gerçek kadar ikna edici hale geldiğinde doğruluk teknik bir mesele olmaktan çıkar. Sosyal bir tartışmaya dönüşür. Ve bu noktada en kritik soru ortaya çıkar. Bir içerik gerçek olmadığı halde gerçek kadar güçlü ise toplum hangisine inanacaktır.
Deepfake teknolojisinin en sert etkilerinden biri; savaş propagandasında görüldü. Ukrayna-Rusya ve ABD-İsrail-İran savaşı sürecinde, sahte videolarla askerlerin teslim olduğu, komutanların açıklama yaptığı veya sivillere yönelik saldırıların farklı şekilde gösterildiği içerikler sosyal medya akışlarına yayıldı. Bu içeriklerin önemli bir kısmı, gerçeklik algısını bozmak için özel olarak üretilmiş senaryo videolarıydı.
Operasyonel etki
Bazı durumlarda bu içerikler yalnızca bilgi kirliliği yaratmadı. Operasyonel etki üretti. Yanlış bilgilendirme sahadaki hareketlilik algısını değiştirdi. Cephe gerisinde panik oluşturdu. Karar süreçlerini yavaşlattı.
Yapay zekâ destekli hedefleme sistemleri modern çatışma ortamının en kritik bileşenlerinden biri haline geldi. Askeri operasyonlarda yapay zekâ destekli sistemlerin, sahadaki görüntüleri analiz ederek hedef tespiti yaptığı ve insan operatörün karar süresini saniyelere indirdiği raporlandı. Bu durum, karar mekanizmasını hızlandırırken aynı zamanda sorumluluk zincirini de bulanıklaştırdı. Saldırı kararını artık algoritmalar belirliyor.
Bazı ülkelerde kullanılan algoritmik kimlik tespit sistemleri kimi vakalarda yanlış eşleştirmeler üretti. Bu hatalar sonucunda masum bireyler suç şüphesiyle gözaltına alındı. Sistem "yüksek olasılık" dedi. İnsan kararı ikinci plana itildi. Sonuç, geri dönüşü zor hukuki süreçler oldu.
Büyük platformlarda yaşanan veri ihlalleri milyonlarca kullanıcının konum, iletişim ve davranış bilgilerinin dış aktörlerin eline geçebildiğini gösterdi. Bu veriler yalnızca reklam amaçlı kullanılmadı. Sahte hesap ağları, dolandırıcılık sistemleri ve hedefli manipülasyon kampanyaları için altyapı oluşturdu.
Gerçeklik zeminindeki çatlak büyüdükçe, bu boşluğu dolduran güç etkisini artırdı. Bunun adı ise: Algoritma. Çünkü algoritmaların temel ölçütü doğruluk değil. Ölçütü etkileşim.
Etkileşim arttıkça içerik öne çıkıyor. Öfke yükseldikçe görünürlük artıyor. Tepki büyüdükçe yayılım hızlanıyor. Sistem, sakinlik yerine gerilimi ödüllendiriyor.
Asıl kırılma gelecekte…
Öfke, korku ve aidiyet duygusu; sistemin en çok beslediği sinyaller haline geldi. Böyle olunca her kullanıcı kendi gerçeği içinde yaşamaya başladı. Aynı toplum içinde birbirine temas etmeyen farklı bilgi evrenleri oluştu. Kutuplaşma artık ideolojik bir sonuç olmaktan çıkıp algoritmik bir üretim haline geldi.
Bu noktaya kadar anlattıklarım geçmişin kırılmaları gibi görünebilir. Seçimler, veri skandalları, algoritmalar, deepfake içerikler ve savaş teknolojileri… Hepsi yaşandı, kayda geçti ve tartışıldı. Fakat asıl kırılma gelecekte ortaya çıkacak.
Yaklaşan ilk kırılma, kişisel gerçeklik çağının başlaması. Aynı olayın herkes için farklı bir versiyonunun üretildiği bir düzen ortaya çıkacak.
İkinci kırılma karar mekanizmalarında yaşanacak. Sistemler öneri sunmaktan öteye geçip karar üretmeye başlayacak.
Üçüncü kırılma gerçeklik sanrılarında ortaya çıkacak. Deepfake artık var olanın yalan versiyonları üretmeyecek. Gerçek zamanlı bir sanal üretim hattı haline gelecek.
Dördüncü kırılma otorite yapısında görülecek. Kontrol tek bir merkezde toplanmıyor. İleride daha da dağılacak. Müdahale ve kontrol daha zor olacak.
Beşinci ve en kritik kırılma davranışın kendisinde yaşanacak. Sistem artık insanı anlamakla yetinmiyor. İnsanı yönlendirme aşamasına da geçiyor. İleride seçimlerimiz kedi seçimlerimiz, düşüncelerimiz kendi düşüncülerimiz, yargılarımız kendi yargılarımız olmayacak.
Son söz: Ben yapay zekanın nimetlerinden faydalanmak istiyorum ama aynı zamanda halâ kendim olarak kalmak istiyorum.
*MAMUT Kurucu Ortağı
