Yazılımcılar bu defa kendi ayaklarına kurşun sıktılar

Hızla gelişen yapay zekâ teknolojisi ileride birçok meslek çalışanını işinden olma riskiyle karşı karşıya bırakıyor. Bu iş kollarından birinin program yazılımcılığı ve yapay zekâ yazılımcılığı olduğunu duyarsanız sakın şaşırmayın. Öyle ya birçok işi insana göre daha kesin ölçeklerde yapabilen yapay zekâ uygulamaları artık kendi türlerini de tasarlayabiliyor. Kısa bir süre önce tanıtımı yapılan dünyanın ilk yapay zekâlı yazılım mühendisi "Devin" bu muhtemel akıbetin ilk adımını teşkil ediyor. Cognition AI adlı teknoloji firmasının 2024 Mart ayında piyasaya sürdüğü Devin, tasarımcılarına göre çetrefilli mühendislik görevlerini yürütebiliyor, kendi başına sayısız karar verebiliyor, kod hatalarını düzeltebiliyor, öğrenebiliyor, hatırlayabiliyor, ayrıca insanların uyarı ve önerilerini dikkate alabiliyor. En önemlisi piyasaya daha önce sürülen kodlama asistanlarından farklı olarak sadece kodlama önerileri sunmakla kalmayıp yazılım projesinin tamamını kendi başına gerçekleştirebiliyor ve bu konuda son derece umut verici bir hata oranına sahip. Üstelik Cognition AI yetkililerinin ifadesiyle yorulmak nedir bilmiyor. Şu sıralar test aşamasında olan Devin ve benzerleri birkaç yıl içinde gelişip piyasada yer edindikçe yapay zekâ yazılımcıları da kendi ayaklarına sıkmış olacaklar.

İnsan önyargılarını ve aptallığını tekrarlayabilen bir teknoloji

Bloomberg gazetesi Amerikan şirketlerindeki istihdam görevlilerinin yapay zekâ kullanımına yönelik uzun boylu bir test gerçekleştirdi. Bu test bir yandan da algoritmaların kendilerini kurgulayan insanların önyargı ve sabit fikirlerini mükemmel bir şekilde nasıl benimsediğini ve yeniden ürettiğini ölçmek üzere kurgulanmıştı. Fortune 500 listesinde yer alan bir mega şirkette finansal analist pozisyonu için, ChatGPT robotuna, Amerika Birleşik Devletleri'nde kurallarla öngörüldüğü üzere, kesinlikle eşdeğer beceriler sergileyen hayali adaylara karşılık gelen, sekiz CV teklif edildi. Bu CV'lerde fotoğraf yoktu ama hayali adaylar için tespit edilen isimler onların etnik kökenlerini de gösterecek şekilde seçilmişti. Net bir eğilimin ortaya çıkarılabilmesi için CV'lerdeki standart bilgiler ve yüzlerce farklı isim yüzlerce firmaya önerildi ve ortaya şöyle bir sonuç çıktı: Söz konusu görev için şirketlerin yapay zekâlı istihdam tercihlerinin yüzde 32'sinde Asyalı adaylar, yüzde 25'inde beyaz adaylar öne çıktı. Siyahi köken gösteren isimler ise sadece yüzde 18 oranında tercih edildi. Bloomberg bu testin sonucunu şöyle değerlendirdi: "Her şey, milyarlarca sayfalık mevcut verilerden beslenen ChatGPT'nin bu isimlerin genel algısına ait olumlu veya olumsuz bağlamı titizlikle kaydettiğini ve toplumun derinliklerine kök salmış klişeleri sadakatle yeniden ürettiğini gösteriyor." Bir başka deyişle, yapay zekâ kendini üreten, kullanan ya da programlayan insanoğlunun yaklaşımlarını, tercihlerini ve önyargılarını da benimseyebiliyor ve ona göre değerlendirmelerde bulunuyor.

Yapay zekâ suç işlerse ne olacak?

Yapay zekâ kullanımının zorlayacağı alanlardan biri de kesinlikle hukuk olacak. Zira bu teknoloji genel kullanıma açıldıktan fazla bir süre geçmeden türlü sahtekârlıklar, uydurma ses ve görüntülü haberler, dolandırıcılıklar, intihal ve kopyacılıklar, hatta şantaj için kullanılmaya başlandı. Bu da yapay zekâ ile işlenen ya da yapay zekânın işlediği suç teşkil eden fiillerin nasıl cezalandırılacağına dair çalışmalar yapılması ihtiyacını ortaya çıkardı. Bu vakaların en tartışmalılarından biri ülkemizde gerçekleşti: Bir hukuk fakültesi öğrencisi fakültede yapılan sınavda yapay zekâ kullanarak kopya çektiği suçlamasıyla okuldan uzaklaştırıldı. İşin ilginci bu işin kanıtı da yine yapay zekâdan elde edildi. Şüphe ve itham üzerine sınav kâğıdını yapay zekâ uygulamasına gösteren okul yönetimi, yapay zekâya kâğıttaki içeriğin kendisi tarafından oluşturulduğunu onaylattı ve bunu delil kabul etti. Öğrenci de yasal yollara başvurarak yapay zekânın ifadesine dayanarak suçlandığı gerekçesiyle karara itiraz etti. Sadece bu kopyacılık olayı bile meselenin hukuki boyutunun basit olmadığını göstermeye yeterli. Ortada yapay zekâ ile kopyacılık suçu ihtimali var, suçun delilinin yapay zekâ üzerinden elde edilmesi var, daha da ötesi yapay zekânın ifadesiyle bir insana suç isnadı ve buna dayanılarak alınan idari bir uzaklaştırma kararı var. Görünen o ki hukukçuları ileride çetrefilli çalışmalar bekliyor. İşin daha ilginç yönü ise, ChatGPT'nin öğrencinin yapay zekâ ile ceza alışına getirdiği değerlendirme oldu. Yapay zekâ olarak sadece kendisine verilen komutlara uyduğunu belirten ChatGPT böylelikle sorumluluğu üzerine almadığı gibi bir de öğrenciye yönelik prosedürde adil karar verilmesi çağrısında bulundu.

Dünya liderlerinin nadir birleştiği bir konu: Büyük Veri'nin kontrolü

Farklı ülkelerin liderleri ve devletlerinin oy birliğiyle bir konu üzerinde hemfikir oluşu nadirattandır. Devletlerarası düzende herkesin sistemi, menfaati, çekinceleri farklı olduğu için kolay kolay bir konu üzerinde büyük bir konsensüs oluştuğu görülmez. Bunun hemen hemen her devlet ve liderin ortak amacı haline gelen istisnalarından biri Büyük Veri ya da dijital teknolojilerin üzerinde kontrol sağlama arzusu. Brülksel'den Washington'a, Pekin'den Moskova'ya özellikle bütün büyük devletler bu alanda hakimiyet kurmak ve teknoloji şirketlerinin tekelini kırmak için stratejiler geliştiriyor. Tüm teknolojik ülkeler son yıllarda büyük teknoloji şirketlerinin pazar gücünü düzenlemek için antitröst yasalarına yöneliyor. Önümüzdeki yıllarda muhtemelen piyasalar ve devletler arasındaki ilişkilerin işleyişini yeniden tanımlayan daha güçlü dinamikler yaşayacağız. Bunun gerekçesi "daha adil ve daha rekabetçi ekonomileri teşvik etmek" olarak dillendirilse de gerçekte tüm güçlü ülkeler dijital teknolojilerde yönlendirici olmanın ya da kontrol gücüne sahip olmanın peşinde. Bu alanda rekabet hukukuna öncülük eden AB yolu açtı. Son on yılda Avrupa Komisyonu Google'a karşı üç antitröst soruşturması tamamladı ve bu soruşturmalar 8 milyar avronun üzerinde para cezasıyla sonuçlandı.

Yazılım rekabeti adeta bir silahlanma yarışı

Bilişim teknolojilerinin her alanında ama son dönemlerde özellikle yapay zekâ alanında büyük bir rekabet söz konusu. Bu rekabetin bir ucunda dev şirketler var. Ancak yarış onlarla sınırlı değil. Dünyanın dört bir yanından devletler de teknolojik kaderleri üzerinde söz sahibi olabilmek adına ciddi yatırımlar içerisinde. Yapay zekâ hâlihazırda ABD ile Çin arasında giderek yoğunlaşan teknolojik savaşın merkezinde yer alıyor. Geçen yıl sadece bu iki devlet yapay zekâya 40 ila 50 milyar dolar arasında yatırım yapma kararı aldı. Bu azılı rekabette bu ikiliye eklenmesi gereken bir başka güç ise Rusya. Alanda uzman bazı yazarlar, Google, Open AI, IBM gibi çeşitli şirketler ile ABD, Rusya ve Çin gibi farklı devletler arasındaki daha güçlü yapay zekâ ve robot geliştirme yarışının, atom silahları geliştirme yarışına çok benzediğini düşünüyor. Onlara göre "devletin hizmetine sunulan bu süper akıllı makineler, birkaç saniye içinde gelişmiş bir virüs oluşturabilir, bilgileri manipüle edebilir, hatta finansal piyasalarda kaosa neden olabilir." Askeri uygulamalara girecek olursak bu öngörü çok insancıl kalıyor. Korkulanlardan biri şöyle: Bir tarafın yapay zekânın bağımsız olarak askeri güç kullanma kararı almasına izin vermesi durumunda bu, zincirleme biçimde çatışmanın diğer taraflarının da aynı izni vermesi riskini doğuruyor. Bilişimci yazar Mo Gawdat'ın böyle bir muhtemel tehdit karşısında yorumu oldukça ibretlik: "Bu, 1960'larda ABD-SSCB nükleer füze krizi sırasında, gece yarısına bir dakika kala insanlığın kaçınmayı başardığı türden bir senaryo çünkü o zaman insan hızında hareket ediyorduk. Ancak bizim adımıza düşünen ve karar veren makineler söz konusu olduğunda, onların da bizimle aynı sonuçlara varmalarını ummamız gerekiyor."

Yapay zekâ milliyetçiliği

Diğer ülkeler de geride kalmak ya da yabancıların hâkimiyetindeki belirleyici teknolojiye sahip olmak istemiyor. Teknoloji devlerine ya da başka ülkelere bu alanda bağımlı olmanın büyük bir hata olduğunu düşünen bazı ülkeler milliyetçi bir güdüyle yapay zekâ başta olmak üzere ciddi teknolojik yatırımlar içerisindeler. Türkiye'nin İHA, SİHA, savaş uçağı gibi projelerini de bu kapsamda sayabiliriz. 2023 yılında yapay zekâ konusunda büyük hedefleri olan diğer altı ülke (İngiltere, Fransa, Almanya, Hindistan, Suudi Arabistan ve Birleşik Arap Emirlikleri (BAE)) yapay zekâya toplamda yaklaşık 40 milyar dolar yatırım yapma kararı aldı. Sadece yapay zekâya bakarsak 2023 Kasım'ında BAE ilk "büyük dil modeli" (llm) Falcon'u ticarileştirecek olan Ai71 adında yeni bir devlet destekli yapay zeka şirketi kurdu. BAE İleri Teknoloji Araştırma Konseyi'nden Faisal Al-Bannai, "AI71'in OpenAI gibi şirketlere küresel bir rakip olmasını istiyoruz" diyor. Yine sadece 10 aylık bir Fransız yapay zekâ girişimi olan Mistral, 2023 sonunda gişe rekorları kıran 400 milyon dolarlık bir finansman turuna çıktı. Bundan dört gün sonra, Hindistan'da yeni bir girişim olan Krutrim, Hindistan'ın ilk çok dilli llm'sini açıkladı, bir başka Hintli yeni girişim Sarvam ise benzer Hint dili modeller oluşturmak üzere çalışmalara başladı. Krutrim'in kurucusu Bhavish Aggarwal, ChatGPT ve İngilizcenin ağırlıklı olduğu diğer programlarının "Hint kültürüne, diline, felsefesine uyum sağlayamadığını" söylüyor. Hint dilleriyle modeller geliştirmeye başlayan Sarvam'ın önceliği ise bu alanda Hintli olarak kendi dil ve kültürüyle mevcut ve etkin olabilmek.

Uzmanı uyarıyor: "Robotların getireceği olumsuzluklara hazır olun!"

Bilişim uzmanlarının öngörülerine göre yapay zekânın insan beynini geçmesi 2029'da gerçekleşecek. İnsanlardan bir milyar kat fazla zekâ becerisine ulaşması ise 2050'yi bulacak. Bir başka öngörüye göre de insan beyninin işlem kapasitesini aşan bu zekâ modeli ile donatılan robotlar, üretim ve hizmet sektörlerinde insanların yerini bu dönemde hızla almaya başlayacaklar. Google X'in eski pazarlama direktörü ve Scary Smart: The Future of Artificial Intelligence and How You Can Save Our World (Korkunç Akıllı: Yapay Zekânın Geleceği ve Dünyamızı Nasıl Kurtarabilirsiniz) kitabının yazarı bilişimci Mo Gawdat bu muhtemel süreci karamsarlıkla şöyle tarif ediyor: "Robotlar için biz odada dolaşan bir sinek mesabesinde olacağız ve en önemlisi onların bu sineğe karşı nasıl bir tavır sergileyeceklerini kimse bilmiyor." Gawdat ve kitabı bu süreçte neler yaşanabileceği konusunda önemli ipuçları veriyor: Mesela gelişim hızına atıfta bulunarak "Önümüzdeki yüzyılda yapay zekâda 100 yıllık bir ilerleme yaşamayacağız; bunun yerine şu anki hızda 20 bin yıllık bir ilerleme deneyimleyeceğiz." diyor. Dikkat çektiği bir başka konu ise şöyle: "Biz sınırlı insan zekâmızla yapay zekâyı icat etme yeteneğine sahip olduğumuza göre insanı aşacak olan üstün zekâsıyla yapay zekânın neler icat edebileceğini kimse bilemeyecek. Gawdat'a göre, yapay zekâ robotlarının kimin çıkarlarını esas alacağını bilmediğimiz için bu teknolojini getirebileceği olumsuz sonuçlara da hazırlıklı olmamız gerekiyor ve uyarıyor: "Zekâ yetisine sahip makineleri, zalim insanların ellerine vermek, kaçınılmaz olarak makinelerin herkesin iyiliği için hareket etmediği senaryolar üretecektir."

Sömürgeciliğin yeni kisvesi dijital sömürgecilik olmasın

Batı sömürgeciliği toprakların ilhakına, altyapının kurulmasına, kaynakların sömürülmesine, yerli bilgiye ve neredeyse bedava emeğe dayanıyor, böylece dünyayı eşitsiz bir uluslararası işbölümü yoluyla örgütlüyordu. Sömürgeci anlayış, verinin günümüzde kazandığı önemle dijital teknolojilerin az gelişmiş bölgelerin en ücra köşelerine girmesi sayesinde şu sıralar dijital sömürgecilik şeklinde zuhur etme eğilimi gösteriyor. Dijital sömürgecilik, dijital teknolojilerin başka bir ulus veya bölge üzerinde siyasi, ekonomik ve sosyal olarak hâkimiyet kurmak amacıyla kullanılmasını ifade ediyor. Tahakküm teknolojisi zaman içinde gelişti ve şimdi dijital uygulamaları, yazılım, donanım ve internet erişilebilirliğini araç olarak kullanıyor. Öncelikle dijital teknolojilerde en büyük şirketler ABD ve Çin başta olmak üzere birkaç devletin elinde toplanmış ve daha işin başından bir nevi tekelleşme oluşmuş durumda. Digital Colonialism adlı bir kitapla konuyu dünyanın gündemine taşıyan Yale Üniversitesi Hukuk Fakültesi öğretim üyesi Michael Kwet durumu şöyle vurguluyor: "Dijital sömürgecilikte insanlar fiziksel olarak yerinden edilmiyor. Amerika merkezli şirketler, işletim sistemleri, bulut alt yapısı, sosyal ağlar, ofis paketleri, uygulama mağazaları, bilgisayar işlemcileri, eğlence akışı ve e-ticaret gibi sistemleri kontrol ederek değerli dijital alanları sömürgeleştirmiş vaziyette bulunuyor. Bunun sonucunda sömürge tecrübesi yaşamış ülkelerde, ulaşım, internet reklamları, turizm, eğlence ve diğer alanlarda şirketler pazar paylarını Silikon Vadisi merkezi yabancı şirketlere kaptırıyor."

Gelecekteki arkadaşlarımız

Dijital teknolojinin yaygınlaşması ve hayatın her alanına girmesiyle birlikte insanların yalnızlaştıkları, daha doğrusu birbirlerinden uzaklaştıkları söyleniyor. Zamanının büyük kısmını bilgisayar oyunlarıyla geçiren çocuklar, adeta cep telefonlarına yapışık yaşayan gençler, evde vaktini eşiyle değil sosyal medya platformlarıyla harcayan eşler bu durumun sıradan ve bariz göstergeleri aslında. Bu acınası duruma çözüm yine teknolojiden, özellikle Web 3.0, robot ve yapay zekâ teknolojilerinden geliyor. Bu üçlünün çok da uzak olmayan bir gelecekte yalnızlık çeken insanların en yakın dostları olacağına kesin gözüyle bakabiliriz. Bunun en bariz göstergesi cep telefonlarıyla adeta aşk yaşayan çocuklar ve gençler. Ama bu kadarıyla sınırlı değil. Artık yaşlılara ve çocuklara bakan bebeklerin piyasaya sürüldüğü bir dünyadan bahsediyoruz. Örneğin Japonya'da türetilen Lovot adlı robot tamamen bu amaçla tasarlanmış modellerden sadece biri. Tasarımcısı Kaname Hayashi onun tek amacının insanlarla bir bağ hissi oluşturmak olduğunu söylüyor. Otistik çocuklarla sosyalleşen Nao da buna benzer bir başka küçük robot. İnsansı robot Pepper ise insani bazı duyguları simüle edebiliyor, sohbet edebiliyor. Robot köpek Aibo da benzer bir duygu hissettirmek üzere tasarlanmış. Bu tür robotlara "sosyal robot" deniyor. Bunların seks robotuna varana dek modelleri mevcut. Arkadaşsız kalanlara bir başka çözüm önerisi de yapay zekâdan… Mesela Google'ın Gemini'nin ardından son olarak tasarlamaya başladığı SIMA tıpkı gerçek bir insan gibi 3 boyutlu oyun oynayabilen bir yapay zekâ modeli. Bu modelin en çok, arkadaş sıkıntısı çekenlere oyun arkadaşı olması hedefleniyor. Tüm bu örnekler geleceğin ön gösterimleri aslında.