Bir zamanlar sadece bilim kurgu filmlerinde karşılaştığımız senaryolar, hızla gerçekliğe dönüşüyor. Makineler artık sadece verileri işleyip emirleri yerine getirmiyorlar; yaratıyorlar, düşünüyorlar ve hatta duygularını ifade ediyorlar. Peki, bu durum insanlık için ne anlama geliyor? Bir yandan üretkenliğimizi artırırken, diğer yandan varoluşumuzu sorgulamamıza neden olan bu gelişmeler, toplumları derinden etkileyecek mi?
Ünlü Alman yazar Daniel Kehlmann, The Guardian’da yayımlanan yazısında, yapay zekânın hızla değişen dünyasında insan olmanın ne anlama geldiğini ve bu teknolojinin toplumsal yapıları nasıl etkileyebileceğini ele alıyor.
Yazıdan öne çıkan bölümleri aktarıyoruz:
“Los Angeles’tan bir senarist arkadaşım aradı. “Üç yılım kaldı” dedi. “Şanslıysam belki beş.” Senaryo yazımı konusunda uzmanlaşmış, geliştirme aşamasında olan bir yapay zekâ teknolojisini test etme şansı yakalamıştı. Yapay zekâya bir mini dizi konseptinden bahsetmiş: ana karakterler, hikâye örgüsü ve atmosfer… Dakikalar içerisinde tüm bölümler yazılmış ve çekime hazır hâlde karşısındaydı.
Ardından yapay zekâdan kendi dizisi için geliştirme önerileri istemiş ve aldığı yanıtlar çok şaşırtıcıydı; çünkü akıcı, özgün, esprili ve yaratıcı önerilermiş. Hatta yapay zekâ bir bölümün sonunu tamamen elden geçirmiş ve bu değişikliklerle dizi çok daha iyi bir hâle gelmiş. Arkadaşım bir an sessiz kaldı ve yeni bir iş bulmadan önce önünde sadece üç yılı olduğunu tekrarladı.
Yapay zekânın önlenemeyen yükselişi
Sadece dört yıl gibi kısa bir süre önce kullandığımız yapay zekâ kekeleyen, şaşkın ve düpedüz acınası bir varlıktı. Bu gelişme hızı katlanarak artmaya devam ederse, ki muhtemelen de edecek, içgüdülerimizin yetersiz kalacağı bir durumla karşı karşıyayız. Şu ana kadar paniğe kapılmamış olmamız da bunun kanıtı. Ne ben, ne siz, ne de çoğu insan bu durum karşısında endişeli görünüyor. Fakat ufukta yaklaşmakta olan tsunamiden haberdar olmamıza rağmen sakin kalmak yerine paniğe kapılmamız daha doğru olurdu.
Yapay zekâ araştırmacısı Leopold Aschenbrenner‘ın dediği gibi: “Şu anda belki de sadece birkaç yüz kişi durumun farkında.” Bu farkındalığı taşıyanlardan biri de yakın zamanda hayatını kaybeden, İngilizce konuşulan dünyanın en etkili düşünürlerinden biri ve modern zihin felsefesinin kurucularından Daniel Dennett‘tı. Uzman olmamama rağmen benim de katılmama izin verilen gayriresmi bir toplantıda Dennett, karar alıcıları uyarmak için elimizden gelen her şeyi yapmamız gerektiğine bizi ikna etmeye çalışmıştı.
Yine de, içerisinde olduğumuz yapay zekâ devrimini şeytanlaştırmak gibi bir niyetim yok. Yaşadığım süre içerisinde insan zihninde böylesine büyüleyici bir gelişmeye şahit olduğumu sanmıyorum. Teknoloji sayesinde dilin kendisini konuşturmayı başardık. Fakat dilin kendisi pek de hoş şeyler söylemiyor. OpenAI, küfürbazlık ve nezaketsizlik gibi doğal eğilimleri bastırmak için güney yarımküredeki ülkelerde yüzlerce düşük ücretli çalışanı istihdam ediyor. ChatGPT’nin o bildiğimiz nazik ve sakin tonu, bu sayede mümkün olabiliyor. Jacques Lacan haklıydı, dilin derinlikleri karanlık ve müstehcendir.
Yapay zekâ varken insana neden gerek olsun ki?
İnsanlığın büyük keşifleri bize her zaman kendi evimizin efendisi olmadığımızı göstermiştir. Kopernik, dünyanın evrenin merkezinde olmadığını göstermişti, Darwin de türümüzün ilahi yaratılış sonucu ortaya çıktığı fikrini yıkmıştı, Freud ise ne arzularımızı bildiğimizi ne de kontrol edebildiğimizi ortaya koymuştu. Yapay zekânın getirdiği aşağılama durumu ise daha gizli, ama aynı derecede derin.
İnsana özgü olarak değerlendirdiğimiz entelektüel faaliyetler için aslında bize pek de ihtiyaç duyulmadığını gösterdi. Bu faaliyetler, istatistiksel olarak otomatikleştirilebiliyor. Heidegger’in deyimiyle “gevezelik” bile bizsiz gayet iyi işleyebiliyor ve mantıklı, esprili, yüzeysel ve sempatik bir şekilde ilerleyebiliyor. Aslında bu sayede şunu da anlıyoruz ki çoğu zaman bir otopilottaymışız gibi pek de derinlemesine düşünmeden iletişim kuruyoruz.
Elbette, Daniel Kahneman‘ın “Sistem 2” dediği düşünme tarzı hâlâ varlığını koruyor: Gerçek entelektüel çalışma, orijinal içgörülerin yaratıcı üretimi ve belki de hiçbir yapay zekânın gelecekte bile bizden alamayacağı özgün eserlerin yaratıcı üretimi. Fakat zamanımızın çoğunu geçirdiğimiz ve pek de birinci sınıf sayılamayacak birçok kültürel ürünün üretildiği “Sistem 1” düşünme tarzı alanında işler oldukça farklı görünüyor.
Sizi hiç üzmeyecek olan sanal dostlarınız
Yapay zekâ ile muazzam paralar kazanmak mümkün, hayal bile edilemeyecek miktarda paralar. Önümüzdeki yıllarda en çok büyüyen dijital piyasa muhtemelen yapay zekâ arkadaşlık ve partnerlik hizmeti sunan uygulamalar olacak. Eğer kanıt arıyorsanız, tam da bu alana odaklanan Replika şirketinin hisse senedi fiyatlarına göz atın veya OpenAI’nin kurucusu Sam Altman’ın dediklerine bakın. Altman, Kasım 2023’te New York Times’a verdiği röportajda ahlaki gerekçelerle sanal sevgili hizmeti sunmayacaklarını belirtmişti. Fakat sadece birkaç ay sonra Altman’ın şirketi, güvencesiz genç erkeklerin hayalini kurduğu bir kız arkadaş gibi davranan yeni, flörtöz bir kadın sesi içeren yeni ChatGPT’nin demosunu tanıtmıştı.
Geleceğin eğlence ürünleri sanal insanlar olacak. Bizi iyi tanıyan, hayatımızı bizimle paylaşan, üzgün olduğumuzda motive eden, şakalarımıza gülen veya gülebileceğimiz şakalar anlatan, dışarıdaki zalim dünyaya karşı her zaman yanımızda olan, her zaman ulaşılabilir ve her zaman vazgeçilebilir olan, kendi arzuları ve ihtiyaçları olmayan, gerçek insanlarla ilişki sürdürmenin gerektirdiği çabaya hiç ihtiyaç duymayan sanal insanlar.
Şu anda tiksintiyle başınızı sallıyorsanız, kendinize gerçekten dürüst olup olmadığınızı bir sorun. Can sıkıcı aramaları sizin yerinize yapan, uçak bileti rezervasyonunuzu halleden, siz yazmışsınız gibi görünen e-postalar yazan, hayatınızı sizinle tartışan, teyzenizin size neden bu kadar kötü davrandığını ve kırgın kuzeninizle barışmak için neler yapabileceğinizi söyleyen bir sanal insana sahip olmayı istemez miydiniz? Bu teknolojiye karşı ne kadar uyarılarda bulunsam bile ben de kullanmak isterim.
Yapay zekânın maliyetlerini kim ödüyor?
Peki, tüm bunların maliyetini kim karşılıyor? Çünkü, sanal arkadaşlar sanki hayali bir alemde yaşıyorlar gibi görünse de gerçekte devasa sunucu çiftliklerinde barındırılıyorlar ve onlarla her etkileşim para demek. Tüm bu maliyetleri karşılayacak birileri olmalı. Eğer kullanıcılar ödemiyorsa, kim ödüyor?
Dolayısıyla, bazen size reklam da yapan sanal arkadaşlarınız olacak. Soğuk algınlığınız olduğunda size çeşitli ilaçlar önerecekler, iyi hissettiğinizde ise bir uzmanmışçasına size viski tavsiyeleri verecekler. Hatta bazen, Çinli bir yapay zekâ şirketi tarafından üretilmiş veya kullanıcıların ilgisini en çok çeken içeriği belirlemek için sürekli öğrenen algoritmalara sahip TikTok, YouTube gibi şirketler tarafından geliştirilmiş olan bu sanal arkadaşlarınız seçimde hangi adaya oy vermeniz gerektiğini bile size açıklayacaklar.
Sosyal medya algoritmalarının keşfettiği gibi, insanları en çok harekete geçiren duygulardan birisi, farklı siyasi görüşlere sahip kişilere duyulan öfkedir. Eğer durum böyle olmasaydı, YouTube bana sürekli aşırı sağcı Björn Höcke videoları önermezdi. Ben asla tıklamasam da bu videolar sürekli karşıma çıkmaya devam ediyor. Oysa Bertrand Russell veya Theodor W. Adorno gibi düşünürlerin dersleri YouTube’da mevcut olmasına rağmen benim önerilerimde hiç yer almıyorlar. Çünkü, algoritma bu tarz videoları ticari açıdan pek önemli bulmuyor.
Şu anda ChatGPT hâlâ sakin ve akılcı bir ton ile konuşuyor. Siyasi duruş almamakta ısrar ediyor ama kafa karışıklıklarımızı gideren yapay zekâların mı, yoksa öfkemizi büyüten yapay zekâların mı daha fazla para kazandırdığını kendimize sorarsak, gidişatın ne yöne doğru olacağını kestirmek pek de zor değil.
“Büyük bir dezenformasyon seline kapılacağız”
Durumsal farkındalık yeteneğini elde etmek hiç kolay değil. Titanik batarken orkestrasının çalmaya devam etmesi gibi, biz de bazen gerçekle yüzleşmekte zorlanabiliyoruz. Bir yapay zekânın, Kahneman’ın “Sistem 2” düşünce tarzında, yani yaratıcı süreçlerde bizi geçebileceğini pek sanmıyorum. Aynı şekilde, gelişmiş yapay zekâların insanlığı yok etmek isteyeceğini düşünmek de bana abartılı geliyor. Ancak, şimdiye kadar yaşadıklarımızın yanında devede kulak kalacak kadar büyük bir dezenformasyon seline kapılacağız.
“Politika çağrısı” tüm yorumcular tarafından en çok tekrar edilen ifadelerden biri olsa da bu durumun gerçekten de başka bir tarifi yok gibi görünüyor. Dennett’ın yapay zekâ hakkındaki endişeleri, heyecanı ve korkuları aklımdan çıkmıyor. Veri şirketleri, demokratik toplumlara tehdit oluşturan devler gibi. Fakat Avrupa, dünyanın en büyük ortak pazarı ve en sıkı yasalarla bu şirketlere karşı mücadele edebilir.
Eğer hükümetlerimiz kolektif iradeyi ortaya çıkarabilirlerse büyük bir güç elde edebilirler. Yapay zekânın gücünü dizginlemek ve bildiğimiz hayatı korumak için yapılabilecekler var. Ancak zaman gitgide daralıyor.”
Bu yazı ilk kez 31 Temmuz 2024’te yayımlanmıştır.
