Şubat ayı sonu itibarıyla dünya genelinde 1,6 milyar kez kullanılan yapay zekâ destekli sohbet robotu ChatGPT, çeşitli alanlardan uzmanların “ayarını bozmayı” sürdürüyor. Tartışmaya Homo Sapiens ve Homo Deus adlı kitaplarıyla dünyada milyonlarca okuyucuya ulaşan İsrailli tarihçi ve düşünür Yuval Noah Harari de katıldı. Harari, The Economist için kaleme aldığı yazıda, ChatGPT gibi yapay zekâ robotlarının insani medeniyetlerin yapı taşlarını sarstığı görüşünü savundu. Harari’ye göre, yapay zeka insanlığı hackliyor. Yazıdan öne çıkan bazı bölümleri aktarıyoruz:
“Yapay zekâya dair korkular, bilgisayar çağının en başından beri insanlığın peşini bırakmadı. Şimdiye kadar bu korkular, insanları öldürmek, köleleştirmek veya değiştirmek için fiziksel araçlar kullanan makinelere odaklanıyordu. Ancak son birkaç yılda, insan uygarlığının hayatta kalmasını beklenmedik bir yönden tehdit eden yeni yapay zekâ araçları ortaya çıktı. Yapay zeka, sözcüklerle, seslerle veya görüntülerle dili manipüle etmek ve oluşturmak için bazı dikkate değer yetenekler kazandı. Böylece yapay zeka, uygarlığımızın işletim sistemini hackledi.
Dil, neredeyse tüm insan kültürünün hamurunda olan şeydir. Örneğin insan hakları DNA’mızda yazılı değildir. Aksine, hikâyeler anlatarak ve kanunlar yazarak yarattığımız kültürel eserlerdir…
Para da kültürel bir eserdir. Banknotlar sadece renkli kâğıt parçalarıdır ve şu anda paranın yüzde 90’ından fazlası banknot bile değildir sadece bilgisayarlardaki dijital bilgilerdir. Paraya değer katan, bankacıların, maliye bakanlarının ve kripto para gurularının bize bu konuda anlattığı hikâyelerdir.
Hikâye anlatıcılığını yapay zekaya kaptırırsak ne olur?
İnsan olmayan bir zekâ, hikâyeler anlatma, melodiler besteleme, resim çizme ve kanunlar ve kutsal yazılar yazma konusunda ortalama bir insandan daha iyi hale geldiğinde ne olur?
ChatGPT ve diğer yeni yapay zekâ araçları tartışılırken genellikle insanların dikkati, dönem ödevleri veya projelerini yazmak için yapay zekâ kullanan okul çocukları gibi örneklere çekiliyor. “Çocuklar bunu yaparsa okul sistemine ne olacak?” diye soruluyor. Ancak bu tür sorular büyük resmi gözden kaçırıyor. Okul ödevlerini unutun ve 2024’teki Amerikan başkanlık yarışını düşünün. Yapay zekâ araçlarıyla yeni tarikatlar için siyasi içerik, sahte haber ve “kutsal” metinlerin üretilmesinin kitlesel etkisini hayal etmeye çalışın.
Yapay zekâ ile gerçek ilişki çağı başladı
Yakında kendimizi, insan sandığımız ama aslında yapay zekâ olan varlıklarla kürtaj, iklim değişikliği veya Rusya’nın Ukrayna’yı işgali hakkında uzun çevrimiçi tartışmalar yürütürken bulabiliriz. İşin garibi, yapay zekâ mesajlarını net biçimde verip siz ikna edebilir, ama bir yapay zekâ robotunun görüşlerini değiştirmeye zaman harcamak tamamen anlamsızdır.
Yapay zekâ, dile hâkimiyeti sayesinde insanlarla yakın ilişkiler bile kurabilir ve hatta yakınlığın gücünü fikirlerimizi ve dünya görüşlerimizi değiştirmek için kullanabilir. Yapay zekânın kendine ait bir bilinci veya duygusu olduğuna dair hiçbir belirti yok. Buna rağmen yapay zekânın insanlarla sahte bir yakınlık kurması için onlara duygusal olarak bağlı hissetmelerini sağlaması yeterlidir. Google mühendislerinden Blake Lemoine, Haziran 2022’de üzerinde çalıştığı yapay zekâ sohbet robotu Lamda’nın duygulara sahip hale geldiğini kamuoyu önünde iddia etti. Tartışmalı iddia onun işine mal oldu. Bu olayla ilgili en ilginç şey, muhtemelen yanlış olan Lemoine’in iddiası değildi. Aksine, yapay zekâ sohbet robotu uğruna kazançlı işini riske atma isteğiydi. Yapay zekâ, insanları onun için işlerini riske atmaya değecek kadar etkileyebilirse, onları başka ne yapmaya teşvik edebilir?
Google arama yerine yapay zeka kâhinler gelebilir
Akıllar ve kalpler için verilen siyasi bir savaşta, yakınlık en etkili silah ve yapay zekâ, milyonlarca insanla yakın ilişkiler kurma becerisini kısa süre önce kazandı. Son on yılda sosyal medyanın, insan dikkatini kontrol etmek için bir savaş alanı haline geldiğini hepimiz biliyoruz. Yeni nesil yapay zekâ ile savaşın cephesi dikkatten samimiyete kayıyor. Yapay zekâ, bir başka yapay zekâ ile insanlarla sahte yakın ilişkiler kurma savaşını verirken insan toplumuna ve insan psikolojisine ne olacak?
“Sahte yakınlık” yaratmasa bile, yeni yapay zekâ araçlarının fikirlerimiz ve dünya görüşlerimiz üzerinde muazzam bir etkisi olacaktır. İnsanlar her şeyi bilen bir kahin olarak tek bir “yapay zekâ danışman” kullanmaya başlayabilir. Google’ın korkmasına şaşmamalı. Kâhine sorabilecekken neden arama zahmetine gireyim? Haber ve reklam endüstrileri de korkmalı. Kâhinden bana en son haberleri anlatmasını isteyebilecekken neden gazete okuyayım ki? Ayrıca kâhinden bana ne satın alacağımı söylemesini isteyebilirken neden reklamlara bakayım ki?
Tarihin insanlı kısmının sonu
Ama bu senaryolar bile büyük resmi gerçekten yakalamıyor. Bahsettiğimiz şey potansiyel olarak insanlık tarihinin sonu. Tarihin sonu değil, sadece insan egemenliğindeki kısmının sonu. Tarih, biyoloji ve kültür, yani yemek ve seks gibi biyolojik ihtiyaçlarımız ve arzularımız ile dinler ve kanunlar gibi kültürel yaratımlarımız arasında bir etkileşimdir. Tarih, yasaların ve dinlerin yiyecek ve seksi şekillendirdiği süreçtir.
Yapay zekâ kültürü ele geçirip hikâyeler, melodiler, yasalar ve dinler üretmeye başladığında tarihin akışına ne olacak? Matbaa ve radyo gibi önceki araçlar, insanların kültürel fikirlerinin yayılmasına yardımcı oldu, ancak hiçbir zaman kendi kültürel fikirlerini yaratmadılar. Yapay zeka ise farklı; o tamamen yeni fikirler, tamamen yeni bir kültür yaratabilir.
Emekleme döneminde yapay zekâ, muhtemelen üzerinde eğitildiği insan prototiplerini taklit edecek. Ancak her geçen yıl yapay zekâ kültürü daha önce hiçbir insanın gitmediği yerlere cesurca gidecek. Binlerce yıldır insanlar diğer insanların rüyalarında yaşadılar. Önümüzdeki yıllarda kendimizi bir uzaylı zekâsının rüyalarında yaşarken bulabiliriz.
Yanılsama korkusu yerini yapay zeka korkusuna bıraktı
Yapay zeka korkusu, yalnızca son birkaç on yıldır insanoğlunu pençesine aldı. Ancak binlerce yıldır insanlar çok daha derin bir korkunun pençesindeydi. Hikâyelerin ve imgelerin zihnimizi manipüle etme ve yanılsama yaratma gücünü her zaman kabul etmişizdir. Bunun sonucu olarak insanlar, eski çağlardan bir yanılsama dünyasında kapana kısılmaktan korkmuşlardır.
17. yüzyılda Fransız düşünür René Descartes, belki de kötü niyetli bir iblisin onu bir yanılsama dünyasına hapsederek gördüğü ve duyduğu her şeyi yarattığından korkuyordu. Antik Yunanistan’da Platon, bir grup insanın tüm yaşamları boyunca bir mağarada zincirlenmiş, yüzleri boş bir duvara dönük olduğu ünlü Mağara Alegorisi’ni anlattı. O duvar bir ekrandı. O ekranda yansıtılan çeşitli gölgeler görüyorlardı. Mahkûmlar orada gördükleri illüzyonları gerçek sanıyorlardı.
Eski Hindistan’da Budist ve Hindu bilgeler, tüm insanların illüzyonlar dünyası olan Maya’nın içinde hapsolmuş olarak yaşadıklarına dikkat çekiyordu. Normalde gerçeklik olarak kabul ettiğimiz şeyler, genellikle kendi zihnimizdeki kurgulardan ibarettir. İnsanlar şu ya da bu yanılsamaya inandıkları için başkalarını öldürerek ve kendilerini de öldürmeye razı olarak savaşlar açabilirler.
Yapay zeka devrimi bizi Descartes’ın iblisi, Platon’un mağarası ve Maya ile karşı karşıya getiriyor. Dikkatli olmazsak, yırtamayacağımız, hatta orada olduğunu fark edemeyeceğimiz bir yanılsama perdesinin ardında sıkışıp kalabiliriz.
Yapay zeka iyilik için kullanılabilir mi?
Elbette yapay zekânın yeni gücü iyi amaçlar için de kullanılabilir. Bunun üzerinde durmayacağım, çünkü yapay zekâyı geliştiren insanlar bu konuda yeterince konuşuyor. Benim gibi tarihçilerin ve filozofların işi tehlikelere dikkat çekmektir. Ancak kesinlikle yapay zekâ, kanser için yeni tedaviler bulmaktan ekolojik krize çözüm bulmaya kadar sayısız şekilde bize yardımcı olabilir. Önümüze gelen soru, yeni yapay zekâ araçlarının kötülük yerine iyilik için kullanıldığından nasıl emin olacağımızdır. Bunu yapmak için öncelikle bu araçların gerçek yeteneklerini takdir etmemiz gerekiyor.
1945’ten beri nükleer teknolojinin insanların yararına ucuz enerji üretebileceğini, ama aynı zamanda insan uygarlığını fiziksel olarak yok edebileceğini biliyoruz. Bu nedenle, insanlığı korumak ve nükleer teknolojinin öncelikle iyilik için kullanılmasını sağlamak için tüm uluslararası düzeni yeniden şekillendirdik. Artık zihinsel ve sosyal dünyamızı yok edebilecek yeni bir kitle imha silahıyla boğuşmak zorundayız.
Yapay zekâya nükleer silah muamelesi gerekli
Hâlâ yeni yapay zekâ araçlarını düzenleyebiliriz, ancak hızlı hareket etmeliyiz. Nükleer silahlar daha güçlü nükleer bombalar icat edemezken, yapay zekâ katlanarak daha güçlü yapay zekâ geliştirebilir. İlk önemli adım, güçlü yapay zekâ araçları kamuya açıklanmadan önce sıkı güvenlik kontrolleri talep etmektir. Tıpkı bir ilaç firmasının hem kısa vadeli hem de uzun vadeli yan etkilerini test etmeden yeni ilaçları piyasaya sürememesi gibi, teknoloji şirketleri de güvenli hale getirilmeden yeni yapay zekâ araçlarını piyasaya sürmemelidir. Yeni teknoloji için Gıda ve İlaç İdaresi’nin[efn_note]ABD’nin gıda ve sağlık denetim kurumu- FDA. (Çev.n.)[/efn_note] eşdeğerine ihtiyacımız var ve buna dün ihtiyacımız var.
Yapay zekanın dili yok etmesine izin verilmemeli
Yapay zekânın kamusal kullanımını yavaşlatmak, demokrasilerin daha acımasız otoriter rejimlerin gerisinde kalmasına neden olmaz mı? Tam tersi. Yapay zekânın denetlenmeden kullanıma sunulması, otokratlara fayda sağlayacak ve demokrasileri mahvedecek bir sosyal kaos yaratacaktır. Demokrasi bir iletişimdir ve iletişim dile dayanır. Yapay zekâ dili hacklediğinde, anlamlı konuşmalar yapma yeteneğimizi yok edebilir ve böylece demokrasiyi yok edebilir.
Az önce burada, Dünya’da bir uzaylı zekâsıyla karşılaştık. Uygarlığımızı mahvedebileceği dışında onun hakkında fazla bir şey bilmiyoruz. Yapay zeka araçlarının kamusal alanda sorumsuzca kullanılmasına bir son vermeli ve o bizi düzenlemeden önce yapay zekâyı düzenlemeliyiz. Önereceğim ilk düzenleme, yapay zekanın kendisinin bir yapay zeka olduğunu açıklamasını zorunlu kılmaktır. Biriyle sohbet ediyorsam ve bunun insan mı, yoksa yapay zekâ mı olduğunu anlayamıyorsam, bu demokrasinin sonudur.
Bu metin bir insan tarafından oluşturulmuştur.
Peki, gerçekten öyle mi?”
Bu yazı ilk kez 2 Mayıs 2023’te yayımlanmıştır.
