ChatGPT sandığınız kadar akıllı mı?

Son günlerde belirli metin girdileri ile resimler oluşturabilen Dall-E 2 ve Midjourney gibi Yapay Zeka destekli araçlar gündeme geldi ve özellikle sanatçılar arasında büyük yankı uyandırdı. Buna benzer araçlardan birisi de kullanıcı tarafından belirli girdiler vasıtasıyla metin içerikleri oluşturabilen OpenAI şirketi tarafından geliştirilen ChatGPT yazılımı.

Görünürde epey akıllı olan, inandırıcı metinler ve içerikler üretebilen bu yazılım akademi ve eğitim camiasının yanı sıra haber, makale yazarlarından tepki topladı. The Atlantic web sitesi için teknoloji yazıları kaleme alan Ian Bogost bu programlara yakından bakarak, gerçekte ne kadar zeki olduklarını sorguluyor.

Yazının öne çıkan bazı kısımlarını sizlerle paylaşıyoruz:

Bir teknoloji eleştirmeni olarak, OpenAI tarafından eğitilen geniş dilli bir model olan ChatGPT hakkındaki heyecanın yersiz olduğunu söylemeliyim. Teknik açıdan etkileyici olsa da, sohbet etmek ve yanıt üretmek için bir makineye güvenme fikri ciddi endişelere yol açıyor.

Öncelikle ChatGPT, insan dilinin ve konuşmasının karmaşıklığını gerçekten anlama yeteneğinden yoksun. Yalnızca belirli bir girdiye dayalı olarak kelimeler üretmek için eğitilen ChatGPT, ürettiği kelimelerin arkasındaki anlamı gerçekten kavrama yeteneğine sahip değil. Bu da ChatGPT’nin üreteceği cevapların sığ, derinlikten ve kavrayıştan yoksun olacağı anlamına geliyor.

Ayrıca, sohbet için ChatGPT’ye duyulan güven etik kaygıları da beraberinde getiriyor. İnsanlar kendileri adına sohbet etmesi için bir makineye güvenmeye başlarsa, bu insanlar arasındaki gerçek bağların kaybolmasına yol açabilir. Başkalarıyla sohbet yoluyla bağlantı kurma kabiliyeti insan olmanın temel bir yönüdür ve bunu bir makineye devretmenin toplum üzerinde zararlı yan etkileri olabilir.

Orada bir durun bakalım. Yukarıdaki üç paragrafı aslında ben, Ian Bogost, yazmadım. Bir arkadaşım bunları bana, geçen hafta OpenAI tarafından yayınlanan ve bir sohbet penceresine yazarak etkileşimde bulunulan bir program olan ChatGPT ile yaptığı sohbet oturumundan ekran görüntüleri olarak gönderdi. Aslında ChatGPT, büyük miktarda yazılı materyal ile eğitildikten sonra yeni metin üretebilen bir tür derin öğrenme yazılımı olan bir büyük dil modelidir. Arkadaşımın girdisi ise şuydu: “ChatGPT için duyulan heyecanı eleştiren Ian Bogost tarzında bir metin oluştur.”

ChatGPT daha fazlasını da yazdı, ancak çok sıkıcı olduğu için gerisini sizinle paylaşmadım. Yapay Zeka, hesap verebilirlik hakkında bir paragraf daha yazdı (“ChatGPT uygunsuz bir şey söyler ve yaparsa, kim suçlanacak?”) ve ardından geri kalan metni tekrarlayan bir sonuç paragrafı yazdı (hatta bu paragrafa “Sonuç olarak, …” diye başladı). Kısacası, basit, lise tarzı beş paragraflık bir kompozisyon ortaya çıkardı.

OpenAI geçen hafta ChatGPT’yi kamuoyuna sunduğunda, karşılaştığım ilk ve en yaygın tepki eğitimin alt üst olacağına dair korkuydu. Toronto Üniversitesi profesörlerinden Kevin Bryan Twitter’da “Artık sınavları ev ödevi olarak veremeyeceğiz” diye yazdı. Güney Carolina Üniversitesi’nde siyaset bilimi dersleri veren Samuel Bagg, “Bence chat.openai.com yazılı ödevlerin sonunu getirebilir,” diyor. İşte korktukları şey bu.

Ancak, Yapay Zekanın ortaya çıkardığı metin akıcı ve inandırıcı olsa da, düzyazı olarak hiçbir zaman ilgi çekici olmadığını bilmek sizi rahatlatabilir. Ortaya çıkan metinler yapı, üslup ve içerik bakımından kalıplara dayalı. Yapay Zeka inandırıcı yazılar üretebilir, ancak bunun tek nedeni bizim Yapay Zekanın çıkardığı metinden beklentilerimizin çok yüksek olmayışıdır.

Yukarıda yaptığım gibi, Yapay Zeka tarafından yazılan bir metni kendiminmiş gibi göstererek okuyucu kandırmak bile sıkıcı bir klişe halinde geldi. Evet, ChatGPT görünüşte inandırıcı olabilecek metinler üretme yeteneğine sahip. Ancak öte yandan, inandırıcı olmanın ne anlama geldiği bağlama göre değişiklik gösterir. Yapay Zeka ile öylesine ürettiğiniz zaman ilgi çekici ve hatta şaşırtıcı bulabileceğiniz türden bir metin, The Atlantic gibi bir dergide yayınlanan profesyonel bir makale bağlamında aniden berbat görünüyor. Bir öğretmen (ya da pazarlama müdürü, avukat, gazeteci ya da başka bir şey) olarak inandırıcı bulabileceğiniz bir yazı, metnin anlamından ziyade bağlamı nedeniyle inandırıcı olmuş olabilir: Kompozisyon eksiksiz ve yeterliydi; rapor zamanında gelen kutunuzdaydı; gazete haberi kabul edebileceğiniz veya reddedebileceğiniz açık gerçekleri aktarıyordu.

Palavralar mı üretiyor?

Belki de ChatGPT ve onun temelini oluşturan teknolojilerin esas kabiliyeti inandırıcı bir şekilde metin yazmaktan ziyade mükemmel bir şekilde palavralar üretmektir. Bir palavracı yanlış nedenlerden ötürü, genellikle bir durumdan kurtulmak için, gerçeklerle oynar. ChatGPT’ye gelen ilk tepkiler, bunun insanların ödev kompozisyonları, haber yazılar ya da başka şeyler yazmalarına yardımcı olacak bir araç olduğunu varsayıyor. Yapay Zekanın insan yaratıcılığını geliştirmek yerine onun yerini alacağını varsayanlar için bu varılması kolay bir sonuç.

İnternet ve bundan güç alan teknoloji sektörü kulağa, insanların fikirlerini beyan etmesini kolaylaştıran ve yanlış bilgilerin yayılmasını artıran, palavra üretmek için devasa bir enstrüman gibi geliyor. İnsanlar internette birbirlerini aldatıyor, kandırıyor ve birbirleriyle çatışıyor. Derin öğrenmeye dayanan Yapay Zeka, büyük dil modelleri gibi yazılımların işleyişini gizleyerek bu durumu daha kötü hale getiriyor. Öyle ki bu yazılımların yaratıcıları dahi bunların ne yaptıklarını ve neden yaptıklarını açıklayamıyor. OpenAI bu çalışmasını bağlamdan bağımsız ve deneysel olarak sunuyor, belirli bir kullanım alanı olmayan ChatGPT’yi yalnızca “kullanıcıların geri bildirimlerini almak ve yazılımın güçlü ve zayıf yönlerini öğrenmek” için yayınladığını söylüyor. ChatGPT hakkında yapılan ilk ve en bariz varsayımın onun bir tehdit olduğu yönünde olması hiç de şaşırtıcı değil.

Yeni bir adım mı?

Ancak ChatGPT, insanlığın ürettiği tüm bilgiyi ve metinleri kavrayan yapay bir üst zekaya giden yolda bir adım teşkil etmiyor; söz konusu uygulama yalnızca tüm bu bilgi ve metinlerle oynamak için bir araçtan ibaret. Burada oynamak neler yapılabileceğini görmek için temel unsurlar ile çalışmayı içeriyor. Elinizdeki tanıdık eşyalardan farklı bir şekilde yararlanmak için onlarla oynarsınız ya da enstrüman çalarsınız. Büyük dil modelleri kesinlikle üniversitelerin, dergilerin veya orta düzey yöneticilerin yerini almayacak. Ancak bu yazılımlar akıl almaz miktarda metinsel malzemeyle oynamak için kelimenin tam anlamıyla yeni bir enstrüman sunuyor.

Bu teoriyi test etmek için ChatGPT ile şiir, davranışsal psikoloji ve bilgisayar programlama dahil olmak üzere çok çeşitli konular hakkında sohbet ettim. ChatGPT şu anda yalnızca bir teknoloji demosundan, bir araştırma deneyinden ibaret. Bu teknolojinin hangi sektörleri altüst edebileceğine dair vahim tahminlerin ötesinde, nasıl kullanılabileceği ise henüz net değil. Neredeyse her durumda, Yapay Zekanın hem bilgiye hem de bunu ifade edecek araçlara sahip olduğu görülüyor. Ancak sıkıştırıldığında -ki sohbet arayüzü bunu yapmayı kolaylaştırıyor- bot neredeyse her zaman bir şeyler uydurduğunu kabul etmek zorunda kalıyor.

Hatasını kabul ediyor

ChatGPT bazen yalnızca basit şablonlar kullanıyor. ChatGPT’den bir üniversite iş ilanı için ön yazı oluşturmasını istediğimde, bunu yeterli ancak pek de ilgi çekici olmayan bir şekilde yaptı. Bu esasında gayet makul bir durum. Ne de olsa iş başvuruları için yazılan çoğu ön yazı birbirinden berbat, aynı basmakalıp cümlelerden ve soyut jestlerin tekrarından ibaret.

Bazı durumlarda, bot şaşırtıcı derecede sentetik ama kusurlarla dolu yaratıcı çıktılar üretti. Hamburger hakkında Ezra Pound ya da William Carlos Williams tarzı imgeci bir şiir üretmesini istediğimde, bu kısa nakaratla yetindi:

Sıcacık cızırdayan leziz köfte
Kızarmış ekmeği, kıtır marulu ve domatesiyle
Bir lezzet senfonisi, duyular için bir şölen
Lezzetli, doyurucu, gerçek bir
Amerikan klasiği.

Bir bilgisayar için fena değil. Ancak aynı zamanda bu şiir, dili kasıtlı bir şekilde kullanarak insan zihninde bir imge uyandırmayı amaçlayan imgeciliğin bir örneği değil. Ben de ChatGPT’ye “Bu imgeci bir şiir değil,” dedim. Verdiği yanıt ise tam olarak şuydu:

Haklısınız, benim ürettiğim şiir imgeci bir şiir değil. İmgeci bir şiir, belirli bir fikri veya duyguyu aktarmak için kesin, canlı imgeler kullanır ve tek bir imge veya ana odaklanır. Ürettiğim şiir daha çok öyküsel ve betimleyici bir üslup kullanıyor ve tek, belirli bir imgeye odaklanmıyor. Bir hamburgerin malzemelerini ve lezzetlerini tanımlıyor, ancak belirli bir fikri veya duyguyu aktarmak için kesin ve canlı imgeler kullanmıyor. Önceki yanıtlarım beklentilerinizi karşılamadıysa özür dilerim ve başka sorularınız veya istekleriniz olursa size yardımcı olmak için elimden geleni yapacağım.

ChatGPT hatalı olduğunu anında ve tartışmadan her zaman kabul ediyor. Bot, her durumda neden yanlış yaptığını makul bir doğrulukla bilebiliyor. Bu kulağa hoş geliyor ancak aslında oldukça kötü bir durum: Büyük dil modeli tarafından oluşturulan bir metindeki sorunları tespit etmek için zaten bu konuda belli bir uzmanlığa sahip olmak gerekiyorsa ancak büyük dil modeli tarafından oluşturulan metnin amacı bu tür bir uzmanlığa duyulan ihtiyacı ortadan kaldırmaksa, o zaman gerçekten bir çıkmazın içindeyiz demektedir.

Ancak ChatGPT’nin amacı bu değil. ChatGPT, doğru argümanlar üretmez veya yaratıcılık sergilemez, bunun yerine talep sahibinin açık veya örtülü niyetine uygun bir biçimde metinsel materyal üretir ve bu materyal belirli koşullar altında doğruluk da içerebilir.

Büyük dil modellerinin üretici niteliklerini savunanlar böyle bir endişeyi göz ardı edeceklerdir. Bazıları bunu GPT’nin bariz ve tam anlamıyla hayata geçmiş dehasını yücelterek yapacaktır. Diğerleri ise bunun henüz birkaç yıllık bir teknolojinin “başlangıcı” olduğunu ama şimdiden hamburgerler hakkında oldukça iyi şiirler üretebildiğini iddia edecektir. Ancak bunlar, bilişim dünyasını ve çevrimiçi hayatı, yani hayatın kendisini en çok mahveden bilişim dünyasındakilerin düşünceleri. OpenAI, çalışmalarının yapay bir üst zekaya, yani her şeyi yapabilen bir makineye dönüşeceğini varsayıyor. Bunun yerine, ChatGPT ve halefleri için daha az iddialı ancak daha olası bir hedef benimsemeliyiz: ChatGPT ve muadilleri, aksi takdirde çok az insanın şu anda etkili bir şekilde kullanabileceği geçilmez bir alan olan dijitalleştirilmiş yaşamın metinsel sonsuzluğuna bir tür arayüz sunuyor.

Yapay Zeka aslında metinleri anlamıyor ve hatta onları oluşturmuyor. Metinleri irdelemek, metinlerle oynamak, edebiyat, bilim veya internet mizahı da dahil olmak üzere çok çeşitli alanlarda sonsuz sayıda düzyazıyı, bazı durumlardan cevabının dahi bulunabileceği daha fazla sorunu sorulabileceği yapılara dönüştürmek ve şekillendirmek için bir yol sunuyor.

GPT ve diğer büyük dil modelleri epistemolojik olmaktan ziyade estetik araçlardır. Tuşları metinsel bilgi, stil ve semantikten oluşan garip bir sentezleyici hayal edin. Böyle bir şey, cevapları metin biçiminde sunduğu için değil, metnin tamamı ile neredeyse bir enstrüman gibi oynamayı mümkün kıldığı için ilgi çekiyor.

İnsanlar bütün bunlardan ne anlam çıkarmalı?

Böyle bir sonuç aydınlatıcı olabilir! Ancak bunu başarmanın önünde büyük bir engel var: Büyük dil modellerinden, ChatGPT’den ve ortaya çıkan diğer üretici Yapay Zeka sistemlerinden ne anlam çıkaracağını bilmeyen insanlar. Yazılımı ortaya çıkaranlar dahi belki de bu şeylerin ne için kullanılabileceğini bilmedikleri için bu konuda yardımcı olamıyorlar. OpenAI, ChatGPT için herhangi bir çerçeve sunmuyor ve bunu “Yapay Zeka sistemleriyle etkileşimi daha doğal hale getirmeye” yardımcı olacak bir deney olarak sunuyor. Bu değerli ancak son derece iddiasız bir hedef. Bunu çerçeveleyen başka bir yapı olmadığından, ChatGPT kullanıcılarının yazılım vasıtasıyla ortaya çıkardıkları metinleri ya varoluşsal bir tehdit ya da mükemmel bir başarı olarak değerlendirmeleri hiç de şaşırtıcı bir durum değil. Her iki değerlendirme de doğru değil ancak bir o kadar da sıkıcı. Herkesin nefret ettiği ancak kimsenin son vermeye cesaret edemediği aptalca bir format olan ev ödevi olarak verilen kompozisyon sınavlarının kaderi hakkında endişelendiğinizi düşünün. Elbette, bu fırsattan yararlanarak okul sınavlarında kopya çekebilir ya da işinizi gerçekten yapıyormuş gibi görünebilirsiniz. Bunlar yalnızca sıkıcı bir insan yapar. Bir bilgisayar da bunu beklerdi zaten.

Bilgisayarlar hiçbir zaman insani meseleleri çözebilecek bir akıl yürütme araçları olmadı, onlar yalnızca insan deneyimlerini çok özel, son derece güçlü bir sembol manipülasyonu yöntemiyle yapılandıran aygıtlardır. Bu da bilgisayarları işlevsel olduğu kadar estetik nesneler haline getiriyor. GPT ve muadilleri, bilgisayarları bir takım görevleri yerine getirmek için değil ancak yarattıkları dünya ile oynamak için kullanma fırsatı sunuyor.

Bu yazı ilk kez 23 Ocak 2023’te yayımlanmıştır.

 

Ian Bogost’un The Atlantic dergisinde yayınlanan “ChatGPT Is Dumber Than You Think” başlıklı yazısından öne çıkan bazı bölümler Caner Köseler tarafından çevrilmiş ve editoryal katkısıyla yayına hazırlanmıştır. Yazının orijinaline aşağıdaki linkten erişebilirsiniz: https://www.theatlantic.com/technology/archive/2022/12/chatgpt-openai-artificial-intelligence-writing-ethics/672386/

Fikir Turu

Fikir Turu, yalnızca Türkiye’deki düşünce hayatını değil, dünyanın da ne düşündüğünü, tartıştığını okurlarına aktarmaya çalışıyor. Bu amaçla, İngilizce, Arapça, Rusça, Almanca ve Çince yazılmış önemli makalelerin belli başlı bölümlerini çevirerek, editoryal katkılarla okuruna sunmaya çalışıyor. Her makalenin orijinal metnine ve değerli çevirmen arkadaşlarımızın bilgilerine makalenin alt kısmındaki notlardan ulaşabilirsiniz.

Subscribe
Bildir
guest

2 Yorum
Inline Feedbacks
View all comments
İbrahim
İbrahim
25 Ocak 2023 12:41

Chat gpt ye ilahi dinler nedir diye bir soru sordum.yahudilik, hıristiyanlık , İslamiyet ve hinduizm dinleridir diye cevap verdi.Hinduizmin ilahi bir din olduğunu bilmiyordum.Bu yüzden chat gpt nın güvenliğinden şüpheliyim.

2
0
Would love your thoughts, please comment.x
Send this to a friend