Saygın Cambridge Sözlüğü her yıl yaptığı gibi yılın kelimesini seçti, bu yılın kazananı epey tanıdık: Halüsinasyon. Fakat bu sözcük yapay zekânın hayatımıza girişiyle birlikte yeni bir anlam kazandı, diğer bir deyişle güncellendi. Halüsinasyon artık sadece “var olmayan bir şeyi görme ya da duyma” değil; yapay zekânın “gerçek olmayan şeyleri sanki öyleymiş gibi inandırıcı bir şekilde ortaya koyduğu durumları” da ifade ediyor.
ChatGPT gibi uygulamaların yarattığı halüsinasyonlara kapılıp işinden olanların, gaf yapanların, olmadık hatalara yol açanların sayısı gün geçtikçe artıyor. Bu, teknolojinin yaygınlaşmasından endişe duyan entelektüellerin dikkatinden kaçmıyor.
Simon Johson ile birlikte kaleme aldığı “İktidar ve Teknoloji – Bin Yıllık Mücadele” başlıklı kitabı geçen yıl yayınlanan ABD’nın MIT Üniversitesi ekonomi profesörlerinden Daron Acemoğlu, The Wired için kaleme aldığı makalede, 2024 yılında yapay zekânın büyük başarıları için yapılan pembe tahminlerin boşa çıkacağını ve bu teknolojinin, yetersiz performans ve tehlikeli sonuçları nedeniyle bir kenara itileceğini ileri sürdü.
Yazıdan öne çıkan bölümleri aktarıyoruz:
ChatGPT furyası dinecek mi?
“Önümüzdeki on yıllarda 2023 yılı, ChatGPT’nin insanlık tarihinde tartışmalı bir şekilde en hızlı yayılan yeni teknoloji haline geldiği ve yapay zekâ destekli zenginlik beklentilerinin yaygınlaştığı üretken yapay zekâ furyasının yılı olarak hatırlanabilir. 2024 yılı beklentileri gözden geçirme zamanı olacak.
Elbette, üretken yapay zekâ etkileyici bir teknoloji ve bir dizi görevde üretkenliği artırmak için muazzam fırsatlar sunuyor. Ancak bu furya gerçekliğin çok ötesine geçtiği için, 2024 yılında teknolojinin yol açacağı olumsuzluklar daha akılda kalıcı olacaktır.
Üretken YZ’nin ve büyük dil modellerinin yanlış bilgi sağladığına, düpedüz uydurduğunun ve halüsinasyona eğilimli olduğuna dair giderek daha fazla kanıt ortaya çıkacaktır. Bu modellerin şüpheli kaynaklardan veya ifadelerden uzak durmayı öğrendiği denetimli öğrenme yoluyla halüsinasyon sorununa hızlı bir çözüm bulma umutları en iyi ihtimalle iyimser kalacaktır. Bu modellerin mimarisi, bir dizideki bir sonraki kelimeyi veya kelimeleri tahmin etmeye dayandığından, tahminlerin bilinen gerçeklere dayanmasını sağlamak son derece zor olacaktır.
Başarısızlık şirketlere yıkılacak
Ekonomi genelinde üretkenlikte üstel iyileşmeler olacağı beklentisi ya da “yapay genel zeka”ya (YGZ) yönelik çok övülen ilk adımlar da bundan daha iyi sonuç vermeyecektir. Verimlilik artışlarından dem vuranlar, başarısızlığın işletmelerin üretken yapay zekayı hatalı uygulamalarından kaynaklandığını söyleyeceklerdir. Hangi insan görevlerinin bu modeller tarafından artırılabileceğini ve çalışanların bunu gerçeğe dönüştürmek için ne tür ek eğitimlere ihtiyaç duyduğunu bilmemiz gerektiği (çok daha mantıklı) sonucuna doğru ilerlemeye başlayabiliriz.
Bazı insanlar, kelimeleri tahmin etme temelinde karmaşık insan kavrayışına benzeyen herhangi bir şeye ulaşmanın her zaman boş bir hayal olduğunu kabul etmeye başlayacaktır. Diğerleri ise zekânın eli kulağında olduğunu söyleyecek. Korkarım çok daha fazlası, yapay zekânın “varoluşsal risklerinden” bahsetmeye devam edecek, neyin yanlış gittiğini ve kontrolsüz yayılmasının istihdam, eşitsizlik ve demokrasi için oluşturduğu çok daha sıradan (ama sonuç olarak önemli) riskleri gözden kaçıracak.
Olan çalışanlara olacak
Bu maliyetlere 2024 yılında daha net bir şekilde tanık olacağız. Üretken yapay zekâ birçok şirket tarafından benimsenmiş olacak, ne var ki çalışanları yerinden eden, ama büyük üretkenlik artışları sağlayamayan türden “öylesine bir otomasyon” olduğu kanıtlanacak.
ChatGPT ve diğer büyük dil modellerinin en büyük kullanımı sosyal medya ve çevrimiçi aramada olacak. Platformlar, kişiselleştirilmiş dijital reklamlar aracılığıyla topladıkları bilgilerden para kazanmaya devam ederken, kullanıcıların dikkatini çekmek için rekabet yoğunlaşacak. Çevrimiçi manipülasyon ve dezenformasyon miktarı artacak. Üretken YZ, insanların ekran başında geçirdikleri süreyi (ve bununla bağlantılı kaçınılmaz ruh sağlığı sorunlarını) artıracak.
Yeni uygulamaların da kaderi farklı olmayacak
Daha fazla YZ girişimi olacak ve açık kaynak modeli bir miktar ilgi görecektir, ancak bu, Google ve Microsoft/OpenAI’nin devasa modelleriyle alana hakim olmasıyla sektörde sadece iki satıcılı bir düopolün ortaya çıkmasını durdurmak için yeterli olmayacaktır. Çok daha fazla şirket kendi uygulamalarını geliştirmek için bu temel modellere güvenmek zorunda kalacak. Üstelik bu modeller yanlış bilgi ve halüsinasyonlar nedeniyle hayal kırıklığı yaratmaya devam edeceğinden, bu uygulamaların çoğu da hayal kırıklığı yaratacaktır.
Tekelcilik karşıtı ve düzenlemeye yönelik çağrılar yoğunlaşacak. Antitröst eylemleri hiçbir yere varamayacak, çünkü ne mahkemeler ne de siyasi karar alıcılar en büyük teknoloji şirketlerini ortadan kaldırmaya teşebbüs edecek cesarete sahip olmayacak. Düzenleme alanında daha fazla kıpırdanma olacaktır. Bununla birlikte, ABD hükümetinin teknolojinin o kadar gerisinde kalması ve yetişmek için biraz zamana ihtiyaç duyması gibi basit bir nedenden ötürü anlamlı bir düzenleme 2024’te gelmeyecek. 2024’te daha belirgin hale gelecek olan bu eksiklik, yeni yasalar ve düzenlemelerle ilgili tartışmaları yoğunlaştıracak ve hatta iki partinin de desteğini alacak.”
Bu yazı ilk kez 18 Ocak 2024’te yayımlanmıştır.
