Google’da “yapay zekânın fırsat ve tehditleri” araması yapıldığında İngilizcede 28 milyondan fazla, Türkçede ise 2 milyona yakın sonuç çıkıyor. Bunların büyük bölümünü akademik tartışmalar oluşturuyor.
Bu konu daha uzun süre tartışılacak, ama sonuçta işin mutfağında olanlar, yani teknoloji şirketlerinin yaklaşımı yapay zekânın geleceğinde belirleyici olacak.
New York Times’ın konusunda uzman muhabirleri Cade Metz, Karen Weise, Nico Grant ve Mike Isaac tanıklıklara başvurarak, son 10 yılda attıkları adımları takip edip büyük teknoloji şirketlerinin yapay zekâ konusundaki genel yaklaşımlarını belirledi.
Yazıdan öne çıkan bölümleri aktarıyoruz:
“Elon Musk 2015’te 44. yaş gününü, zamanın Google CEO’su Lerry Page’in de katıldığı bir parti ile kutluyordu. On yılı aşkın bir süredir dost olan iki milyarderin, akşam yemeğinden sonra en büyük sohbet konusu yapay zekâydı.
Parti kalabalığı onların etrafında toplaşırken, ses tellerindeki bir rahatsızlığı olan Page, dijital ütopya vizyonunu fısıltıyla anlattı. İnsanların eninde sonunda yapay zekâya sahip makinelerle birleşeceğini söyledi. Bir gün kaynaklar için yarışan birçok zekâ türü olacak ve en iyi olan kazanacaktı.
Musk, “Bu olursa, mahvoluruz. Makineler insanlığı yok eder” dedi.
Page, ütopyasında ısrar etti ve Musk’ı geleceğin dijital yaşam formları yerine insanları tercih eden bir “türcü”[efn_note]İng. Specieist: Bu terim, genellikle farklı türler arasında ayrım yapma eğiliminde olan veya sadece belirli bir türe odaklanan bir kişiyi veya görüşü tanımlamak için kullanılır. Çev.n.[/efn_note] olarak nitelendirdi. Musk daha sonra bu hakaretin “bardağı taşıran son damla” olduğunu söyledi.
Parti kalabalığı dağılırken, bunun Silikon Vadisi partilerinde sıklıkla ortaya çıkan tuhaf tartışmalardan biri olduğunu düşünüyordu. Ancak sekiz yıl sonra, iki adam arasındaki tartışma ileri görüşlü görünüyor. Zira yapay zekânın dünyayı yükseltip yükseltmeyeceği ya da yok edeceği ya da en azından ciddi hasara neden olup olmayacağı sorusu, Silikon Vadisi kurucuları, chatbot kullanıcıları, akademisyenler, yasa koyucular ve düzenleyiciler arasında teknolojinin kontrol edilmesi mi yoksa serbest bırakılması mı gerektiği konusunda devam eden bir tartışmanın çerçevesini oluşturdu.
Bu tartışma dünyanın en zengin adamlarından bazılarını, Musk, Page, Meta’dan Mark Zuckerberg, teknoloji yatırımcısı Peter Thiel, Microsoft’tan Satya Nadella ve OpenAI’den Sam Altman’ı birbirine düşürdü. Hepsi de bir gün trilyonlarca dolar değerinde olabilecek bu pazardan pay almak ve bu pazarı şekillendirmek için mücadele ediyor.
Bu rekabetin merkezinde beyinleri zorlayan bir paradoks var: Yapay zekâ konusunda en çok endişe duyduklarını söyleyen insanlar, onu yaratma ve sağlayacağı servetin tadını çıkarma konusunda en kararlı olanlar arasında yer alıyor. Hırslarını, yapay zekânın dünyayı tehlikeye atmasını tek başlarına önleyebilecekleri yönündeki güçlü inançlarıyla meşrulaştırdılar.
Musk, OpenAI’ye hayat öpücüğü verdi
Musk ve Page o partiden kısa bir süre sonra iletişimlerini kestiler. Birkaç hafta sonra Musk, o zamanlar bir teknoloji kuluçka merkezi yöneten Sam Altman ve birkaç araştırmacı yemek yedi. O akşam yemeği, o yılın sonuna doğru OpenAI adında bir start-up’ın kurulmasına yol açtı. Musk ve diğer fon sağlayıcıların yüz milyonlarca dolarıyla desteklenen laboratuvar, dünyayı Page’in vizyonundan koruma sözü verdi.
OpenAI, ChatGPT sohbet robotu sayesinde teknoloji endüstrisini temelden değiştirirken dünyayı yapay zekânın riskleri ve potansiyeliyle tanıştırdı.
Bugün OpenAI’nin değeri 80 milyar dolardan fazla, ancak şirket bunu Musk ile Altman’ın ortaklığıyla ulaşmadı. İkili, şirketin kurulmasından kısa süre sonra yollarını ayırdı.
Geçen ay bu iç kavga OpenAI’nin toplantı odasına da sıçradı. Başkaldıran yönetim kurulu üyeleri Altman’ı görevden almaya çalıştı, çünkü artık ona insanlığa fayda sağlayacak bir yapay zekâ oluşturma konusunda güvenemeyeceklerine inanıyorlardı.
Beş kaotik gün boyunca OpenAI’ye dağıldı dağılacak gözüyle bakılıyordu. Dev yatırımcıların ve Altman ile birlikte istifa etme tehdidinde bulunan çalışanların baskısıyla yönetim kurulu geri adım atınca kriz sonlandı.
OpenAI’deki dram, dünyaya yapay zekânın geleceğini belirleyecek olanlar arasındaki şiddetli çatışmanın ilk tezahürü oldu.
Ancak OpenAI’nin çöküşün eşiğinden dönmesinden yıllar önce, Silikon Vadisi’nde dünyayı hızla yeniden şekillendiren bu teknolojinin kontrolü için kamuoyuna pek yansımayan şiddetli bir rekabet vardı.
DeepMind’ın doğuşu
2010 yılında, 34 yaşındaki nörobilimci Demis Hassabis, Peter Thiel’in San Francisco’daki evinde düzenlenen bir kokteyle katıldı.
2010 yılında Dr. Hassabis ve İngiltere’de yaşayan iki meslektaşı, beynin yapabildiği her şeyi yapabilen bir makine olan “yapay genel zekâ” (YGZ) inşa etmeye başlamak için para arıyorlardı. O zamanlar çok az insan yapay zekâ ile ilgileniyordu. Yarım asırdır süren araştırmalar, insan beynine yakın bir şey ortaya koyamamıştı.
Buna rağmen bazı bilim insanları ve düşünürler yapay zekânın olumsuz yanlarına takılmıştı. İngiliz üç genç adam gibi birçoğunun internet filozofu ve kendi kendini yetiştirmiş bir yapay zekâ araştırmacısı olan Eliezer Yudkowsky ile bir bağlantısı vardı. Yudkowsky, kendilerine “rasyonalistler” ya da daha sonraki yıllarda “etkin özgeciler” adını veren bir topluluğun lideriydi.
Yapay zekânın kansere çare bulabileceğine ya da iklim değişikliğini çözebileceğine inanıyorlardı, ama yapay zekâ robotlarının yaratıcılarının niyet etmediği şeyler yapabileceğinden endişe ediyorlardı. Rasyonalistlere göre makineler insanlardan daha zeki hale gelirse, yaratıcılarına düşman olabilirlerdi.
Thiel, Facebook’a yaptığı erken yatırım ve PayPal’ın ilk günlerinde Musk ile birlikte çalışması sayesinde muazzam bir servete sahip olmuştu. Akıllı teknolojinin artık insanlık tarafından kontrol edilemeyeceği anı tanımlayan bir bilimkurgu metaforu olan teknolojik tekilliğe[efn_note]İng. Singularity: Gelecekte yapay zekânın insan zekâsının ötesine geçerek medeniyeti ve insan doğasını radikal bir biçimde değiştireceğine inanılan varsayımsal nokta. Çev.n.[/efn_note] karşı bir hayranlık besliyordu.
Thiel’in sağladığı fonla Yudkowsky yapay zekâ laboratuvarını genişletmiş ve tekillik üzerine yıllık bir konferans düzenlemişti.
Yudkowsky, Dr. Hassabis’i Thiel ile tanıştırdı.
Kısa süre sonra Thiel ve risk sermayesi şirketi, girişimlerine 2,25 milyon dolar yatırmayı kabul etti. Thiel onların ilk büyük yatırımcısıydı.
Şirketlerine DeepMind adını verdiler. 2010 sonbaharında hayallerindeki makineyi inşa ediyorlardı. Riskleri gördükleri için dünyayı koruma konusunda benzersiz bir konuma sahip olduklarına yürekten inanıyorlardı.
Thiel’i kazanan Dr. Hassabis, Musk’ın da yörüngesine girmeyi başardı. Yaklaşık iki yıl sonra, Musk’ın SpaceX şirketine de para yatırmış olan Thiel’in yatırım fonu tarafından düzenlenen bir konferansta bir araya geldiler. Dr. Hassabis, SpaceX’in genel merkezinde bir tur ayarladı. Musk, planının Dünya’daki aşırı nüfus artışı ve diğer tehlikelerden kaçmak için Mars’ı kolonileştirmek olduğunu açıkladı. Dr. Hassabis planın başarılı olacağını söyledi. Tabii süper zeki makineler Mars’taki insanlığı da takip edip yok etmediği sürece…
Musk’ın nutku tutulmuştu. Bu tehlikeyi hiç düşünmemişti. Musk kısa süre sonra bu teknolojinin geliştirilmesine daha yakın olabilmek gayesiyle Thiel ile birlikte DeepMind’a yatırım yaptı.
Paraya boğulan DeepMind, sinir ağları, insan beyninin benzeri karmaşık algoritmalar konusunda uzmanlaşmış araştırmacıları işe aldı. Bir sinir ağı aslında günler, haftalar, hatta aylar boyunca büyük miktarlardaki dijital verilerdeki örüntüleri tanımlayan dev bir matematiksel sistemdir. İlk olarak 1950’lerde geliştirilen bu sistemler, görevleri kendi başlarına halletmeyi öğrenebiliyordu. Örneğin yüzlerce zarfın üzerine karalanmış isim ve adresleri analiz ettikten sonra el yazısıyla yazılmış metinleri okuyabiliyorlardı.
Yetenek müzayedesi
2012 sonbaharında, Toronto Üniversitesi profesörlerinden 64 yaşındaki Geoffrey Hinton ile iki yüksek lisans öğrencisi, yapay zekânın neler yapabileceğini dünyaya gösteren bir makale yayınladı. Çiçekler, köpekler ve arabalar gibi yaygın nesneleri tanıyabilecek bir sinir ağını geliştirdiler.
Dr. Hinton ve öğrencileri tarafından geliştirilen teknolojinin isabet oranı bilim insanlarını şaşırttı. Bunlardan biri, Dr. Hinton’la bir araştırma konferansında tanışan ve kısa süre önce dev Çin internet şirketi Baidu’da çalışmaya başlayan yapay zekâ araştırmacısı Yu Kai’ydi. Baidu, Dr. Hinton ve öğrencilerine Pekin’deki şirkete katılmaları için 12 milyon dolar teklif etti.
Dr. Hinton, Baidu’yu reddetti, ama önerilen para miktarı dikkat çekiciydi.
Cambridge mezunu İngiliz, Microsoft ve Google’da ara sıra yaptığı çalışmalar dışında kariyerinin büyük bölümünü akademide geçirmişti ve paranın peşinden koşmuyordu. Ancak sinirsel bozukluğu olan bir çocuğu vardı ve para maddi güvence sağlayacaktı.
Dr. Hinton, “Ne kadar değerli olduğumuzu bilmiyorduk,” diyor. Avukatlara ve satın alma uzmanlarına danıştı ve bir plan yaptı: “Bir açık artırma düzenleyecek ve kendimizi satacaktık.” Açık artırma, ABD’nin batısında bir otel-kumarhanede düzenlenen yıllık yapay zekâ konferansı sırasında yapılacaktı.
Büyük teknoloji şirketleri bunu ciddiye aldı. Google, Microsoft, Baidu ve diğer şirketler sinir ağlarının sadece görebilen değil, duyabilen, yazabilen, konuşabilen ve nihayetinde düşünebilen makinelere giden bir yol olduğuna inanmaya başlamıştı.
Page, şirketinin yapay zekâ laboratuvarı olan Google Brain’de benzer bir teknoloji görmüştü ve Dr. Hinton’un araştırmasının kendi bilim insanlarının çalışmalarını geliştirebileceğini düşünüyordu. Dr. Hinton ve öğrencilerini işe almak için açık çek verdi.
Ertesi gün Dr. Hinton açık artırmayı otel odasından yönetti. Google bir teklif yaptı. Microsoft da öyle. Fiyat yükselince DeepMind hızla geri çekildi.
Sonra Microsoft çekildi ve geriye sadece Baidu ve Google kaldı. Açık artırmayı 44 milyon dolarla Dr. Hinton ve öğrencilerinin çalışmak istediği kuruluş kazandı.
Bu, cebi dolu şirketlerin en yetenekli yapay zekâ araştırmacılarını satın almaya kararlı olduklarının açık bir işaretiydi. Dr. Hinton çalışanlarına her zaman DeepMind’ın bağımsız bir şirket olarak kalacağını söylemişti. Teknolojisinin tehlikeli bir şeye dönüşmemesini sağlamanın en iyi yolunun bu olduğuna inanıyordu. Ancak büyük teknoloji şirketleri yetenek yarışına girince başka seçeneği olmadığına karar verdi: Satma zamanı gelmişti.
2012 sonunda Google ve Facebook Londra’daki laboratuarı satın almak için girişimlerde bulunuyordu. Dr. Hassabis ve kurucu ortakları iki koşulda ısrar ettiler: Hiçbir DeepMind teknolojisi askeri amaçlarla kullanılmamalı ve YGZ teknolojisi teknoloji uzmanları ve etik uzmanlarından oluşan bağımsız bir kurul tarafından denetlenmeli…
Google 650 milyon dolar teklif etti. Facebook’tan Mark Zuckerberg, DeepMind’ın kurucularına daha büyük bir ödeme teklif etti, ancak koşulları kabul etmedi. DeepMind Google’a satıldı.
Zuckerberg kendi yapay zekâ laboratuvarını kurmaya kararlıydı. Kendisi de öncü yapay zekâ araştırmaları yapmış olan Fransız bilgisayar bilimcisi Yann LeCun’u bu laboratuvarı yönetmesi için işe aldı.
Yapay zekâya bir zamanlar gülüp geçilirdi. Şimdi Silikon Vadisi’nin en zengin adamları geride kalmamak için milyarlar harcıyordu.
Kayıp etik kurulu
Musk, DeepMind’a yatırım yaptığında kendi gayri resmi kuralını çiğnemiş oldu: Kendisinin yönetmediği hiçbir şirkete yatırım yapmamak. Page ile yaşadığı doğum günü tartışmasından sadece bir ay kadar sonra, kendisini yine eski dostu ve milyarder arkadaşıyla karşı karşıya geldi.
Bu, DeepMind’ın etik kurulunun 14 Ağustos 2015’teki ilk toplantısında yaşandı. Google DeepMind’ı satın aldığında her şeyi satın almış oldu. Musk dışarıda kalmıştı. Finansal olarak kazançlı çıkmıştı, ama mutsuzdu.
DeepMind’ın kontrolünü elinde tutan üç Google yöneticisi de oradaydı: Page; Google’ın kurucu ortaklarından ve Tesla yatırımcısı Sergey Brin; ve Google’ın başkanı Eric Schmidt. Diğer katılımcılar arasında bir başka PayPal kurucusu Reid Hoffman ve “varoluşsal risk” üzerine çalışan Avustralyalı filozof Toby Ord da vardı.
DeepMind kurucuları çalışmalarını sürdürdüklerini, ancak teknolojinin ciddi riskler taşıdığının farkında olduklarını belirttiler.
DeepMind’ın üç kurucusundan biri olan Mustafa Süleyman bir sunum yaptı. Yapay zekânın dezenformasyonda bir patlamaya yol açabileceğini söyledi. Teknoloji önümüzdeki yıllarda sayısız meslekte çalışanların yerini alırken, halkın Google’ı geçim kaynaklarını çalmakla suçlayacağından endişe ediyordu. Google’ın servetini artık iş bulamayan milyonlarla paylaşması ve “evrensel bir temel gelir” sağlaması gerektiğini savundu.
Musk da aynı fikirdeydi. Ancak Google’daki konuklarının servetlerinin yeniden dağıtımına hazır olmadıkları çok açıktı. Schmidt endişelerin çok abartıldığını düşündüğünü söyledi. Page de her zamanki kısık sesiyle buna katıldığını belirtti. Yapay zekânın götürdüğünden daha fazla istihdam yaratacağını savundu.
Sekiz ay sonra DeepMind yapay zekâ topluluğunu ve dünyayı şaşkına çeviren bir atılım yaptı. AlphaGo adlı bir DeepMind makinesi, antik Go oyununda dünyanın en iyi oyuncularından birini yendi. İnternet üzerinden yayınlanan oyun, dünya genelinde 200 milyon kişi tarafından izlendi. Oysa çoğu araştırmacı yapay zekânın bunu yapabilecek beceriyi kazanması için 10 yıla daha ihtiyacı olduğunu varsayıyordu.
Rasyonalistler, özgeci bilim insanları ve yapay zekânın risklerinden endişe duyan diğer kişiler bilgisayarın zaferinin korkularını doğruladığını iddia ettiler.
DeepMind’ın kurucuları Google’ın icatlarıyla ne yapacağı konusunda giderek daha fazla endişe duymaya başladılar. 2017 yılında şirketten ayrılmaya çalıştılar. Google, DeepMind kurucularının ve çalışanlarının maaşlarını ve hisse senedi ödül paketlerini artırarak yanıt verdi. Onlar da yerlerinde kaldılar.
Etik kurul ikinci bir toplantı yapmadı.
Kâr gütmeden olmuyor
Page’in yapay zekâ konusundaki iyimser görüşünün son derece yanlış olduğuna inanan ve DeepMind’ı kaybettiği için öfkelenen Musk, kendi laboratuvarını kurdu.
OpenAI, 2015’in sonlarında kuruldu. Musk laboratuvara para pompaladı ve eski PayPal dostları Hoffman ve Thiel de bu işe katıldı. Üç adam ve diğerleri, o sırada 30 yaşında olan Altman’ın yürütülmesine yardımcı olacağı projeye 1 milyar dolar koyma sözü verdi. Projeyi hayata geçirmek için Google’ın Dr. Hinton’ın açık artırmasında “satın aldığı” yüksek lisans öğrencilerinden biri olan Ilya Sutskever’i Google’dan kaptılar.
Başlangıçta Musk, OpenAI’yi Google ve diğer şirketleri yönlendiren ekonomik teşviklerden uzak, kâr amacı gütmeyen bir kuruluş olarak işletmek istedi. Ancak Google Go gösterisiyle teknoloji camiasını şaşkına çevirdiğinde Musk, OpenAI’nin nasıl işletilmesi gerektiği konusunda fikrini değiştirdi. OpenAI’nin dünyanın hayal gücünü yakalayacak ve Google ile arasındaki farkı kapatacak bir şey icat etmesini umutsuzca istiyordu, ama kâr amacı gütmeyen bir kuruluş olarak bu işi başaramıyordu.
2017’nin sonlarında, laboratuvarın kontrolünü Altman ve diğer kuruculardan alıp Tesla ile güçlerini birleştirecek ve otomobil şirketinin geliştirmekte olduğu süper bilgisayarlara dayanacak ticari bir operasyona dönüştürmek üzere bir plan yaptı.
Altman ve diğerleri karşı çıkınca Musk istifa etti ve Tesla’daki kendi yapay zekâ çalışmalarına odaklanacağını söyledi.
OpenAI’nin acilen yeni finansmana ihtiyacı vardı. Altman bir konferansta ve Microsoft’un CEO’su Satya Nadella ile karşılaştı. Anlaşma 2019’da imzalandı…
Altman ve OpenAI, orijinal kâr amacı gütmeyen kuruluşun altında kâr amacı güden bir şirket kurmuşlardı, 1 milyar dolarlık taze sermayeleri vardı ve Microsoft, geniş bulut bilişim hizmetine yapay zekâ eklemenin yeni bir yolunu bulmuştu.
ChatGPT doğuyor
Araştırmacı Dario Amodei, laboratuvarın büyük miktarda dijital metinden öğrenebilen büyük dil modeli adı verilen bir sinir ağı oluşturma çabalarına liderlik ediyordu. Sayısız Wikipedia makalesini, dijital kitabı ve mesaj panosunu analiz ederek kendi başına metin üretebiliyordu. Ayrıca bir şeyler uydurmak gibi talihsiz bir alışkanlığı da vardı. GPT-3 olarak adlandırıldı ve 2020 yazında piyasaya sürüldü.
OpenAI, Google ve diğer şirketlerdeki araştırmacılar, hızla gelişen bu teknolojinin YGZ’ye giden bir yol olabileceğini düşünüyorlardı.
Ancak Dr. Amodei Microsoft anlaşmasından memnun değildi, çünkü bunun OpenAI’yi gerçekten ticari bir yöne götürdüğünü düşünüyordu. O ve diğer araştırmacılar Altman’ı görevden almalarını istemek için yönetim kuruluna gittiler. Başarısız olunca da ayrıldılar. DeepMind’ın kendilerinden önceki kurucuları gibi, yeni kurumsal efendilerinin güvenlik yerine ticari çıkarları tercih edeceğinden endişe ediyorlardı.
2021 yılında, yaklaşık 15 mühendis ve bilim insanından oluşan grup Anthropic adında yeni bir laboratuvar kurdu. Plan, yapay zekâyı çok sıkı kontrol altında inşa etmekti.
Anthropic, Amazon’dan 4 milyar dolar, iki yıl sonra da Google’dan 2 milyar dolar daha yatırım aldı.
Gates kapıyı açtı
OpenAI, Microsoft’tan 2 milyar dolar daha aldıktan sonra, Altman ve bir başka üst düzey yönetici Greg Brockman, Bill Gates’i malikanesinde ziyaret etti.
Gates onlara büyük dil modellerinin işe yarayabileceğinden şüphe duyduğunu söyledi.
Beş ay sonra, 24 Ağustos 2022’de Altman ve Brockman yanlarında Chelsea Voss adında bir OpenAI araştırmacısı ile geri döndüler. Voss lise öğrencisiyken uluslararası bir biyoloji olimpiyatında madalya kazanmıştı. Nadella ve diğer Microsoft yöneticileri de oradaydı.
OpenAI ekibi, Gates’in oturma odasının dışındaki bir stantta yer alan devasa bir dijital ekranda GPT-4 adlı bir teknolojiyi tanıttı.
Brockman sisteme çoktan seçmeli bir ileri biyoloji testi verdi ve Voss cevapları puanladı. Sistem doğru cevap verdiği gibi neden bu seçimi yaptığını da açıkladı. Brockman, “Sadece bir cevap vermek üzere eğitilmişti,” dedi. “Konuşma doğası neredeyse sihirli bir şekilde ortaya çıktı.” Başka bir deyişle, sistem aslında tasarlamadıkları şeyleri yapıyordu.
60 soru vardı. GPT-4 sadece bir yanlış cevap verdi.
Gates sandalyesinde doğruldu, gözleri fal taşı gibi açıldı. GPT’nin devrim niteliğinde olduğunu düşünüyordu.
Ekim ayına gelindiğinde Microsoft, Bing arama motoru da dahil olmak üzere çevrimiçi hizmetlerine bu teknolojiyi ekliyordu. İki ay sonra da OpenAI, halen her hafta 100 milyon kişi tarafından kullanılan ChatGPT sohbet robotunu piyasaya sürdü.
Google kendi sohbet robotu Bard’ı piyasaya sürmek için acele etti, ancak yarışı OpenAI’ye karşı kaybettiği düşünülüyordu. ChatGPT’nin piyasaya sürülmesinden üç ay sonra Google hisseleri yüzde 11 değer kaybetti. Musk ise ortalıkta görünmüyordu.
Ama bu sadece bir başlangıçtı.”
Bu yazı ilk kez 7 Aralık 2023’te yayımlanmıştır.
