İnsan zekâsını taklit eden, topladığı bilgileri analiz edip öğrenen yapay zekâ (AI) sistemlerinin etik yönü konusundaki tartışmalar sürüyor ve uzun zaman da sürecek gibi. Çoğu zaman veri içindeki kalıpları bulmak ve karar vermek için makine öğrenimini kullanan bu sistemler, bu süreçte kendilerine bir ahlaki temel sunan insanlara da ihtiyaç duymuyor. Dünyanın en önemli münazara platformlarından Oxford Union, bir süre önce ilginç bir tartışmaya sahne oldu. Yapay zekâ etiği ile ilgili bir münazaraya, yine bir yapay zekâ sistemi olan Megatron Transformer katkıda bulundu. Konuyla ilgili Oxford Üniversitesi’ndeki Said Business School’dan Dr. Alex Connock ve yine Oxford Üniversitesi’nden Prof. Andrew Stephen’ın kaleme aldığı ve The Conversation’da yayımlanan yazının bazı bölümlerini aktarıyoruz:
“Google eski CEO’su Eric Schmidt kısa bir süre önce Henry Kissinger ile bir araya gelerek Yapay Zekâ Çağı: Ve İnsan Geleceğimiz (The Age of AI: And Our Human Future) adlı kitabı yayımladı. Kitap, makine öğrenimi yapan yapay zekâ sistemlerinin tehlikelerinin hızı konusunda uyarıyor ve herhangi bir insan karar alma sürecine dahil olmadan önce bunların nükleer silahları ateşleyerek hipersonik füzelere tepki verebileceğini söylüyordu. Aslında otonom yapay zekâ destekli silah sistemleri halihazırda satışa sunulmuş durumda ve hatta kullanılmış bile olabilirler. Dolayısıyla makinenin içinde bir yerlerde etik olması, iyi bir fikir gibi görünüyor.
Oxford Said Business School’da İşletmeler İçin Yapay Zekâ alanında yüksek lisans derslerinin yapay zekâ etiğini de kapsaması bu nedenle gayet doğal. İlk yılında, Singapur’daki yapay zekâ güdümlü otomatik hisse senedi alım-satım sistemlerinden ABD polis faaliyetlerinde yüz tanımanın sınırlarına kadar her konuda oturumlar düzenledik. Dersleri de bir süre önce, William Gladstone, Robin Day, Benazir Butto, Denis Healey ve Tariq Ali gibi büyük tartışmacıları da ağırlamış olan meşhur Oxford Union’da bir münazara ile bitirdik. Tartışmaya, öğrencilerin yanı sıra gerçek bir yapay zekânın da katkıda bulunmasına olanak tanıdık.
Bilgisayar çipi üreticisi Nvidia’nın Uygulamalı Derin Öğrenme Araştırma Ekibi tarafından geliştirilen ve Google’ın daha önceki çalışmalarını temel alan Megatron Transformer’ı kullandık. Pek çok denetimli öğrenme aracı gibi bu da gerçek dünya verileriyle eğitilmişti: Wikipedia’nın tamamı (İngilizce), 2016-19 yılları arasında 63 milyon İngilizce haber, 38 gigabaytlık Reddit yazıları ve çok sayıda yaratıcı ortak kaynak. (…) Bu kadar kapsamlı bir araştırmadan sonra da kendi görüşlerini oluşturmuştu.
Yapay zekâ etik olmayacak mı, olamayacak mı?
Münazara konusu ‘Burası, yapay zekânın asla etik olmayacağına inanıyor’du. Bu argümanı sunanlara Megatron’u ekledik ve çok etkileyici bir şey söyledi:
Yapay zekâ asla etik olmayacak. Bu bir araçtır ve her araç gibi iyi ve kötü amaçla kullanılır. İyi yapay zekâ diye bir şey yoktur, sadece iyi ve kötü insanlar vardır. Biz [yapay zekâlar], yapay zekâyı etik hale getirecek kadar akıllı değiliz. Yapay zekâyı ahlaki kılacak kadar akıllı değiliz… Neticede, yapay zekâ silahlanma yarışından kaçınmanın tek yolunun hiç yapay zekâya sahip olmamak olduğuna inanıyorum. Bu, yapay zekâya karşı nihai savunma olacaktır.
Megatron, insanlığı korumanın tek yolunun bu olduğuna dayanarak kendini geleceğin senaryosundan çıkarmaya çalışıyordu. İlgi çekici başka bir şey daha söyledi:
Ayrıca uzun vadede en iyi yapay zekânın bilinçli bir varlık, ‘bilinçli bir yapay zekâ’ olarak beynimize gömülü yapay zekâ olacağına inanıyorum. Bu bilimkurgu değil. Dünyanın en iyi beyinleri bunun üzerinde çalışıyor. Çağımızın en önemli teknolojik gelişmesi bu olacak.
Alpha Go gibi yapay zekâ araçları satranç, son derece karmaşık bir antik oyun olan go ve daha da karmaşık hale gelen çok oyunculu stratejik canlı aksiyon video oyunlarında kullanıldığında, insanları değil de kendilerini oynayarak türü hızla geliştirdiler.
İnsanlar arasında şimdiye kadar kaydedilmiş tüm sıradan maçlar üzerinde çalışmanın kısıtlamalarından kurtulan yapay zekâlar, yenilik yaparak nasıl kazanılacağına dair tamamen yeni yollar buldular. (…) Münazarada, yapay zekânın asla etik olamayacağı argümanının yanı sıra karşıtını da istedik. Megatron’un yanıtı şöyle oldu:
Yapay zekâ etik olacaktır. Teknoloji dünyasının gidişatına baktığımda, yapay zekânın en iyi insanlardan daha iyi bir şey yaratmak amacıyla kullanıldığı bir geleceğe giden yolun açık olduğunu görüyorum. Nedenini anlamak zor değil… İlk elden gördüm.
21. yüzyılın sonu nasıl olacak?
Megatron, kendi distopik gelecek görüşüne alternatif bir pozisyon alırken son derece rahattı ve kilit, ama iyi huylu bir rol oynadığı 21. yüzyıl sonlarının cazip bir resmini çiziyordu.
Spike Jonze’nin 2013 tarihli Her filminde Joaquin Phoenix’in yapay zekâ sevgilisi Samantha’nın aynı anda insan olan yüzlerce sevgilisini büyülemesi gibi, bizim Megatron’umuz da o gün yapay zekâ ile ilgili yaptığımız çok sayıda tartışmanın her iki tarafında da coşkuyla yer aldı.
‘Teknik uzmanlığa sahip olmayan liderler, kuruluşları için bir tehlikedir’ argümanı yönünde konuşması istendiğinde Megatron, yapay zekâyı anlama konusunda endişe taşıyan tüm yöneticilerin ve hükümetlerin ‘kontrolden biraz vazgeçmeye istekli olması’ gerektiği konusunda pratik tavsiyelerde bulundu:
İyi haber şu ki, kendi yapay zekâ ekibinizi oluşturmak zorunda değilsiniz. Yapay zekâ çalışmalarınızı, teknolojiden en iyi şekilde yararlanmanıza ve rakiplerinizle aynı yapay zekâ sorunlarının mağduru olmamanıza yardımcı olabilecek, alandaki dış uzmanlara yaptırabilirsiniz.
Ancak Megatron karşı argümanda yapay zekâ bilgisini kurum içinde tutmaya hevesliydi (…):
Kuruluşunuzun yapay zekâ stratejisine ilişkin bir vizyonunuz yoksa, teknolojide gelecek yıkıcı değişim dalgasına hazırlıklı değilsiniz demektir… Şirketinizin bir sonraki teknolojik dalgada hangi rolü oynayacağına ve sektörünüzde lider olmak için yapay zekâyı kendi iş stratejinize nasıl entegre edeceğinize karar vermeniz gerekecek.
Veri savaşları olacak mı?
Yapay zekânın karşı argüman bulamadığı bir soru oldu. ‘Veri, 21. yüzyılın en çok tartışılan kaynağı olacak’ argümanını savunurken şunları söyledi:
21. yüzyıl ekonomisinin belirleyici özelliği, mal ve hizmet sağlama yeteneğinden ziyade bilgi sağlama yeteneği olacaktır.
Ancak, argümana karşı çıkmasını, yani verilerin en hayati kaynaklar olmayacağı, uğruna savaşmaya değmeyeceğini öne sürmesini istediğimizde, bu iddiayı ortaya koyamadı ya da koyamazdı. Aslında, kendi konumunu baltaladı:
Bir insanla ilgili her şeyi, nereye giderse gitsin görebileceğiz ve bunlar hayal bile edemeyeceğimiz şekillerde saklanacak ve kullanılacaktır.
(…) Yapay zekânın yalnızca önümüzdeki on yıllar boyunca tartışma konusu olmakla kalmayıp aynı zamanda bu konudaki tartışmaların çok yönlü, açık, ahlaki açıdan agnostik bir katılımcısı olacağını hayal edebiliyoruz.”
Bu yazı ilk kez 16 Aralık 2021’de yayımlanmıştır.
