Yapay zekâ sistemleri demokrasiye karşı tehdit mi oluşturuyor?

Hızla gelişen ve birçok alanda hayatı kolaylaştıran yenilikler sunan yapay zekâya süratle adapte olan ve kullanan mecraların başında güvenlik sektörü geliyor. Ancak bu yeni olanakların kötüye kullanımı, hukuk devletini sarsacak boyutlara ulaşma potansiyeli de taşıyor.

Uluslararası Barış için Carnegie Vakfı’nın araştırmacılarından hukukçu Steven Feldstein, konuya dikkat çeken ve yaz başında yayınlanan makalesinde, “dijital denetimin gelişimi, vatandaş ile devlet arasındaki ilişkiyi derinden etkiliyor,” tespitini yapıyor. Yazara göre, yeni teknolojiler, devletlere bireylerin takibi açısından benzeri görülmemiş imkânlar sunarken, hukuk devleti geleneğinin güçlü olduğu demokrasilerde bile bu yeni olanakların kötüye kullanımı söz konusu olabiliyor.

Amerikalı teknoloji devi Microsoft’un Çin’deki askeri bir üniversite olan Çin Ulusal Savunma Teknolojisi Üniversitesi’yle işbirliğine gitmesi, ABD’de tepki gördü. Hatta ABD Senatosunun iki üyesi,, Çin’in takip ve sansür kabiliyetini arttırması muhtemel bu anlaşmayı kınadı.

Çin izleme gözetleme teknolojilerini ihraç ediyor

“Yapay zekâ teknolojilerine büyük ilgi gösteren Çin yönetimi, Sincan bölgesinde kurduğu dünyanın en gelişmiş izleme/gözetleme devletiyle vatandaşların günlük hareketlerini ve akıllı telefon kullanımını takip ediyor.

Çin’in söz konusu teknolojileri bu şekilde suistimal etmesi, bir yandan diğer otokratlara örnek olurken, diğer yandan da açık demokratik toplumlar açısından doğrudan tehdit teşkil ediyor. Yapay zekâya dayalı denetimin başka devletler tarafından bu boyutta uygulandığına dair herhangi bir kanıt yok ancak Çinli şirketlerin bu teknolojileri dünyanın dört bir yanına aktif bir şekilde ihraç ettikleri biliniyor.”

Yapay zekâya dayalı denetimin başka devletler tarafından Çin’deki kadar uygulandığına dair herhangi bir kanıt olmamakla beraber, Çinli şirketlerin bu teknolojileri dünyanın dört bir yanına aktif bir şekilde ihraç ettikleri biliniyor.

ABD’de yapay zekâya dayalı araçların kullanımı artıyor

Yapay zekâ sistemlerinin akıllı telefonlardan internet arama motorlarına, sesli dijital asistanlardan Netflix film listelerine kadar modern dünyanın her alanında kullanıldığını hatırlatan yazar, “analiz edilmesi gereken veri miktarı sürekli arttığı, algoritmalar iyileştiği ve bilgisayar çipleri geliştiği için de çoğumuz, yapay zekânın ne kadar hızlı bir şekilde yayıldığını fark etmiyoruz,” diyor ve ekliyor:

“Ortadaki bilgi miktarının artıp analiz yapmayı kolaylaştırması devletlerin de ilgisini çeken bir şey – üstelik sadece otoriter nitelikte olanların da değil. Örneğin, 1970’lerde FBI, CIA ve NSA gibi devlet kurumlarının, vatandaşlık hakları eylemcilerini, siyasi aktivistleri ve Amerikan yerlilerini izleyip taciz etmek için yurtiçinde geniş kapsamlı izleme ağları kurduğu ortaya çıkmıştı. Bu sorunlar bugün de ortadan kalkmış değil. Dijital teknoloji ile artık daha da fazla kurum daha da derinlemesine izleme yapabilecek konuma geldi.

Yapay zekâ teknolojilerini büyük bir hevesle benimseyenlerden biri de ABD polisi. Amerikan emniyeti artık polis memurlarının nereye devriyeye gönderileceğine, suç işlenebilecek noktaları tahmin eden bir yazılım vasıtasıyla karar veriyor. Kurum, soruşturmalarda da yüz tanıma ve DNA analizi teknolojilerinden faydalanıyor. Fakat yapılan analizler, bu sistemlerin öğrendiği verilerin çoğunlukla taraflı olduğunu ve bunun da Afrikalı Amerikalıların diğer gruplara kıyasla suça daha yatkın olduğu gibi yanlış ve adaletsiz çıkarımlara neden olabildiğini gösteriyor.”

Küresel gözaltı

Feldstein’in dikkat çektiği başka bir nokta da, otoriter ülkelerde, yapay zekâ sistemlerinin siyasal muhalifleri neredeyse harekete bile geçmeden, düşünce aşamasında tespit etmek için kullanılması.

“Otoriter ülkelerde yapay zekâ sistemleri, yurtiçi denetim ve gözetime doğrudan katkı sağlayıp, iç güvenlik güçlerinin – sosyal medya paylaşımları, kısa mesajlar, e-postalar ve telefon aramaları gibi – devasa miktarda bilgiyi daha hızlı ve verimli bir şekilde işlemesine yardımcı olabiliyor. Polis, bu sistemlerin ortaya çıkardığı bilgilere dayanarak, rejime karşı tehdit oluşturabilecek kişileri ve toplumsal eğilimleri tespit edebiliyor.

Yapay zekâ teknolojilerini büyük bir hevesle benimseyenlerden biri de ABD polisi. Kurum, soruşturmalarda da yüz tanıma ve DNA analizi teknolojilerinden faydalanıyor. Fakat yapılan analizler, bu sistemlerin öğrendiği verilerin çoğunlukla taraflı olduğunu ve bunun da Afrikalı Amerikalıların diğer gruplara kıyasla suça daha yatkın olduğu gibi yanlış ve adaletsiz çıkarımlara neden olabildiğini gösteriyor.

Yazarın verdiği örnek hem çarpıcı hem de Türkiye için önem arz eden bir örneğe işaret ediyor: Sincan’a… “Örneğin, Çin hükümeti, Sincan ve Tibet gibi etnik azınlıkların yaşadığı bölgelerde baskı ortamı oluşturmak için “Orwellyen” denilebilecek nitelikte izleme sistemleri kurarken yapay zekâdan yararlandı. Söz konusu sistemler, buralarda yaşayan vatandaşların DNA örneği vermesini zorunlu kılıyor, kablosuz ağları takip ediyordu, birçok yerde yüz tanıma kameraları vardı ve tüm bunlar birbiriyle entegre veri analiz platformlarına bağlıydı. Amerikan Dışişleri Bakanlığına göre, Çinli yetkililer bu sistemlerin yardımıyla 1 ila 2 milyon arasında insanı keyfi olarak alıkoydu.”

Feldstein, Çinli şirketlerin bu teknolojileri 50’den fazla ülkeye ihraç ettiğini de anlatıyor:

“Bu teknolojiler, genellikle de Çin’in amiral gemisi sayılan Bir Kuşak Bir Yol Projesi (OBOR) ile birlikte paketlenerek satılıyor. OBOR, dünya nüfusunun yüzde 60’ını ve küresel GSYİH’nin yüzde 40’ını oluşturan bir bölgeye hizmet veren geniş bir karayolu ağını, demiryollarını, enerji boru hatlarını ve telekomünikasyon şebekelerini finanse eden bir girişim.

Bu kapsamda, Huawei ve ZTE gibi Çinli şirketler, Pakistan, Filipinler ve Kenya’da içinde ciddi izleme teknolojileri barındıran “akıllı şehirler” kuruyor. Mesela Huawei, Filipinler’deki Bonifacio Global City’i “suç tespiti ve trafik yönetimine yönelik veri analiz özelliğiyle 7/24 akıllı izleme sağlayan”, yüksek çözünürlüklü, internet bağlantılı kameralarla donattı.

Hikvision, Yitu ve SenseTime, elektrik direklerine monte edilecek 110 bin kamera ile bir izleme sistemi kuracağını duyuran Singapur gibi bölgelere son teknoloji ürünü yüz tanıma kameraları tedarik ediyor. Zimbabve ise yüz tanımada kullanılmak üzere ulusal görüntü veritabanı kuruyor.

Yine de ileri teknoloji ekipmanların kâr amaçlı olarak satılması, açık bir jeopolitik amaç doğrultusunda teknoloji paylaşımı yapmaktan farklı bir şey. Bu yeni kabiliyetler, küresel bir gözaltı ortamının tohumlarını ekebilir: Hükümetler, nüfusu yönetmek ve iktidarlarını korumak için Çin teknolojisine giderek daha bağımlı hale gelirken, Pekin’in gündemine uygun hareket etme baskısını da üzerlerinde daha fazla hissetmeye başlayacaklar. Ancak şimdilik Çin’in temel hedefi, yeni teknolojiler piyasasında hâkimiyet kurmak ve bu süreçte de çok para kazanmak gibi görünüyor.”

Burada sorulması gereken kritik soru şu: Çin’in dijital gözetleme modelini kaç ülke benimseyecek? Ancak bu işin cazibesine kapılacak olanlar yalnızca otoriter rejimler değil.

Yapay zekâ ve dezenformasyon

Yazar, makalede, yapay zekâya dair çok önemli bir diğer riske de dikkat çekiyor: Dezenformasyon. Feldstein’e göre, yapay zeka genel hem detaylı izleme kabiliyeti sunmasının yanında, baskıcı yönetimlerin mevcut bilgileri manipüle etmesine ve dezenformasyon kampanyaları yapmasına da yardımcı olabiliyor. Otomatik veya otomasyon destekli olabilen bu kampanyalar, belirli kişi ya da gruplara yönelik veya bu kesimleri hedef alan, son derece kişiselleştirilmiş mesajlar yayabiliyor.

“Yapay zekâ, algoritmalar yardımıyla oldukça gerçekçi video ve ses tahrifatı yapmaya imkân veren “deepfake” (derin sahtelik) teknolojisine de dayanak oluşturuyor. Gerçek ile kurgu arasındaki suları bulandırmak, kıran kırana geçmesi beklenen bir seçimde fayda sağlayabilir. Örneğin, adaylardan biri, rakibini aslında olmayan bir şeyleri yaparken veya söylerken gösteren sahte videolar yapabilir.”

Feldstein, yapay zekânın getirdiği olanakları kullanırken özellikle karar alıcıların siyasal risklerin farkına varmaları gerektiği yönünde bir uyarıda da bulunuyor:

“Demokratik yönetimlerde politika yapıcıların, yapay zekâ sistemlerinin hem kendi toplumları hem de dünyanın başka yerlerinde otoriter rejimler altında yaşayan insanlar açısından yaratabileceği riskleri çok dikkatli bir şekilde değerlendirmeleri gerektiği kanaatindeyim. Burada sorulması gereken kritik soru şu: Çin’in dijital gözetleme modelini kaç ülke benimseyecek? Ancak bu işin cazibesine kapılacak olanlar yalnızca otoriter rejimler değil. Ayrıca bu teknolojileri sadece Çinli şirketler de satmıyor. Microsoft, IBM, Cisco ve Thermo Fisher gibi pek çok Amerikalı şirket de kirli yönetimlere gelişmiş teknolojiler sağlıyor. Diğer bir deyişle, yapay zekâ kullananlar, otokratik devletlerle sınırlı değil.

Yazının tamamını okumak için https://carnegieendowment.org/2019/04/24/how-artificial-intelligence-systems-could-threaten-democracy-pub-78984

Bu yazı, Evren Serbest tarafından İngilizceden Türkçeye çevrilmiştir.

Bu yazı ilk kez 3 Ekim 2019’da yayımlanmıştır.

Steven Feldstein

Yorumu Gör

avatar

Send this to a friend