Yapay Zeka ve Demokrasi I Rapor

Daniel INNERARITY

1. Dijitalleşmenin Demokratik Beklentileri ve Hayal Kırıklıkları

Dijital teknolojilerin, verilerin, otomasyonun ve yapay zekanın gelişimi hem büyük beklentilere hem de korkulara yol açmıştır. İstihdam, haklar ve özgürlüklerle ilgili endişelerin ötesinde, bunların siyasi yaşam ve demokrasi üzerindeki potansiyel etkileri konusunda da kaygılar var.

Bu teknolojiler, düzenleyici çabaları geride bırakarak benzeri görülmemiş bir hızla gelişiyor. Şu anda, tam etkileri henüz görülmemiş olan üretken yapay zeka nedeniyle yeni bir genişleme döneminden geçiyoruz. Bu nedenle, yapay zekanın demokrasiler üzerindeki etkilerine ilişkin tartışmalar devam etmeli ve yeni teknolojik gelişmelere duyarlı olmalıdır. Bu belgede sunulan perspektifler de dahil olmak üzere, bu konudaki her türlü duruş, teknolojik yenilikler ve vatandaşların talepleri ışığında revizyona tabi olan akışkan bir katkı olarak görülmelidir.

Teknoloji tarihi vaatlerin, başarıların ve hayal kırıklıklarının bir silsilesidir ve dijitalleşme de bir istisna değildir. İnternetin ortaya çıkışı bir paradigma değişimine işaret ederek, aracılığın azaldığı daha eşitlikçi bir alanın habercisi oldu. Bilgiye erişilebilirlik, ifade özgürlüğü, bizi yönetenleri izleme imkanı ve yeni kolektif karar alma biçimleri potansiyeli gibi demokrasi için hayati önem taşıyan değerleri aşılama vaadinde bulundu. Ancak zaman içinde bu yüce beklentiler, kamusal söylemin erozyona uğraması, yeni aracıların yükselişi ve algoritmik karar alma süreçlerinin şeffaflığını yitirmesi gibi demokrasinin altını oyan yeni zorluklar nedeniyle yumuşadı ve zaman zaman paramparça oldu.

Bu belge, teknolojinin gelişiminin büyük ölçüde öngörülemez olduğunu kabul ederken, tüm bunların zaman içinde nasıl ortaya çıktığını yansıtmayı amaçlamaktadır. Bu belirsizliği harekete geçmenin önünde bir engel olarak görmek yerine, üzerinde düşünülmesi ve düzenlemelerin iyileştirilmesi için bir katalizör olarak hizmet etmelidir.

Avrupa Yapay Zeka Yasası'nın ilk taslaklarında üretken yapay zekanın başlangıçta göz ardı edilmesi ve daha sonra Yasanın son taslak aşamalarında önemli bir tartışma konusu haline gelmesi buna iyi bir örnektir. Beklenmedik teknolojik gelişmeler şüphesiz olacaktır, bu da bizi açık ve uyanık bir tutum sergilemeye ve gerektiğinde uyum sağlamaya ve öğrenmeye hazır olmaya zorlayacaktır.

Geçen yüzyılın başında, dijitalleşme ve demokrasi arasındaki ilişkiye dair tartışmalar, internetin iletişim alanındaki genişlemesinin demokrasiyi güçlendireceği mi yoksa zayıflatacağı mı etrafında dönüyordu. İnternet, toplumun teknolojik ilerlemenin pasif bir alıcısı olduğu, ezici bir güç olarak görülmüştür.

Ancak bu bakış açısı iki yönlü bir indirgemecilik sunmaktadır. İlk olarak, demokrasinin statik bir yapı olduğunu varsaymaktadır. İkinci olarak, İnternet'in gelişimini doğrusal ve deterministik olarak tasvir etmektedir.

Oysa demokrasi doğası gereği dinamiktir ve internet de evrim geçiren bir teknolojidir. Dahası, yapay zekanın kaçınılmaz ilerleyişini görmek kayıtsızlığa yol açabilir ve müdahalenin ya gereksiz ya da imkansızdır. Teknolojik yetenekler yörüngesini şekillendirebilirken, bu evrim belirli bir sosyal ve siyasi bağlam içinde gerçekleşecektir.

Muhtemelen bugün sahip olduğumuz tek siyasi kesinlik, gelecekteki siyasetin kaçınılmaz olarak geçmişteki siyasetten çok farklı olacağıdır. Gelişmekte olan teknolojilerin demokrasiyi geliştirip geliştirmeyeceği ya da engelleyip engellemeyeceği belirsizliğini korusa da, inkar edilemez bir gerçek, bunların siyasi ortamımız üzerindeki derin etkisi ve bildiğimiz demokratik dinamikleri yeniden şekillendirmesidir.

Ancak iyimserlik ve hayal kırıklığının iniş ve çıkışlarını aşabildiğimizde, halen devam etmekte olan bir dönüşümün incelikli bir değerlendirmesini yapmak için daha donanımlı olacağız. Bununla birlikte, mevcut teknolojik devrim, demokrasilerimizi inkar edilemez bir şekilde, tam olarak kontrol edemediğimiz veya anlayamadığımız iletişim ve bilgi biçimlerine bağımlı hale getirmektedir.

Yapısal olarak bu teknolojiler siyasi sistemimizin kilit yönlerini yeniden tanımlıyor: geleneksel parlamento denetimi artık X (Twitter) öncesindeki gibi değil, dijitalleşmenin kolaylaştırdığı ekonomik finansman devletlerin düzenleyici kavrayışını aşıyor ve yanlış bilgiye doymuş bir ortamda bilgilendirilmiş vatandaşlık kavramına meydan okunuyor. Demokrasi yavaş ve coğrafi sınırlar içinde hareket ederken, yeni teknolojiler hızlı ve sınır tanımıyor. Kontrol etmek bir yana, anlamakta bile zorlandığımız teknolojiler giderek daha fazla sayıda elimizin altında. Ortaya çıkan bu teknolojilerin siyasi örgütlenme üzerindeki tam etkisi belirsizliğini korusa da, bazı sonuçlarını şimdiden görebiliyoruz ve bunlar ya devam eden tartışmaların konusu ya da gelecekteki eğilimler ve bunları etkili bir şekilde yönetme çabalarına ilişkin raporların konusu.

Her halükarda, özellikle demokrasi ve yapay zekânın ilerlemesiyle ilgili yüksek riskleri gözden kaçırmamak çok önemlidir. Demokratik özyönetim ilkeleri, büyük ölçüde algoritmik sistemler tarafından yönetilen dijital, otomatikleştirilmiş bir kamusal alanda hala geçerliliğini ve önemini koruyor mu? Bu basitçe kabul etmemiz gereken yeni bir dönem mi yoksa bu tarihsel an demokratikleşme için yeni fırsatlar mı sunuyor?

Dijital teknolojiler her yerde bulunabildiği ve doğası gereği zımni olduğu için inceleme ve eleştiriden kolayca kaçabilmektedir. Tarih boyunca demokrasinin ilerlemesi gelenek, görenek, beden ve eşitsizlik gibi çeşitli konuların yansıtıcı bir şekilde siyasallaştırılmasını gerektirmişse, bugün de kamusal yansıma ve açık tartışma gerektiren bir dizi teknolojiyle karşı karşıyayız. Bunun önündeki engeller, teknolojiyi kaçınılmaz bir güç ya da tarafsız bir araç olarak görme eğilimimizde yatmaktadır. Ancak, bu teknoloji de dahil olmak üzere hiçbir teknoloji ministik ya da nötr, ne determinizm ne de teknolojik tarafsızlık, bu kritik tarihî anda tüm olanaklarımızı ve sorumluluklarımızı tam olarak kavramamıza olanak tanır.

Yapay zeka teknolojileri tarafsız değildir; doğası gereği geliştiricilerinin ve daha geniş geliştirme ve dağıtım ekosisteminin değerlerini yansıtırlar. Kamu kurumlarında ve temsilcilerinde hesap verebilirliği artırma, vatandaş katılımını zenginleştirmek için daha fazla katılım ve çoğulculuğu teşvik etme ve demokrasiyi daha kapsayıcı ve duyarlı hale getirme potansiyeline sahip olsalar da, otokratik eğilimleri güçlendirebilir ve potansiyel olarak kötü niyetli ve manipülatif amaçlar için kullanılabilirler. Yapay zeka teknolojilerinin insanların sıklıkla kullandığı dijital uygulamalara ve platformlara hızlı entegrasyonu, bireyler ve sosyal gruplar üzerinde hedefli, bireyselleştirilmiş ve genellikle algılanamayan etki için benzeri görülmemiş fırsatlar sunmaktadır. Bu nedenle, bazı siyasi aktörler yapay zekayı kendi çıkarları için kullanma eğiliminde olabilir.

Yapay zekanın insanlığın geleceğini derinden şekillendireceği konusunda giderek artan bir fikir birliği var ve yapay zeka şimdiden demokrasinin bazı kritik işlevlerini etkiliyor.

Demokrasiden söz ettiğimizde, toplumsal birlikteliği nasıl yapılandırdığımıza ve tarih boyunca bireylerin kendi kaderlerini özgürce tayin etmelerini kolaylaştırmak için hazırlanmış bir yönetim sistemine atıfta bulunuyoruz. Temsil, katılım, meşruiyet ve dayanışma kavramları, bireysel hakları toplumsal sorumluluklarla uyumlu hale getirmeyi amaçlayan hümanist bir toplumsal yapı vizyonunun altını çizmektedir. Gerçek demokrasi ancak vatandaşların iyi bilgilendirildiği, katılım ve savunuculuk için açık kanallara sahip olduğu ve kendilerini etkileyen kararlarda söz sahibi olduğu durumlarda mevcuttur. Yukarıdakilerin tümü göz önünde bulundurulduğunda, mevcut yapay zeka teknolojileri önemli umutlar vaat etse de, bu raporda birkaçı ele alınan önemli riskler de barındırmaktadır.

UNESCO YZ Etiği Tavsiye Kararı, YZ'nin demokratik yönetişimini sağlamak ve potansiyel kötüye kullanımını azaltmak için güçlü ulusal ve uluslararası düzenleyici çerçeveler için açıkça çağrıda bulunmaktadır. Bu tavsiye kararı, insan haklarını koruyan şeffaf, hesap verebilir ve anlaşılabilir YZ ekosistemlerin eolan ihtiyacı vurgulamaktadır. Etik YZ kullanımı, sosyal medya platformlarındaki algoritmaların rolünü ve bunların demokrasi üzerindeki potansiyel etkilerini de dikkate almalıdır.
Düzenleyici çerçeve, özel şirketler ve uluslararası kuruluşlar arasında daha fazla işbirliği gerektiren değerler ve ilkeler tarafından şekillendirilmelidir. YZ teknolojilerinin geliştiricileri ve uygulayıcıları ağırlıklı olarak kendi kendini düzenlemeyi savunurken, bu yaklaşımın bu zorlukları ele almak ve insan haklarını, demokrasiyi ve hukukun üstünlüğünü korumak için yetersiz olduğu kanıtlanmıştır.

Tavsiye Kararı ile UNESCO, ilgili kurum ve kuruluşlarla yakın işbirliği ve koordinasyon içinde, Yapay Zeka için küresel bir politika çerçevesi oluşturmak üzere gerekli rehberlik ve desteği sağlamak için stratejik bir yaklaşım benimsemektedir. Bu çerçevenin şunları kapsaması öngörülmektedir: