- Giriş
Robot hakları savunucuları, yapay zekânın [artificial intelligence] insan hakları korumasına dâhil edilmesini iki temelde farklı bakış açısından savunuyorlar. Tutarlılık için ilk argüman şu şekildedir: Mahkemeler şirketlere insan hakları koruması sağlayarak onları insan olarak ele alıyorsa, aynısını robotlar için de yapmalıdırlar[1]. Şirketler, kurumsal yönetişimin yapılandırılmış bir karar alma süreci sağlamasıyla, insan temsilcileri, yönetim kurulları ve hissedarlar aracılığıyla faaliyet gösterir. Buna karşılık, robotlar ve yapay zekâ sistemleri, karşılaştırılabilir insan müdahalesi olmadan önceden programlanmış algoritmalar, makine öğrenimi veya otonom karar almaya dayanarak işlev görür. Dolayısıyla bu tutarlılık kavramı, şirketlerin ve yapay zekânın iç mekanizmalarının karşılaştırılabilirliğine değil, işlevsel hususlara dayanmaktadır. Bu bakış açısından, kurumsal tüzel kişilik için söz konusu olan bu orijinal gerekçe -şirketleri işlevselliklerini ve ekonomik faydalarını etkinleştirmek için tüzel kişiler olarak ele almak- robotlara (da) uygulanmalıdır[2].
İnsan haklarının birincil taşıyıcısı olan insanlarla karşılaştırıldığında, yapay zekâ ile şirketler arasında bir benzerlik vardır. Ne yapay zekâ ne de şirketler insanların yaptığı gibi ‘nefes almaz’ veya acı çekmez. Sınırlı sorumluluğu ve bağımsız tüzel kişiliği olan kâr amacı güden bir varlık olarak tanımlanan bir şirket, tıpkı robotlar veya daha genel olarak konuşursak otonom yapay zekâ sistemleri gibi yapay bir kişidir. Bu Sempozyumun girişinde (de) gösterildiği[3] gibi, Avrupa İnsan Hakları Mahkemesi [“AİHM” (European Court of Human Rights)] genellikle kurumsal yasal yapıya saygı gösterir ve şirketlere Avrupa İnsan Hakları Sözleşmesi [European Convention on Human Rights] kapsamında farklı haklar tanır. Bunun aksine, Amerikan İnsan Hakları Mahkemesi ‘kurumsal insan hakları’nı [corporate human rights] reddeder ve yalnızca türev korumalar sağlar. Batı Afrika Ülkeleri Ekonomik Topluluğu [Economic Community of West African States] Mahkemesi ve Avrupa Adalet Divanı Avrupa İnsan Hakları Mahkemesi ile uyumludur; Afrika İnsan ve Halkların Hakları Mahkemesi ise kurumsal hesap verebilirliği güçlendirmiştir[4] ancak şirketlere insan hakları koruması sağlama konusunda net bir karar vermemiştir. Dolayısıyla, Amerika ve Afrika sistemlerinde, insan hakları korumasının yapay zekâya genişletilmesine yönelik şirketlerle ilgili tutarlılık talepleri daha az acil görünse de Avrupa’da hâlihazırda geçerliliğini korumaktadır.
Ancak, robot hakları savunucuları tarafından yapılan tutarlılık için ikinci talep, tüm bölgesel insan hakları sistemleri için geçerlidir. Bu iddia şu şekildedir (s.579): “(…) (Eğer) bir noktada, rasyonellik, zekâ, özerklik, (makine) bilinci, öz farkındalık ve duyarlılık gibi belirli ölçütlere dayanarak robotların ahlaki kişiliğe sahip olabileceğini belirlersek, o zaman insanlar ahlaki ve yasal haklarını (bunlara ‘insan hakları’ da dâhildir) tanımaya zorlanabilirler. (…) (Robotlar, yazarın notu) artık bizim akılsız araçlarımız olamazdı; bunun yerine, insanlar statülerini ve haklarını tanımaya ve bunlara göre davranmaya ahlaki olarak yükümlü olurdu.” Bu tutarlılık talebi daha temeldir çünkü alıntıladığım[5] gibi (s.1), ‘özde insani olduğu varsayılan nitelikler hakkındaki sınırları ve kabul edilmiş varsayımları araştırır’. İnsan hakları korumasında insan unsuruna ilişkin anlayışımızı değiştirirken, bu iddia tüm bölgesel insan hakları mahkemeleri de dâhil olmak üzere insan hakları korumasıyla ilgilenen tüm yargı kurumlarını etkiler. Şirketler ve yapay zekâ arasında paralellikler kurmak insan hakları korumasını genişletmek için işlevsel nedenlere atıfta bulunurken, insan hakları korumasını rasyonalite veya özerklik gibi yapay zekânın özelliklerine bağlamak ahlaki gerekçelere işaret eder.
Bu yazıda, her iki tür tutarlılık talebini de ele alacağım. İlk olarak, insan nitelikleri ile yapay zekâ arasında sıklıkla çizilen paralellikleri inceleyeceğim ve robotlara insan haklarına eşdeğer haklar verilmesinin ahlaki gerekçesinin birkaç nedenden dolayı ikna edici olmadığını savunacağım. Gerekli yapay zekâ koruması sorusuna işlevsel bir bakış açısının daha ikna edici olduğunu düşünüyorum. İşlevsel yani insan hakları korumasını mutlaka ahlaki olarak temellendirilmiş olarak değil, siyasi-hukuki bir kavram olarak gören bir bakış açısından yapay zekâ varlıklarının insan hakları özneleri olarak tanınması, yapay zekânın ortaya koyduğu yönetişim zorluklarını ele almada bir araç mı yoksa bir engel mi olarak hizmet ettiği temelinde değerlendirilmelidir. Yazımın ikinci bölümünde ise, bu bakış açısını tartışacağım ve yapay zekâ ve şirketler için potansiyel koruma yaklaşımlarına karşılaştırmalı bir bakış açısıyla bakacağım.
- Robot hakları için bir dava mı? Ahlaki ve işlevsel-politik yaklaşımlar
2.1. Post-hümanizm ve yapay zekâ varlıklarının ahlaki statüsü [posthumanism and the moral status of artificial intelligence entities]
Yapay zekânın insan niteliklerine benzer nitelikleri nedeniyle yapay zekâya insan hakları koruması sağlama konusundaki ahlaki yükümlülükler sorusuyla başlayacağım. Robot hakları için ahlaki olarak temellendirilmiş iddialar farklı yönlere gider ve farklı yapay zekâ türleri ve nitelikleriyle ilgilidir. Bazıları, hâlihazırda bazı insanların günlük yaşamlarının bir parçası olan yapay zekâ ile ilgilendikleri için güncel ilgi ve alaka taşımaktadır. Örneğin, deneysel çalışmaların kanıtladığı[6] gibi, yalnız yaşayan yaşlı yetişkinler gibi insanlara duygusal destek sağlayan insansı sosyal robotları düşünün. Alternatif olarak, müzik, dijital sanat eserleri ve hikâyeler gibi yaratıcı eserleri otomatik olarak üretmek için kullanılan üretken algoritmaları düşünün[7]. Bir resim makinesi veya bir çeviri robotu, çok sayıda örneği analiz ederek ve bunlardan genel bir örüntü veya kural türeterek öğrenir. Öğrenme süreci tamamlandıktan sonra, bu içyüzünü anlamalar bağımsız olarak yeni durumlara uygulayabilir. Bazı akademik sesler, insan hakları korumasının bu tür yapay zekâya genişletilmesini savunur[8]. Diğerleri için, insansı bir robotla evlenme hakkı verme fikri ve dolayısıyla aile hayatına ilişkin insan hakkını insanlara ve robotlara uygulamak, zamanımız için gerçekçi bir senaryodur[9]. Aynısı, yapay zekâ yaratıcı süreçlerini insanlardan daha az derecede ve daha az önemli olarak diskalifiye ettiği algılanan mevcut telif hakkı yasasının insan merkezli doğasını aşma iddiaları için de geçerlidir[10]. Bununla uyumlu olarak, ‘robotun konuşmasına izin verme’ ve ifade özgürlüğünün koruyucu kapsamını makine öğrenimi tarafından üretilen ifadelere uygulama iddiası da vardır[11].
Gelecek senaryosu, ‘Süper Yapay Zekâ’[12] [Artificial Super Intelligence] olarak adlandırılan şeyle ilgilenir. Bu, bir gün bir yapay zekâ sisteminin sorunları çözebilen, öğrenebilen ve gelecek için plan yapabilen, kendi kendini tanıyan bir bilince sahip olacağı fikridir. Ayrıca, insan benzeri bilişsel yetenekler ve insanlar gibi öğrenme ve hayal gücüne sahip olma yeteneği de dâhil olmak üzere kişilik sergilemeyi ve böylece sorunları çözmenin ötesinde gelecekteki ihtiyaçları göz önünde bulundurmayı içerir. Bu senaryoda, yapay zekâ, kendi sınırlarının farkında olarak diğer bilgisayarları eğitmesini sağlayan mevcut insan zekâ seviyelerini aşan süper güçlere sahip olacaktır[13]. Robot hakları savunucuları, akıllı sentetik insansı robotlar gibi gelecekteki varlıkların ‘yaşamının’ “temel” insanla birlikte nasıl görünebileceğini şimdiden düşünüyorlar. Bazıları, gelecekteki yapay zekânın yalnızca insan haklarına sahip olmayacağını, aynı zamanda insanlardan daha yüksek bir ahlaki ve yasal statüye sahip olması gerektiğini iddia ediyor. Bu mantık dizisi, alıntıladığım[14] gibi ‘farklı türlerin, örneğin insanlar ve hayvanlar, ahlaki statülerini belirlemede bilişsel yeteneklerin [(örneğin, akılcılık, zekâ, özerklik, öz farkındalık) rationality, intelligence, autonomy, self-awareness] en belirleyici olduğu belirli bir kişilik görüşüne’ dayanmaktadır. Mevcut insan hakları belgelerine uygulandığında, Avrupa İnsan Hakları Sözleşmesi’nin ‘[]herkesin yaşam hakkı yasa ile korunacaktır’ ifadesini içeren 2. maddesi veya ‘statü’ye dayalı ayrımcılığa atıfta bulunan 14. maddesi gibi hakların sentetik kişilere ve statülere zaten açık olduğu ileri sürülmektedir[15]. Bu bakış açısından, ‘duyarlılık, öz farkındalık, ahlaki faaliyet ve anlatısal kimlik gibi gerekli niteliklere sahip olduğu kanıtlanabilir zeki bir varlığa’ insan hakları kişiliği tanımamak, kişilik anlayışlarımızın temelini anlamsız hale getirecektir. Mevcut ve gelecekteki yapay zekâ ile ilgili robot hakları iddialarında yer alan post-hümanist bakış açısının ortak noktası, insan haklarının korunmasında insan unsuruna ilişkin geleneksel görüşleri kökten sorgulamasıdır[16].
Yapay zekâ özelliklerine dayalı ahlaki olarak temellendirilmiş robot haklarına şüpheyle yaklaşıyorum. Endişem, hem mevcut hem de gelecekteki yapay zekânın kaçınılmaz olarak içsel özelliklerden ve becerilerden yoksun olmasıdır. Siborglardan (mekanik bileşenlerle güçlendirilmiş insanlar) değil, algoritmalar veya androidler[17] (insan gibi görünmesi için et benzeri bir malzemeden yapılmış ancak insan parçaları olmayan) gibi insan bedenselliği olmayan yapay zekâlardan bahsediyorum. Ne üretken algoritmalar ne de insanlarla uzun süreli ilişkiler kurabilen süper zeki insansı robotlar, insan girdisi olmadan var olamaz veya hayatta kalamaz. Yapay zekâ insan yapımıdır ve insanlara bağımlıdır. Belirtildiği gibi, yapay zekâ sistemleri asla tamamen özerk değildir, ancak her zaman sömürülen insan emeği ve çevresel kaynaklarla çalışan insan-makine sistemleridir [human-machine systems][18]. Bunlar sosyo-teknik sistemlerdir, ‘eğitim verilerinden konuşlandırıldıktan sonra toplumsal kabule kadar baştan sona insandır.’ Sosyal robot geliştiricileri, onları aktif olarak insan sosyal ortamlarına entegre etmeyi ve insan gibi görünmeleri ve davranmaları için tasarlamayı seçerler. Hem tasarımcılar hem de kullanıcılar, ‘bu tür robotlarla etkileşime girdiklerinde onları insanlaştırmaya, onlara kişilik, canlılık vb. gibi insan biçimli özellikler atfetmeye eğilimlidirler.’[19]
Bu, robotların insan benzeri yeteneklerinin insan kararlarından kaynaklandığını gösterir, yapay zekânın kararları öngörülemez ve izlenmesi zor olsa bile ve hatta son çalışmalar yapay zekâ ajanlarının kendi hayatta kalmaları için çabalayabildiklerini ve ‘tepkilerine stratejik olarak ince hatalar sokabildiklerini, denetim mekanizmalarını devre dışı bırakmaya çalışabildiklerini ve hatta model ağırlıkları olduğuna inandıkları şeyleri harici sunuculara sızdırabildiklerini’ gösterse bile, yapay zekâ sistemlerine ‘kara kutu’ doğasını verir[20]. Harici köken ve girdiye olan bu bağımlılık, insan haklarının insan hakları için ahlaki gerekçelendirmeyle çelişir; bu, insan haklarının harici tanınmaya veya grup üyeliğine bağlı olduğu fikrini reddeder. İnsanlar üreme yoluyla hayata gelirken ve eğitim ve maddi kaynaklar gibi harici faktörlerden de etkilenirken, insan özellikleri yapay zekânın harici etkisinden farklıdır çünkü insanın seçim yapma ve egemenlikten kurtulma kapasitesi içseldir, harici olarak programlanmamıştır. Psikolojik/ahlaki kişiliği, ahlaki statüyü ve ahlaki hakları belirlemek için ontolojik özelliklere güvenmenin sorunlu olduğu görüşüne katılıyorum[21], çünkü ahlaki kişilik için hangi niteliklerin esas olduğu ve bu özelliklerin bir varlıkta varlığının deneysel olarak nasıl doğrulanabileceği konusunda önemli bir fikir ayrılığı mevcuttur. Benim demek istediğim, yapay zekâ varlıklarının insanlara benzemediği değil, daha ziyade hiçbir özelliğe sahip olmadıklarıdır. Ancak hayvanların doğuştan gelen özellikleri vardır ve ahlaki bir bakış açısından, hayvanlar ile insanlar arasındaki farklılıklar daha az önemli olabilir.
İnsan-Yapay Zekâ ilişkilerine baktığımızda başka bir kısıtlama ortaya çıkar. Yapay zekâ etiğinde belirtildiği gibi, hem robotlara yönelik ‘naif araçsalcı’ [naïve instrumentalist] görüşe hem de ‘eleştirel olmayan post-hümanist’ görüşe karşı eleştirel bir duruş sergilemek ihtiyatlı görünüyor. İlki, kullanıcıların robotlarla etkileşime girerken psikolojilerinin gerçekten de ‘robotu bir tür insan olarak algılamaya’ yol açması nedeniyle, robotların insan amaçlarına yönelik salt makineler ve araçlar olarak anlaşılmasını sorgular. Robotların ötekiliği ve sosyo-kültürel inşasına yönelik ‘eleştirel olmayan post-hümanist’ odaklanmanın sorunu, alıntı yapıyorum, ‘onların insan ve maddi pratiklerdeki kökenini görmezden gelmeye’ yol açar. Doğal niteliklerin eksikliği olarak tanımladığım şeye uygun olarak, bu, robotların sosyal açıdan alakalı olabileceği, ancak aynı zamanda insanlar tarafından yapılmış makineler olduğu gerçeğiyle ilgilidir. Bu aşırı konumlardan çıkmanın bir yolu, robotların araçlar olduğunu kabul etmektir; ancak bunlar, insanların ve faaliyet gösterdikleri sosyo-kültürel alanların bağlantılı olduğu ‘ilişkili araçlar’ [instruments-in-relation] olarak adlandırılır. Kısaca söylemek gerekirse: İnsanlar bir şeye önem verdiğinde, bu şeyin yalnızca ‘türetilmiş bir ahlaki statüsü’ [derived moral status] vardır[22]. Yapay zekânın ‘ilişkili araçlar’ olarak anlaşılması, insan haklarının korunması ihtiyaçlarına işaret eder: Bu, bir yapay zekâ varlığıyla bu tür sosyal ilişkilere girebilme ve bunları sürdürebilme konusundaki insan ilgisidir.
Bu bakış açısından, insan hakları, örneğin bir aşk robotuyla evlenmek veya bir bakım robotunu mirasçı olarak atamak gibi, yapay zekâya olan insan ilgisinin gerçekleştirilmesi için önemlidir. Bu senaryoda, şirketlerin korunmasıyla ilgili olarak Inter-Amerikan İnsan Hakları Mahkemesi tarafından uygulandığı gibi, robotların insan hakları koruması yalnızca refleksif ve türevsel niteliktedir. Bu takımyıldızda yapay zekâyı bağımsız bir insan hakları öznesi olarak kabul etmek için ahlaki olarak temellendirilmiş bir neden yoktur.
2.2. Yapay zekânın insan hakları tabiiyetinin işlevsel gerekçesi ve ilgili hususlar [functional rationale for human rights subjecthood of AI and relevant considerations]
Girişte belirtildiği gibi, yapay zekânın insan haklarının korunması için ahlaki bir dava açmayı haklı çıkaracak, yapay zekânın içsel niteliklerinin araştırılması yalnızca bir yaklaşımdır. Bu tür yasal korumayı haklı çıkaracak nedenler ararken daha ileri gidebilir ve hak temelli bir yaklaşımla izlenen işlevsel, araçsal hedeflere değinebiliriz, çünkü insan hakları ‘ahlaki haklar veya siyasi-yasal kavramlar olarak kavranabilir’. Bu bağlamda, tamamen işlevsel hususlara dayalı olarak insan hakları koruması sağlanan şirketlerle karşılaştırma yerinde olacaktır. Aşağıda, belirli bir zamanda işlevsel -veya ‘fayda’[23]– nedenlerle yapay zekâ haklarını insan hakları düzeyinde tanımanın mantıklı olup olmayacağı ve haklı olup olmayacağı konusunda nihai sonuçlar çıkarmak istemiyorum. Yapmak istediğim, bu kararı verirken dikkate alınması gereken karmaşık husus yelpazesini vurgulamaktır.
2.2.1. Yapay zekâdan kaynaklanan insan hakları tehditlerine ilişkin net bir resme duyulan ihtiyaç [the need for a clear picture of human rights threats resulting from AI]
Yapay zekâya insan hakları koruması sağlamadan önce, yapay zekânın nasıl çalıştığı ve yapay zekâ eylemlerinin özerk yönünün insan hakları tehditlerine ve ihlallerine nasıl yol açabileceği konusunda çok net bir anlayışa sahip olmamız gerekiyor. Bu değerlendirme yeni değildir. 2020 yılında “Diane Desierto, EJIL:Talk!” yazısında[24] otomasyon ve yapay zekâ ile ilişkili insan haklarına yönelik üçlü tehdit senaryolarına atıfta bulunmuştur, yani ‘bireysel rızanın oluşumu ve iletişimine yönelik zorluklar’, ‘özerkliğe, şahsiyete ve kendi kaderini tayin hakkına yönelik zorluklar’ ve ‘kişiler olarak eşit ahlaki değerimiz’ olarak anlaşılan insan onurumuza yönelik zorluklar. O zamandan beri, bu tehdit senaryoları konusunda hiçbir şey iyileşmemiş veya gevşememiş; aksine, durum teknolojik gelişmeler ve ChatGPT gibi büyük dil modellerinin [Large Language Models] yaygın kullanımıyla kötüleşmiştir. 2023 yılının sonunda, Birleşmiş Milletler İnsan Hakları Yüksek Komiserliği Ofisi ‘Üretici Yapay Zekâ ile Bağlantılı İnsan Hakları Risklerinin Sınıflandırılmasını’ [Taxonomy of Human Rights Risks Connected to Generative AI] yayınlamıştır[25]. Bu rapor, üretken yapay zekânın örneğin fiziksel ve psikolojik zarardan korunma hakkını, kanun önünde eşitlik hakkını ve ayrımcılığa karşı korumayı, mahremiyet hakkını ve ifade özgürlüğünü nasıl tehlikeye atabileceğini açıkça göstermektedir. Üretken yapay zekâ modellerinin genellikle baskın kültürel grupları (örneğin beyaz, Batılı, erkek) aşırı temsil ettiğini, bunun da başkalarının yanlış veya yetersiz temsil edilmesine, zararlı stereotipleri, önyargıları pekiştirmesine ve marjinal grupların çevrimiçi kimlikleri üzerindeki kontrolünü sınırlamasına yol açtığını vurgulamaktadır. Mayıs 2024’te yayınlanan ‘Gelişmiş Yapay Zekânın Güvenliği Hakkında Uluslararası Bilimsel Rapor’da [International Scientific Report on the Safety of Advanced AI] ise, dünyanın dört bir yanından 75 yapay zekâ uzmanından oluşan bir grup, geliştiricilerin genel amaçlı yapay zekâ modellerinin nasıl işlediği hakkında hâlâ çok az şey bildiğini, çünkü bu modellerin programlanmak yerine eğitildiğini belirtmektedir. Trilyonlarca parametreyle, iç işleyişleri geliştiriciler için bile büyük ölçüde belirsizdir. Bu modelleri açıklamak ve yorumlamak için teknikler mevcut olsa da, bu araştırma hâlâ erken aşamalarındadır. Uzmanlar, insan hakları risklerini azaltmaya yardımcı olan mevcut teknik yaklaşımlara atıfta bulunuyorlar, örneğin model yanlılığını azaltma yöntemleri veya genel amaçlı yapay zekânın zarara yol açan kullanıcı isteklerine yanıt verme olasılığını azaltan yöntemler. Ancak, kabul ettikleri gibi, gelişmiş genel amaçlı yapay zekâ modelleri veya sistemlerinin güvenliği hakkında nicel garantiler sağlayan mevcut teknikler olmadığı için bu umut sınırlıdır. Bu bakış açısından, bir varlığın insan haklarını ihlal etme potansiyeli açıkça anlaşılamadan önce insan hakları kapasitesi hakkında düşünmek için erken görünüyor.
2.2.2. Düzenleme ve tüzel kişilik ile insan hakları arasındaki ilişki [regulation and the correlation between legal personhood and human rights]
Bu, dikkate almamız gereken ikinci hususa götürür. Yapay zekâ varlıklarının tüzel kişiler ve hatta insan haklarına sahip olma kapasitesine sahip özneler olduğunu kabul eden yasama kararı, yalnızca bu varlıkların yasal sınırları ve sorumlulukları açıkça tanımlandıktan sonra alınmalıdır. Kurumsal hak haklarının tanınmasını izleyen, kurumsal insan hakları ihlalleri için kurumsal hesap verebilirliği teşvik etmeyi amaçlayan mevcut girişimlerle gösterildiği gibi, ister AB Kurumsal Sürdürülebilirlik ve Durum Tespiti Yönetmeliği[26] [Corporate Sustainability Due Diligence Directive] gibi bağlayıcı yasal yükümlülükler yoluyla isterse yatırım korumasını insan haklarını ele alacak şekilde ayarlayarak ex-post düzenleme mümkündür. Ancak, yapay zekâya yasal yetki vermeden önce, onu düzenlemek için etkili yaklaşımlar ve siyasi fikir birliği bulmak tercih edilir[27]. Ancak, bu konu yalnızca teknik açıdan değil, aynı zamanda çok sayıda aktör karşısında özerk yapay zekâ için sorumlulukların tahsisi açısından da oldukça karmaşıktır. Kurumsal sorumluluğu, yerel sorumluluk kuralları düzeyinde ele alma biçimimize çok benzer şekilde, ‘eKişiler’e [ePersons] tüzel kişilik verme fikri ortaya çıkmış ve böylece ‘Eser (…) bir Sorumluluk Konusu’ haline gelmiştir[28]. 2017 yılında Avrupa Parlamentosu, robotlar için yasal bir statü oluşturmayı, en gelişmiş otonom robotlara, neden oldukları herhangi bir hasardan sorumlu ‘elektronik kişiler’ [electronic persons] statüsü vermeyi ve muhtemelen bunu robotların bağımsız kararlar aldığı veya üçüncü taraflarla etkileşime girdiği durumlara genişletmeyi öngörmüştür[29]. O zamanlar, bu öneri yapay zekâ bilim topluluğu tarafından sert eleştirilerle karşılanmış ve AB Komisyonu tarafından ele alınmamıştır. Temel eleştirilerden biri, yeni bir sorumluluk konusunun, yalnızca yeni varlık tarafından sorumluluğa karşı korunan tarafların (yani üreticiler ve operatörler) yararına riskin dışsallaştırılmasını önlemek için hasar taleplerini karşılayacak mali kaynaklara sahip olması durumunda düşünülebileceğiydi. Bu sorunun çözülüp çözülemeyeceği ve nasıl çözülebileceği sorusu konusunda görüşler farklılık göstermektedir. Tartışılan yaklaşımlardan biri, yapay zekâ için zorunlu sigortanın getirilmesidir[30]; bu sigorta, ürün tasarımcıları, yazılım geliştiricileri, üreticiler ve hatta sahipleri ve kullanıcıları gibi bir yapay zekâ aracısının üretim çabası ve istihdamında yer alan tüm taraflarca finanse edilir. eKişi yaklaşımının yasama süreçlerinde tekrar ele alınıp alınmayacağını (veya ne zaman) göreceğiz.
Temel soru, yapay zekânın tüzel kişiliğinin ulusal veya bölgesel düzeyde tanınmasının, yapay zekâlara uluslararası düzeyde otomatik olarak insan hakları koruması verilmesine yol açıp açmayacağıdır. Bunu bir düşünce deneyi yoluyla ele alalım. Örneğin, e-kişilik yapay zekâ varlıklarının sözleşmesel ilişkilere girmesine, varlıklara sahip olmasına ve yasal işlemlerde taraf olmasına izin veriyorsa, bu statünün yerel veya ulusüstü hukuk düzeyinde devletlerin uluslararası insan hakları yükümlülükleri açısından sonuçları olması gerekmez mi? A priori olarak, devletlerin bir e-kişiyi tazminat ödemeden mülksüzleştirmesine veya adil yargılanma hakkını reddetmesine izin verilmesi için görünürde hiçbir neden yoktur. Bu durumda, insan hakları korumasının yapay zekâya genişletilmesi, devletler üzerinde disiplin etkileri yaratabilir ve uluslararası hukukun üstünlüğünü teşvik edebilir. Ancak, ele alınması gereken üçüncü yönümde açıklayacağım gibi, bunun yapay zekânın insan hakları statüsünü haklı çıkarmak için yeterli olacağını düşünmüyorum.
2.2.3. A quoi ça sert? (neye yarar) İnsan hakları öznelliğini tanımak için siyasi hedeflerin tanımlanması [defining political objectives for recognising human rights subjectivity]
Olası politik hedefler ve fayda değerlendirmeleri için bir referans noktası, yine, Avrupa’daki şirketlerin temel haklarının korunması ve kökenleridir. Şirketleri Avrupa insan hakları sistemine entegre etme konusundaki politik karar, Mahkeme tarafından değil, Tim Eicke’nin Sempozyum yazısında açıklandığı üzere, 1950’lerde Sözleşme ve ilk Protokolün taslağı hazırlanırken Avrupa Konseyi üye devletleri tarafından alınmıştır. Avrupa İnsan Hakları Sözleşmesi’nin 34. maddesi, açık bir ifadeyle, herhangi bir ‘sivil toplum örgütünden’ başvuru yapılmasına izin vermektedir; Avrupa İnsan Hakları Sözleşmesi’nin 1 No.’lu Protokolünün 1. maddesi, mülkiyet hakkını açıkça ‘(e) her gerçek veya tüzel kişiye’ genişletmektedir. Hazırlık çalışmalarına göre, taslak hazırlayanlar, Avrupa Sözleşmesini en başından itibaren hızla genişleyen komünist Doğu biçimindeki yeni tehlikelere karşı Batı’nın liberal devletine bir taahhüt olarak anlamışlardır. Başka bir yerde açıkladığım gibi, şirketlerin temel haklarını korumaya yönelik Avrupa yaklaşımı, politik ve ekonomik bir entegrasyon projesinin parçasıydı ve olmaya devam ediyor[31]. Yapay zekâya da bu statüyü verme konusunda benzer bir ilgi var mı? Avrupa’da mı yoksa dünyanın diğer bölgelerinde mi?
Birleşmiş Milletler Genel Kurulu Mart 2024’te küresel bir yaklaşıma doğru yolda ilk dönüm noktasına ulaşmış ve yapay zekâ konusuyla ilgili ilk kararı kabul etmiştir[32]. Ancak, yakın tarihli bir blog yazısında ana hatlarıyla belirtildiği[33] gibi, bu kararı taslak haline getirme süreci, yapay zekâ konusunda dünya bölgeleri ve solo devletler arasında önemli siyasi bölünmeleri ortaya koymuştur: Örneğin, birkaç önde gelen yapay zekâ şirketine ev sahipliği yapan Amerika Birleşik Devletleri, yeniliği ve geliri artırmak için iş çıkarlarını ilerletmeye vurgu yaparak yapay zekânın küresel sektörler için dönüştürücü potansiyelini vurgulamıştır. Buna karşılık, Avrupa Birliği (AB), yakın zamanda tanıtılan AB Yapay Zekâ Yasası[34] ile örneklendirildiği gibi, öncelikle katı veri gizliliği ve kullanıcı koruma standartlarına odaklanmıştır. Öte yandan, Küresel Güney’deki devletler, yapay zekâdan faydalanmanın internet erişimi gerektirdiğini vurgulayarak yapay zekâ ilerlemelerinde erişilebilirlik ve katılım konusunda endişelerini dile getirmişlerdir ki; bu, küresel nüfusun yüzde 33’ünün erişemediği bir kaynaktır. BM kararının kabulüne yol açan çeşitli müzakere pozisyonlarına ilişkin bu kısa bakış, yapay zekâya ilişkin siyasi algıdaki çarpıcı farklılıkların altını çizmektedir.
Yapay zekânın kullanımının tüm dünyadaki toplumlar için çok faydalı etkileri olabileceğini biliyoruz. Somut bir örnek vermek gerekirse: Tanzanya’nın Zanzibar takımadalarında kırsal çiftçilerin, zararlı bir manyok hastalığını yayılmadan önce tespit etmek için yerel Swahili dillerinde çalışan Nuru adlı yapay zekâ destekli bir uygulama kullandıkları bildirilmektedir[35]. Bu tür sosyal faydaların yanı sıra, yapay zekânın kullanımının bariz ekonomik faydaları da vardır: Yapay zekâ uygulamalarının 2030 yılına kadar dört Sahra Altı Afrika ülkesine (Gana, Kenya, Nijerya ve Güney Afrika) 136 milyar ABD dolarına kadar ekonomik fayda sağlayabileceği tahmin edilmektedir[36]. Bu örnekler, insan hakları dostu kalkınmayı ve yapay zekâ kullanımını teşvik etmenin dünyadaki çoğu devletin paylaştığı politik bir hedef olduğunu göstermektedir. Bireylerin ve ekonominin yararına inovasyonu teşvik etme genel hedefi olsa bile, bu, yapay zekâ varlıklarına özerk insan hakları verilmesi için işlevsel veya politik bir gerekçe olarak hizmet etmemektedir. Bana göre, yapay zekânın insan merkezli, türev koruması bu hedefe ulaşmak için yeterlidir. Avrupa bağlamında, yapay zekâ geliştiren şirketler zaten temel haklar tarafından güvence altına alınmıştır ve bu da ayrı bir tüzel kişilik oluşturulmasını gereksiz kılar. Benzer şekilde, Inter-American sistemi gibi insan hakları sistemlerinde, yeniliğin korunması insanların korunması yoluyla aracılık edilebilir ve gerçekleştirilebilir. Basitçe söylemek gerekirse, bir yapay zekâ geliştiricisi çalışma, yaratma ve iş yapma gibi insan haklarına sahipse, bu hakları yapay zekâya bağımsız bir özne olarak genişletmeye gerek yoktur.
Şu anki durumda, insan hakları korumasını robotlara veya diğer yapay zekâ varlıklarına genişletmek için ahlaki veya yasal-politik bir gerekçe göremiyorum. Ancak, yapay zekâ düzenlemesinin henüz emekleme aşamasında olduğunu ve yasal bir eKişi kavramının bir gün yerel veya bölgesel düzeyde yasal bir gerçeklik haline gelebileceğini kabul ediyorum. Böyle bir senaryoda, kapılarını yasal kişilere açmış olan (Avrupa) insan hakları sistemleri tutarlılık talepleriyle karşı karşıya kalabilir ve bu soruyu ele almaya hazır olmaları gerekir.
[1]<https://slate.com/technology/2014/07/ai-drones-ethics-and-laws-if-corporations-are-people-so-are-robots.html>.
[2]<https://slate.com/technology/2014/07/ai-drones-ethics-and-laws-if-corporations-are-people-so-are-robots.html>.
[3]<https://www.ejiltalk.org/introduction-to-the-ejiltalk-symposium-on-expanding-human-rights-protection-to-non-human-subjects-african-inter-american-and-european-perspectives/>.
[4]<https://www.ejiltalk.org/extending-human-rights-accountability-for-corporate-actors-in-the-lidho-v-cote-divoire-case-of-the-african-court/>.
[5]<https://www.sciencedirect.com/science/article/abs/pii/S0160791X23000027>.
[6]<https://www.mdpi.com/2227-9032/11/1/39>.
[7]<https://academic.oup.com/pnasnexus/article/3/3/pgae052/7618478?login=false>.
[8]<https://contentdm.washburnlaw.edu/digital/collection/wlj/id/7378/>.
[9]<https://scholarship.shu.edu/shlr/vol49/iss2/3/>.
[10]<https://www.sciencedirect.com/science/article/abs/pii/S0160791X23000027>.
[11]<https://search.syr.edu/discovery/fulldisplay?docid=cdi_proquest_ebookcentralchapters_7043321_55_100&context=PC&vid=01SYU_INST:SYU&lang=en&search_scope=MyInst_and_CI&adaptor=Primo%20Central&tab=Everything&query=creator,equals,Hindelang,%20Steffen,AND&mode=advanced&offset=40>.
[12]<https://link.springer.com/article/10.1007/s44163-022-00022-8>.
[13]<https://journals.sagepub.com/doi/abs/10.1177/23197145231222774>.
[14]<https://onlinelibrary.wiley.com/doi/10.1111/rati.12346>.
[15]<https://www.cambridge.org/core/journals/cambridge-quarterly-of-healthcare-ethics/article/abs/more-human-than-human/798BC25E02F838751CF6D12FDB476A61>.
[16]<https://www.taylorfrancis.com/chapters/oa-mono/10.4324/9780429288159-6/rights-robots-posthuman-ecology-joshua-gellers>.
[17]<https://link.springer.com/chapter/10.1007/978-3-540-24677-0_44>.
[18]<https://firstmonday.org/ojs/index.php/fm/article/view/13628/11604>.
[19]<https://link.springer.com/article/10.1007/s12369-021-00770-0>.
[20]<https://arxiv.org/abs/2412.04984>.
[21]<https://www.taylorfrancis.com/reader/download/35ff5b41-15f4-41a9-9821-d532f419a9c4/book/pdf?context=ubx>.
[22]<https://link.springer.com/article/10.1007/s10676-021-09596-w>.
[23]<https://www.routledge.com/Rights-for-Robots-Artificial-Intelligence-Animal-and-Environmental-Law/Gellers/p/book/9780367642099?srsltid=AfmBOormeOx_gDkvaR0arhB18WAjPF3i1um0g0H0-ZwI-Foum1R6nIk_&utm_source=chatgpt.com>.
[24]<https://www.ejiltalk.org/human-rights-in-the-era-of-automation-and-artificial-intelligence/?utm_source=chatgpt.com>.
[25]<https://www.ohchr.org/sites/default/files/documents/issues/business/b-tech/taxonomy-GenAI-Human-Rights-Harms.pdf>.
[26]<https://commission.europa.eu/business-economy-euro/doing-business-eu/sustainability-due-diligence-responsible-business/corporate-sustainability-due-diligence_en>.
[27]<https://www.ejiltalk.org/corporate-human-rights-and-international-law-obstacle-or-precursor-to-human-rights-accountability/>.
[28]<https://www.rewi.hu-berlin.de/de/lf/oe/rdt/pub/wagner-liability-rules-for-the-digital-age-1.pdf>.
[29]<https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html>.
[30]<https://whatnext.law/2022/01/19/ai-and-civil-liability-is-it-time-to-grant-legal-personality-to-artificial-intelligence-agents/>.
[31]<https://academic.oup.com/hrlr/article-abstract/23/4/ngad025/7325912?redirectedFrom=fulltext&login=false>.
[32]<https://digitallibrary.un.org/record/4043244?v=pdf>.
[33]<https://www.ejiltalk.org/the-first-united-nations-general-assembly-resolution-on-artificial-intelligence/>.
[34]<https://artificialintelligenceact.eu/>.
[35]<https://www.technologyreview.com/2024/03/15/1089844/africa-ai-artificial-intelligence-regulation-au-policy/>.
[36]<https://cdn.accesspartnership.com/wp-content/uploads/2023/09/Access-Partnership-AI-in-Africa-A-working-paper-Single.pdf>.
Yavuz Akbulak
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
• Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
• Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
• Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte),
• Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve
• Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte)
başlıklı kitapları yayımlanmıştır.
• Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003),
• Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004)
ile
• Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II;
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021);
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021);
• Sosyal Bilimlerde Güncel Gelişmeler (2021);
• Ticari İşletme Hukuku Fasikülü (2022);
• Ticari Mevzuat Notları (2022);
• Bilimsel Araştırmalar (2022);
• Hukuki İncelemeler (2023);
• Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024);
• Hukuka Giriş (2024);
• İşletme, Pazarlama ve Hukuk Yazıları (2024),
• İnterdisipliner Çalışmalar (e-Kitap, 2025)
başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 3 bini aşkın Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.