Yapay Zekâya İlişkin Birinci Birleşmiş Milletler Genel Kurulu Kararı

Giriş     

Birleşmiş Milletler Genel Kurulu (United Nations General Assembly-UNGA), 21 Mart 2024 günü, uluslararası ırk ayrımcılığının ortadan kaldırılması gününü anmak için toplanmış ve bu oturum sırasında, neredeyse gizlice, Yapay Zekâ (artificial intelligence) konusundaki ilk kararı[1] kabul etmiştir. Birleşmiş Milletler Genel Kurulu, 2023 yılının sonlarına doğru, teknolojik gelişme ve bunların Birleşmiş Milletler’in sürdürülebilir kalkınma hedeflerine dâhil edilmesi ile ilgili bir dizi kararı yayınlamıştı. Ancak bu kararların hiçbiri özel olarak ve münhasıran yapay zekâyla ilgilenmemişti. Teknoloji her zamankinden daha hızlı gelişirken, özellikle geçtiğimiz yıl ‘Open AI’nin ChatGPT’si, Anthropic’in Claude’si, Google’nin Gemini’si veya Microsoft’un Copilot’u gibi üretken yapay zekâ ve Büyük Dil Modellerinin (Large Language Models) çığır açan lansmanından bu yana, (hukuki) düzenleme konusundaki ilerleme yavaş yavaş devam etmektedir. Yapay zekâ uygulamasının küresel doğası, düzenlemeye uluslararası bir yaklaşım gerektirmekte, ne var ki Devletlerin ortak bir zemin bulması kolay görünmemektedir. Yıllar süren tartışmaların ardından, Avrupa Parlamentosu nihayet bu ayın başlarında ilk bölgesel çerçeve olan Yapay Zekâ Yasasını (Artificial Intelligence Act[2]) kabul etmiş olup; Avrupa Konseyi de şu anda Yapay Zekâ Sözleşmesi (Convention on Artificial Intelligence[3]) üzerinde çalışmaktadır. Yine de uluslararası düzeyde çok az şey yapılmaktadır.

Bu yazıda, söz konusu kararın kabul edilmesine ilişkin koşullar kısaca açıklanacak, ardından Devletlerin yapay zekâya ilişkin farklı çıkarlarına biraz ışık tutulacak ve bu çerçevede, 78/L.49 sayılı Kararın içeriği analiz edilecektir.

1. Kararın Kabulü

Kararın taslağına Amerika Birleşik Devletleri (ABD) öncülük etmiştir. 14 Mart’ta (2024), diğer 40 üye Devletin de katıldığı, faydaları “dünya çapında tüm kalkınma düzeyindeki ülkelere yayılan” (extending across the globe to countries at all levels of development) bir karar taslağının sunulduğu duyurulmuştur. ABD’nin hedefleri oldukça iddialıydı ki; taslağın Birleşmiş Milletler’e üye 193 ülkenin tamamını ikna etmeyi amaçlaması gerektiğini başından beri belirtmişlerdi. ABD Büyükelçisi Linda Thomas-Greenfield, giriş konuşmasında ülkesinin karar metninin hazırlanması için 120’den fazla Devlet ile birlikte çalıştığını vurgulamıştır. Nihai kabul, Birleşmiş Milletler Genel Kurulu’nun 78. oturumunun 63. toplantısında gerçekleşmiştir.

Oylama yapılmadan kabul edilmesine rağmen 125’ten fazla ülke karara ortak destekçi olmaya karar vermiştir. Toplantı sırasında[4] Meksika delegesinin, kararın ortak destekçiliğini üstlenmeyen Devletlerden biri olan Meksika adına bir açıklama yapmak için söz almasını talep etmesi oldukça dikkat çekici bir olaydı. Ancak bu talep, gündem maddesinin kapatılmasının ardından gelmiş ve bu durum Birleşmiş Milletler Genel Kurulu başkanının prosedür ile ilgili nedenlerden ötürü talebi reddetmesine yol açmıştır. Meksika ilginç bir şekilde, 2018 yılında ulusal yapay zekâ stratejisini açıklayan ilk Latin Amerika devleti olmuştur ve yapay zekâyı geliştirmeye kararlı görünmektedir. Meksika’nın karara ortak destekçilik yapmaktan neden kaçınmaya karar verdiğine dair resmi bir açıklama yapıp yapmayacağı ise henüz bilinmemektedir.

2. Son Derece Farklı İlgi Alanları

Bu yeni karar, bağlayıcı olmamakla birlikte, yalnızca belirli bölgeleri değil, tüm Devletleri dâhil etmeye yönelik ilk girişimdir. Ancak yapay zekâ düzenlemelerine ilişkin ilgiler kıtadan kıtaya, hatta ülkeden ülkeye büyük ölçüde farklılık göstermektedir.

Amerika Birleşik Devletleri yapay zekânın en büyük oyuncularından en az dördünün genel merkezine ev sahipliği yapmaktadır: Open AI, Anthropic, Google ve Microsoft. Doğal olarak onların çıkarları, kalkınmayı ve gelirleri teşvik eden işletmelerin çıkarlarıyla daha fazla örtüşmektedir. Gizliliğe ilişkin risklerin ve yanılgılı/sapmalı verilerin içerdiği tehlikelerin farkında olan Beyaz Saray, olası bir Yapay Zekâ Hakları Bildirgesi ile ilgili olarak kendi Web Sitesinde[5] şunları belirtmektedir:

“Bu araçlar artık sektörler arasında önemli kararlara yön verirken, veriler de küresel endüstrilerde devrim yaratmaya yardımcı oluyor. Amerikan yenileşiminin/inovasyonunun gücünden beslenen bu araçlar, toplumumuzun her kesimini yeniden tanımlama ve hayatı herkes için daha iyi hale getirme potansiyeli taşıyor.”

Buna karşılık Avrupa, veri gizliliğine yönelik katı standartlarıyla tanınmaktadır. Hem üretken hem de gözetim yapay zekâsı, kalıplardan öğrenmek ve anlamlı çıktılar üretmek için çok büyük miktarda veriye ihtiyaç duyar. Avrupa Birliği[6], yapay zekâya yönelik “temel hakları koruyan ve yapay zekâ sistemlerine özel güvenlik risklerini ele alan bir Avrupa yasal çerçevesi”nden, “bir hukuki sorumluluk çerçevesi”nden ve “sektörel güvenlik mevzuatının revizyonu”ndan oluşan, yapay zekâya güvenmeye yönelik bir Avrupa yaklaşımının ana hatlarını çizmektedir[7]. Buna göre Avrupa alanı aşırı veri kullanımının dizginlenmesine ve kullanıcıların korunmasına odaklanmaktadır.

Afrika Devletleri ise çoğunlukla erişilebilirlik ve yapay zekâ ilerlemelerine dâhil olma konusunda mücadele etmektedirler. Yapay zekânın kullanılabilirliği büyük ölçüde internet bağlantısına tabidir. İnternet erişimi olmayan dünya nüfusunun %33’ünün (yüzde 33) büyük çoğunluğu Küresel Güney’de bulunmaktadır. Üstelik yapay zekânın geliştirilmesi, eğitimi ve test edilmesi büyük ölçüde Küresel Kuzey’den elde edilen verilere dayanmakta ve çoğunlukla İngilizce olarak yürütülmektedir. Bu genellikle önyargılı (peşin hükümlü), ayrımcı ve Afrika pazarı için yararsız verilerle sonuçlanır. Bu konuda ‘Research ICT Africa’dan Sandra Makumbirofa yakın zamanda şunları söylemiştir[8]:

“Afrika ülkeleri olarak sahip olduğumuz veriler yapay zekâ modellerinin eğitiminde temsil edilmiyor. Bu, Afrika’da yabancı ülkelerden aldığımız yapay zekânın mutlaka Afrika bağlamına sahip olmadığı ve bu nedenle onları elimizden geldiğince verimli bir şekilde kullanamadığımız anlamına geliyor.”

Küresel Güney’deki devletler haklı olarak yapay zekânın geliştirilmesinde ve verimli bir şekilde kullanılmasında geride kalmaktan korkmaktadırlar.

3. Karar ‘78/L.49’un İçeriği

Karar taslağının geniş çapta kabul edilmesini sağlayacak ortak zeminin nispeten küçük olması şaşırtıcı değildir.

Yine de karar, beklenenden daha somut ve daha güçlü bir ifadeye sahip görünmektedir. Her şeyden önce, yalnızca Birleşmiş Milletler Şartı’na (United Nations Charter) değil, aynı zamanda İnsan Hakları Evrensel Bildirgesi’ne (Universal Declaration of Human Rights) olan bağlılığı da yeniden teyit etmektedir. Özellikle uluslararası insan hakları hukukuna atıf, ulusal stratejilerinde yapay zekânın etik ve güvenli kullanımını yaygınlaştıran Devletler için önemlidir.

Ayrıca, 78/L.49 sayılı Kararda iki kavram özellikle öne çıkmakta ve muhtemelen onun başarısına katkıda bulunmaktadır. Bunlardan ilki, Yapay Zekânın “yaşam döngüsüne” (lifecycle of Artificial Intelligence) tekrar tekrar yapılan bir göndermedir. Bu, bir yandan veri gizliliği ve seçimi açısından özellikle önem taşıyan eğitim öncesi aşamayı, diğer yandan da teknolojik gelişme ve son tüketiciye satış aşamalarını içeren kapsamlı bir yaklaşım sağlamaktadır. İkinci olarak, karar metni, Devletlerin görevlerini yalnızca ulusal hukuka uygun olarak yerine getirmeleri gerektiğini tekrar tekrar teyit ederek, uygulama konusunda Devletlere yüksek takdir yetkisi tanımaktadır. Birleşmiş Milletler Üyesi Devletler, ülkelerinin ihtiyaçlarını tanımlamaktan sorumlu olmaya devam etmekte ve ulusal veya bölgesel politikalarından vazgeçmeleri gerekmemekte, bu da onların bireysel çıkarlarını sürdürmeye devam etmelerini temin etmektedir.

Kararın ABD tarafından Aralık 2023’te hazırlanan daha önceki bir taslak[9] ile karşılaştırılması bazı ilave bilgiler sağlamaktadır. Taslak, yapay zekânın her türlü kötüye kullanımını “kınarken” (condemned), nihai karar yalnızca üye Devletleri, bireyleri diğer birçok zararlı uygulamanın yanı sıra kötüye kullanımdan koruyacak çerçevelerin geliştirilmesini kolaylaştırmaya “teşvik etmektedir” (encourages). Ayrıca, üye Devletler başlangıçta yapay zekâ yönetişimi ile ilgili çeşitli özellikli eylemlerde bulunmaya “çağrılmıştır” (called upon). Nihai belge ise, bunu Devletlerin harekete geçmesi için yegâne bir “teşvik”e indirgemiştir. Taslağın son bölümünde yapay zekâ yönetişimi alanındaki gelişmelerin ilgili Birleşmiş Milletler süreçleri için değerlendirme altında tutulmasına bile “karar verilmiştir” (decided). Nihai karar, Birleşmiş Milletler’in güvenli, emniyetli ve güvenilir yapay zekâ sistemleri konusunda küresel bir fikir birliğine varmadaki rolünün kabul edilmesiyle sonuçlanmaktadır. Tüm bu değişiklikler, önceki taslağa kıyasla kararın metninde bir yumuşama olduğunu göstermekte ve muhtemelen belgenin kabulünü önemli ölçüde kolaylaştırmaktadır.

Ancak bir açıdan nihai karar aslında taslaktan çok daha güçlü bir ifadeye sahiptir. Gelişmekte olan ülkelerin dâhil edilmesi ile ilgili olarak, taslak başlangıçta yalnızca gelişmiş ülkeleri diğer Devletlere dijital uçurumu kapatma konusunda yardımcı olmaya “teşvik ediyordu”. Buna karşılık, nihai karar, tüm Devletlere, gelişmekte olan ülkelerle işbirliği yapmaya ve onlara yardım sağlamaya “çağrıda bulunmakta”, yapay zekâ yararlarına kapsayıcı ve eşitlikçi erişimin altını çizmekte ve hatta alınması gereken belirli eylemleri belirtmektedir.

Sonuç

Özetle, yapay zekâya ilişkin bu ilk karar, üye Devletlerin teknolojinin insan hakları yükümlülükleriyle tutarlı ve güvenli bir şekilde kullanılmasını sağlama yükümlülüğünü getiren bazı umut verici sonuçlar içermektedir. Yasal olarak, gerçekte ağırlık taşıdığından kesinlikle daha sembolik bir karaktere sahiptir. Yine de bu, Devletlerin yapay zekânın geliştirilmesi ve yaygınlaştırılmasıyla birlikte gelen karmaşık sorunların farkında olduklarını ve teknolojinin yurttaşları için içerdiği tehlikeleri göz ardı etmediklerini göstermektedir. Bu yeni alanda sadece teknolojik değil hukuki gelişmeler de gözlemlenmeye değerdir. Bu ilk kararı muhtemelen yapay zekânın etik ve adil kullanımını sağlayan, insan hakları çıkarları ile farklı Devlet çıkarlarını dengeleyen çok sayıda karar takip edecektir.

[1] <https://documents.un.org/doc/undoc/ltd/n24/065/92/pdf/n2406592.pdf?token=L7AoEw3DSPWBk0Z0JX&fe=true>

[2] <https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf>

[3] <https://rm.coe.int/cai-2023-28-draft-framework-convention/1680ade043>

[4] <https://webtv.un.org/en/asset/k1d/k1dio1rvsf>

[5] <https://www.whitehouse.gov/ostp/ai-bill-of-rights/>

[6] <https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence>

[7] Tümcenin İngilizcesi şöyledir: [The European Union outlines a “European approach to trust in AI”, which is composed of “a European legal framework for AI that upholds fundamental rights and addresses safety risks specific to the AI systems”, “a civil liability framework”, and “a revision of sectoral safety legislation”.]

[8] <https://www.un.org/africarenewal/magazine/march-2024/artificial-intelligence-and-africa>

[9] <https://www.moodysanalytics.com/regulatory-news/dec-18-23-us-government-moves-to-regulate-development-and-use-of-ai-models>

1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu [merhume Anası (1947-10 Temmuz 2023) Erzurum/Aşkale; merhum Babası ise Ardahan/Çıldır yöresindendir]. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte);
Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte) başlıklı kitapları yayımlanmıştır.
Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003), Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004) ile Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II, Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021), Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021), Sosyal Bilimlerde Güncel Gelişmeler (2021), Ticari İşletme Hukuku Fasikülü (2022), Ticari Mevzuat Notları (2022), Bilimsel Araştırmalar (2022), Hukuki İncelemeler (2023), Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024) başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 2 bin 500’e yakın Telif Makale ve Yazı ile Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak vazgeçilmez ilkesidir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.