“Bizi birbirimizden daha da uzaklaştıran değil, sosyal, dijital ve ekonomik uçurumlar arasında köprü kuran bir yapay zeka için birlikte çalışmalıyız”
António Guterres
Birleşmiş Milletler Güvenlik Konseyi (BMGK), teknolojinin küresel barış ve güvenlik üzerindeki potansiyel etkisini araştıran yapay zeka (artificial intelligence, AI) konusundaki ilk tartışması için 18 Temmuz 2023 tarihinde toplandı. Birleşik Krallık Dışişleri Bakanı James Cleverly’nin başkanlık ettiği toplantıda Birleşmiş Milletler (BM) Genel Sekreteri António Guterres, yapay zekanın sağlık, eğitim ve insanların hayatlarının diğer yönlerini iyileştirme potansiyeline sahip olduğunu belirterek konferansı açtı. Ancak, üretken yapay zekanın, ölçekte iyilik ve kötülük için muazzam bir potansiyele sahip olduğunu belirtti.
BM Genel Sekreteri António Guterres yaptığı açılış konuşmasında bir süredir AI gelişimini takip ettiğini, hatta altı yıl önce Genel Kurul’a AI’ın sürdürülebilir kalkınma, çalışma dünyası ve sosyal doku üzerinde çarpıcı bir etkisi olacağını söylediğini ancak toplantıdaki herkes gibi kendisinin de AI’ın en yeni biçimi ve yeteneklerinde radikal bir ilerleme olan üretken yapay zeka karşısında şok olduğunu dile getirmiştir. Guterres her biçimiyle bu yeni teknolojinin hızı ve erişiminin tamamen emsalsiz olduğunu, kendi tasarımcılarının bile, bu çarpıcı teknolojik atılımlarının nereye varabileceği konusunda hiçbir fikirleri olmadığını, AI’ın, BM de dahil olmak üzere hayatımızın her alanında bir etkisi olacağının açık olduğunu belirtmiştir. Guterres, Konseyi bu teknolojiye aciliyet duygusuyla, küresel bir mercekle ve bir öğrenme zihniyetiyle yaklaşmaya davet ederek bugün gördüklerimizin sadece bir başlangıç olduğunu ve konunun BMGK’da tartışılmasının AI’ın siyasi, yasal, etik ve insani kaygıları halihazırda gündeme getirdiği barış ve güvenlik üzerindeki etkisini değerlendirmek için bir fırsat olduğunu belirterek teknolojik yeniliklerin bir daha asla bugün olduğu kadar yavaş hareket etmeyeceğinin altını çizmiştir.
Guterres konuşmasına AI’ın BM de dahil olmak üzere barış ve güvenlikle bağlantılı olarak çalışmaya başladığını söyleyerek devam etmiş ve barışı koruma, arabuluculuk ve insani çabalarını güçlendirmeye yardımcı olarak şiddet kalıplarını belirlemek, ateşkesleri izlemek ve daha fazlası için giderek daha fazla kullanıldığını belirtmiştir. Diğer taraftan, Guterres AI sistemlerinin terörist, suç veya devlet amaçları için kötü niyetli kullanımı, korkunç düzeyde ölüm ve yıkıma, yaygın travmaya ve hayal edilemeyecek ölçekte derin psikolojik hasara neden olabileceği ve AI destekli siber saldırıların halihazırda kritik altyapıyı ve barışı koruma ve insani yardım operasyonlarını hedef aldığı ve insanların büyük acılar çekmesine neden olduğu üzerinde durmuştur. Bu bağlamda, AI’ın hem askeri hem de askeri olmayan uygulamalarının küresel barış ve güvenlik için çok ciddi sonuçları olabileceği konusunda uyarmıştır.
Bu nedenle de Guterres, bazı Üye Devletlerin, Uluslararası Atom Enerjisi Ajansı, Uluslararası Sivil Havacılık Örgütü veya Hükümetlerarası İklim Paneli gibi modellerden esinlenerek, bu olağanüstü teknolojiyi yönetmeye yönelik ortak çabaları desteklemek üzere yeni bir BM biriminin oluşturulması yönündeki çağrılarına olumlu baktığını ve bu organın kapsayıcı hedefinin, ülkeleri AI’ın faydalarını sonsuza kadar en üst düzeye çıkarmak, mevcut ve potansiyel riskleri azaltmak ve uluslararası kabul görmüş izleme ve yönetişim mekanizmaları kurmak ve yönetmek için desteklemek olacağını söylemiştir. Bu konuda ilk adım olarak da bu yılın sonuna kadar küresel AI yönetişimi seçenekleri hakkında geri bildirimde bulunacak çok paydaşlı bir Yapay Zeka Üst Düzey Danışma Kurulu oluşturacağını sözlerine eklemiştir.
Guterres sözlerine son verirken, uluslararası barış ve güvenlikten sorumlu olan Güvenlik Konseyi’ni “Yapay Zeka konusunda liderlik yapmaya” ve şeffaflık, hesap verebilirlik ve gözetim için ortak alınabilecek önlemler için yol göstermeye çağırmıştır. “Bizi birbirimizden daha da uzaklaştıran değil, sosyal, dijital ve ekonomik uçurumlar arasında köprü kuran bir Yapay Zeka için birlikte çalışmalıyız. Sizleri barış ve güvenlik için güçlerinizi birleştirmeye ve güven inşa etmeye çağırıyorum” diyerek sözlerini tamamlamıştır[1].
Anthropic’in[2] Kurucu Ortağı Jack Clark, AI’ın büyük faydalar sağlasa da, AI sistemlerinin iki temel özelliğinin kötüye kullanım potansiyeli ve öngörülemezliği olduğunu ve bu nedenle barış, güvenlik ve küresel istikrar için tehdit oluşturduğunu belirtmiştir. Bir AI sisteminin biyoloji anlayışını geliştirebilirken, aynı zamanda biyolojik silahlar yapmak için de kullanılabileceği örneğini vermiştir. Hükümetlerin sağlam, güvenilir değerlendirme sistemleri geliştirerek şirketleri sorumlu tutabileceğini ve şirketlerin dünyanın güvenini kazanabileceğini belirterek, AI’ın gelişiminin yalnızca özel sektör aktörlerine bırakılmaması gereğinin altını çizmiştir[3].
Ayrıca Çin Bilimler Akademisi Otomasyon Enstitüsü’nden Yi Zeng, yaptığı konuşmada, mevcut AI’ın, görünüşte akıllı gibi görünen bilgi işleme aracı olduğunu, ancak gerçek anlayışları olmadığı için gerçekten de akıllı olmadıklarını söylemiştir. Bu nedenle, insanların karar vermesine yardımcı olabilecek sorumlu aracılar olarak onlara güvenilemeyeceğini vurgulamıştır. Tüm AI özellikli silah sistemleri için yeterli, etkili ve sorumlu insan kontrolünün sağlanması gerektiğini ve AI’a asla insanmış gibi davranılmaması gereğinin altını çizmiştir. Zeng, yapay zekanın insan zayıflığını kullanmasına karşı kendimizi korumanın bir yolunu bulamadığımız için insanların yok olma riskini taşıdığına dikkat çekmiş ve AI’ın insan, ölüm ve yaşam ile ne demek istediğimizi bilmediğine vurgu yapmıştır. Zeng sözlerine son verirken, BM’nin küresel barış ve güvenliği sağlamak için yapay zeka gelişimi ve yönetişimi konusunda bir çerçeve oluşturmak için merkezi bir rol oynaması gerektiğini de vurgulamıştır[4].
Bu konuşmaların ardından gelen tartışmada, Konsey üyeleri, dönüşümlü olarak, AI’ın küresel zorlukları ele almak için sunduğu dönüştürücü fırsatları ve ortaya koyduğu riskleri – yanlış bilgilerin yayılması ve kötü niyetli siber operasyonlar yoluyla çatışmayı yoğunlaştırma potansiyeli dahil – vurgulamıştır. Otonom silah sistemlerinde insan karar verme unsurunu koruma zorunluluğunun altı çizilmiştir. Üyeler ayrıca uluslararası AI yönetişimi için etik, sorumlu bir çerçeve oluşturma gereğini vurgulamışlardır[5].
BMGK, hızla gelişen bu teknolojiyle bağlantılı potansiyel riskleri ele almada önemli bir adım olarak yapay zeka konusundaki ilk tartışmasını düzenlemiş, uluslararası işbirliğini geliştirmeyi ve AI’ın küresel barış ve güvenlik üzerindeki etkileri hakkında kapsamlı bir tartışma sonucu AI tarafından sunulan fırsatları ve riskleri yönetmek için çok taraflı bir yaklaşıma duyulan ihtiyacı vurgulamıştır. Konsey, Anthropic’in kurucu ortağı Jack Clark ve Yapay Zeka Etiği ve Yönetişimi için Çin-İngiltere Araştırma Merkezi’nin eş direktörü Profesör Yi Zeng’den görüşler alarak uzmanların yapay zekadaki gelişmelere ve ortaya koyduğu risklere ışık tutan ifadelerine tanık olmuş ve AI inovasyonu yavaşlama belirtisi göstermediğinden, AI hakimiyeti ve teknolojik üstünlük yarışının, kapsamlı düzenlemelerin ve yönetişimin aciliyetini artırdığı üzerinde durulmuştur. Konsey, sonuç olarak da AI’ın zorluklarıyla mücadelede bir aciliyet duygusu ve küresel bir bakış açısı çağrısında bulunmuştur.
[1] Genel olarak bknz. António Guterres, United Nations Secretary General, Secretary-General’s remarks to the Security Council on Artificial Intelligence, 18 July 2023, https://www.un.org/sg/en/content/sg/speeches/2023-07-18/secretary-generals-remarks-the-security-council-artificial-intelligence E.T. 26.07.2023.
[2] Anthropic, güvenilir, yorumlanabilir ve yönlendirilebilir AI sistemleri oluşturmak için çalışan bir AI güvenlik ve araştırma şirketidir. Genel olarak bknz. Anthropic, https://www.anthropic.com/ E.T. 26.07.2023.
[3] Bknz. United Nations, Meetings Coverage and Press Releases, “International Community Must Urgently Confront New Reality of Generative, Artificial Intelligence, Speakers Stress as Security Council Debates Risks, Rewards”, 18 July 2023, https://press.un.org/en/2023/sc15359.doc.htm E.T. 26.07.2023.
[4] United Nations, Meetings Coverage and Press Releases, “International Community Must Urgently Confront New Reality of Generative, Artificial Intelligence, Speakers Stress as Security Council Debates Risks, Rewards”.
[5] Ibid.
1979 yılında Kıbrıs’ta doğdu. 2002 yılında University of Wales Cardiff Hukuk Fakültesi’nden mezun oldu. 2002 – 2018 yılları arasında avukat olarak çalıştı. Yüksek Lisansını University of Ghent’de ve doktorasını Yakın Doğu Üniversitesi’nde Kamu Hukuku Doktora progamında tamamladı. 2018 yılından bu yana Yakın Doğu Üniversitesi Hukuk Fakültesi’nde Uluslararası Hukuk Anabilim Dalında öğretim üyesi olarak çalışmakta ve 2020 yılından bu yana Dekan Yardımcılığı görevini yürütmektedir. Yayınları:
- Özde Dereboylular / Perçem Arman, “Avrupa İnsan Hakları Mahkemesinin Kıbrısla İlgili Verdiği Kararların KKTC ve Türkiye’ye Etkisi”, TBBD (136), 2018, 293-326.
- Perçem Arman, “Uluslararası İnsan Hakları Sözleşmeleri ve Çekinceler”, LHD (187) 2018, 3251-3286.
- Perçem Arman, “2017 Nükleer Silahların Yasaklanması Antlaşması: Amaçladığını Başarabilir Mi?”, DEÜHFD, Cilt 21 (Özel Sayı: Prof. Dr. Durmuş Tezcan’a Armağan), 2019, 1907-1947.
- Perçem Arman / Özde Dereboylular, “Avrupa İnsan Hakları Sözleşmesi Işığında Kuzey Kıbrıs Türk Cumhuriyeti’nde Adil Yargılanma Hakkının Değerlendirilmesi”, LHD (207), 2020, 1053-1092.
- Özde Dereboylular / Perçem Arman, “Birleşmiş Milletler Kadınlara Karşı Her Türlü Ayrımcılığın Ortadan Kaldırılmasına Dair Sözleşme”, Terazi Hukuk Dergisi (173), 2021, 39-48.
- Perçem Arman, Çocuk Savaşçıların Uluslararası Hukuktaki Statüsü, Yetkin Yayınları, Ankara, 2021.
- Perçem Arman / Özde Dereboylular, "Kadına Yönelik Ev İçi Şiddetin Önlenmesi ve İstanbul Sözleşmesi", LHD (228), 2021, 5421-5464.
- Nabi Berkut / Perçem Arman, “Rusya – Ukrayna Savaşı: Uluslararası Hukukta Kuvvet Kullanma Yasağı, Silahlı Çatışmalar Hukukunun Temel İlkeleri ve Uluslararası Sorumluluk”, Terazi Hukuk Dergisi (197), 2023, 36-48.
- Perçem Arman / Nabi Berkut, “Silahlı Ukrayna Vatandaşları: Silahlı Çatışma Kuralları Bağlamında Bir Değerlendirme”, Legal Hukuk Dergisi (247), 2023, 2541-1568.