Yeni bir makalede, kurumsal yönetişim ilkelerinin (corporate governance principles) yapay zekânın dönüştürücü etkisine yanıt olarak nasıl adapte olması gerektiği sorusuna giderek daha acil bir şekilde değiniliyor. Artık sadece operasyonel verimliliği artırmaya yönelik bir araç olmayan yapay zekâ, şirketlerin karar alma, paydaşlarla ilişki kurma ve toplumla etkileşim kurma biçimini kökten değiştirmektedir. İnsan odaklı bir dünya için tasarlanmış geleneksel emanet esaslı kurumsal yönetişim çerçeveleri (traditional fiduciary corporate governance frameworks) bu paradigmatik değişime ayak uyduramamaktadır. Söz konusu makalede, mevcut emanet esaslı çerçevenin yapay zekânın (artificial intelligence) getirdiği zorlukları ele alma konusundaki yetersizliği ile şirketlerin yapay zekâyı etik, şeffaf ve sorumlu bir şekilde kullanmasını sağlamak için atılması gerekli adımlar araştırılmaktadır.
Kurumsal yöneticilerin özen ve sadakatle hareket etmesini gerektiren mevcut emanet sistemi şeffaflık ve müzakereyi varsayar. Ancak, yapay zekâ sistemleri sıklıkla “kara kutu[1]” (black boxes) olarak çalışır ve kararları onları kullananlar için bile anlaşılmaz hale getirir. Bu opaklık, paydaşların yöneticilerin sorumlu davranıp davranmadığını veya yapay zekâ önyargılarının sonuçları etkileyip etkilemediğini değerlendirmesini imkânsız hale getirdiğinden hesap verebilirliği zayıflatır.
Ayrıca, yapay zekânın kurumsal kararlardaki artan rolü, insan faaliyeti ve sorumluluğu hakkında derin ve benzeri görülmemiş soruları gündeme getirir. Tarihsel olarak, şirketler hukuku ve organizasyon, kararları ve eylemleri takdir yetkisi ve yargı kullanmaları beklenen insan aktörlere -yöneticiler, görevliler ve çalışanlar- atfeden geleneksel faaliyet ilkelerine odaklanmıştı. Ancak, yapay zekâ sistemleri kararları yürütmede giderek daha özerk roller üstlendikçe, insan iradesi ve denetiminin temel varsayımı çökmeye başlamaktadır. Önemli kurumsal kararlar insanlar tarafından değil, çok az veya hiç anlamlı insan müdahalesi olmayan, opak, algoritma odaklı sistemler tarafından alındığında ne olur? Yapay zekâ odaklı eylemler hissedarlara, tüketicilere veya genel olarak topluma zarar verdiğinde kim ya da ne sorumlu tutulmalıdır? Bu sorular, insan faaliyeti ve niyeti kavramlarına bağlı kalan mevcut yasal çerçevenin kritik yetersizliklerini ortaya koymaktadır.
Yapay zekânın karmaşıklığı ve öngörülemezliği önemli bir hesap verebilirlik boşluğu yaratır ve şirketlerin zararlı sonuçlar için potansiyel olarak sorumluluktan kaçınmasına olanak tanır. Yapay zekânın benzersiz özelliklerini (bağımsızlığı, uyarlanabilirliği ve anlaşılmazlığı) hesaba katan yeni yasal yapılar olmadan şirketler sorumluluktan kaçmak için bu gri alanı kullanma riskiyle karşı karşıyadır. Bu hesap verebilirlik boşluğundan kaçınmak için, kurumsal aktörlerin yapay zekâyı konuşlandırmanın etik ve yasal etkilerinden sorumlu kalmasını sağlamak için ileriye dönük yönetim modelleri gereklidir.
Emanet çerçevesinin başarısızlıklarının ötesinde, yapay zekânın etkilerini ele almaya yönelik yasal ve düzenleyici çabalar parçalı, yavaş hareket eden ve genellikle sektöre özgü olmaya devam etmektedir. Sağlık ve finans gibi sektörler hedefli düzenlemeleri benimserken; diğer sektörler geride kalmakta olup şirketlerin üstesinden gelmekte zorlandığı tutarsız bir düzenleyici karmaşa yaratır. Bu boşluğu kapatmak için, yenilikçiliği etik denetimle dengelemek için yeni bir bütünsel ve uyarlanabilir yasal çerçeveye ihtiyaç duyulmaktadır.
Yapay zekâya giderek daha fazla güvenmek, kurumsal kişiliğe olan bağlılığın yeniden gözden geçirilmesini de gerektirir. Şirketler şu anda, Birinci Değişiklik kapsamındaki ifade özgürlüğü de dâhil olmak üzere, bireylerinkine benzer anayasal haklara sahiptir. Ancak, şirketler piyasaları, kamuoyunu ve hatta siyasi süreçleri etkilemek için giderek daha fazla yapay zekâya güvendikçe, şirketlerin anayasal haklara sahip olma fikri derinden sorunlu hale gelmektedir. Yapay zekâ teknolojileri, şirketlerin geniş veri kümelerini analiz etmelerini, davranışları kesin doğrulukla tahmin etmelerini ve aldatıcı “deepfake”ler (derin sahte) de dâhil olmak üzere algoritmik olarak optimize edilmiş mesajlaşma kullanarak son derece manipülatif içerik üretmelerini sağlamaktadır. Bu araçlar, şirketlere tüketici tercihlerini şekillendirme ve siyasi tutumları etkileme konusunda -genellikle tespit edilmesi veya karşı konulması zor şekillerde- benzeri görülmemiş bir yetenek sağlamaktadır. Bu tür gelişmeler, kâr odaklı ve yapay zekâ sistemleri tarafından desteklenen kurumsal çıkarların kamu söylemi ve siyasi sonuçlar üzerinde kontrolsüz bir etki kurmasına izin vererek demokratik kurumlar için açık ve mevcut bir tehlike oluşturmaktadır. Yapay zekânın yıkıcı gücünü hesaba katmak için kurumsal hakları yeniden kalibre etmeden, meşru siyasi katılım ile algoritmik manipülasyon arasındaki çizginin yok olma riski vardır ve bu da demokratik bütünlüğün makine tarafından yönlendirilen kurumsal varlıklar marifetiyle çarpıtılmaya karşı savunmasız kalmasına neden olur. Kurumsal anayasal hakların yeniden incelenmesi ve kısıtlanması -özellikle siyasi konuşma alanında- elzem görünmektedir.
Mezkûr makalede, bu zorlukların üstesinden gelmek için, yapay zekâ çağında gelecekteki şirketler hukuku ve kurumsal yönetişime rehberlik edecek bir dizi ilke önerilmekte olup; bu ilkeler, inovasyonu etik denetimle dengelemeyi, yapay zekânın kurumsal hesap verebilirliği korurken kamu yararına hizmet etmesini sağlamayı amaçlamaktadır.
1. Etik Yapay Zekâ Kullanımı [ethical artificial intelligence use]
Yapay zekânın dağıtımı, insan onurunu ve toplumsal değerleri korumak için etik hususlara öncelik vermelidir. Şirketler, yapay zekânın kullanımını yöneten net etik yönergeler geliştirmeli, sistemlerin zararı önlemek için tasarlanıp dağıtıldığından emin olmalıdır. Örneğin, şirketler sistemsel eşitsizlikleri sürdürebilen algoritmik önyargıyı ele almalıdır. Etik yapay zekâ kullanımı düzenli denetimler, karar almada şeffaflık ve adalet ve hakkaniyete bağlılık gerektirir. Şirketler, etiği kurumsal yönetişim çerçevelerine yerleştirerek kamu güvenini inşa edebilir ve yapay zekâ kaynaklı zarar risklerini azaltabilir.
2. İnsan Özerkliğini Koruma [safeguarding human autonomy]
Kurumsal yönetişim yapıları, yapay zekânın insan kararlarını değiştirmesinden ziyade tamamlamasını sağlayarak insan özerkliğini korumalıdır. Yapay zekâ veri işleme ve desen tanımada mükemmel olsa da, önemli kararlar insan yargısına dayanmalıdır. İnsan denetimi, yapay zekânın kararlarının derin kişisel sonuçlara sahip olabileceği işe alım ve sağlık hizmetleri gibi alanlarda özellikle kritik öneme sahiptir. Buna ek olarak, kurumsal uygulamalar tüketici davranışının ve siyasi tercihlerin yapay zekâ tarafından yönlendirilen manipülasyonuna karşı korunmalıdır. İnsan faaliyetini koruyarak, kurumsal yönetişim çerçeveleri yapay zekânın insan kapasitelerini geliştirmesini sağlayabilir.
3. Şeffaflık ve Hesap Verebilirlik [transparency and accountability]
Şirketlerin yapay zekâyı sorumlu bir şekilde kullanmasını sağlamak için şeffaflık olmazsa olmazdır. Şirketler yapay zekâ sistemlerinin nasıl dağıtıldığını, hangi veri türlerine güvendiklerini ve kötüye kullanımı önlemek için hangi güvenlik önlemlerinin alındığını açıklamalıdır. Bu tür açıklamalar, hissedarların, düzenleyici otoritelerin ve kamuoyunun yapay zekânın etik ve yasal standartlarla uyumlu olup olmadığını değerlendirmesini sağlayacaktır. Şirketler, aynı zamanda iç denetim ve harici denetim de dâhil olmak üzere sağlam hesap verebilirlik mekanizmaları uygulamalıdır. Saydamlık ve hesap verebilirliğe yönelik bu ikili vurgu, yapay zekânın risklerini azaltırken kurumsal uygulamalara yönelik kamu güvenini artırmaya yardımcı olacaktır.
4. Uyum ve Esneklik [adaptability and flexibility]
Yapay zekânın hızla ilerlemesi göz önüne alındığında, kurumsal yönetişim çerçeveleri uyarlanabilir ve ileriye dönük olmalıdır. Anılan makalede, şirketlere yeniliği barındıracak kadar esnek kalırken rehberlik sağlayan ilke tabanlı düzenlemeler savunulmaktadır. Düzenleyici çerçeveler, şirketlerin kontrollü koşullar altında yeni uygulamaları test edebileceği yapay zekâ “sanal alanları[2]” (sandboxes) gibi deneyleri teşvik etmelidir. Uyarlanabilirliği teşvik ederek, kurumsal yönetişim yapıları teknolojik ilerlemeyi engellemeden yasaların alakalı kalmasını sağlayabilir.
5. Yeniliğin Teşviki [promoting innovation]
Yenilik, ekonomik büyümenin temel taşıdır ve yapay zekâ, üretkenliği, verimliliği ve yaratıcılığı artırmak için muazzam bir potansiyele sahiptir. Bu potansiyeli açığa çıkarmak için, kurumsal yönetişim, yeniliği teşvik etmek ve riskleri azaltmak arasında bir denge kurmalıdır. Hükümetler ve düzenleyici otoriteler, araştırma hibeleri, vergi avantajları ve sektör ortaklıkları gibi teşvikler vasıtasıyla sorumlu yeniliği destekleyebilir. Aynı zamanda, şirketler yapay zekâ uygulamalarının etik etkilerinden sorumlu tutulmalıdır. Yenilik, gizlilik, eşitlik veya toplumsal refah pahasına olmamalıdır.
6. Gizlilik ve Veri Haklarının Korunması [protection of privacy and data rights]
Yapay zekânın geniş veri kümelerine olan bağımlılığı, gizlilik ve veri koruması konusunda önemli endişeler doğurmaktadır. Kurumsal yönetişim çerçeveleri, kişisel bilgilerin kötüye kullanılmamasını veya istismar edilmemesini sağlayarak sağlam veri haklarına öncelik vermelidir. Avrupa Birliği’nin Genel Veri Koruma Yönetmeliği (General Data Protection Regulation) gibi modellerden yararlanılarak, şirketlerin veri toplama, işleme ve depolama uygulamaları hakkında şeffaflık da dâhil olmak üzere katı veri yönetimi protokollerini uygulaması gerekir. Gizliliği korumak yalnızca yasal bir zorunluluk değil, aynı zamanda kamu güvenini sürdürmek için ahlaki bir zorunluluktur.
7. Paydaş Katılımı ve Kamu Katılımı [stakeholder engagement and public participation]
Paydaş katılımı, sorumlu yapay zekâ yönetişimini elde etmek için kritik öneme sahiptir. Şirketler, çalışanlar, tüketiciler, düzenleyici otoriteler ve toplum temsilcileri dâhil olmak üzere çeşitli paydaşları yapay zekâ dağıtımıyla ilgili görüşmelere dâhil etmelidir. Kamu katılımı da, yapay zekâ sistemlerinin toplumsal değerlerle uyumlu olmasını ve toplum ihtiyaçlarını karşılamasını sağlar. Örneğin, şirketler yapay zekânın sosyal ve etik etkilerini değerlendirmek için danışma komiteleri kurabilir. Şirketler, kapsayıcılığı ve işbirliğini teşvik ederek, inovasyonu daha geniş bir kamuoyuna karşı hesap verebilirlikle dengeleyen yapay zekâ çözümleri geliştirebilir.
8. Uluslararası İşbirliği ve Uyum [international cooperation and harmonization]
Yapay zekânın küresel erişimi göz önüne alındığında, tutarlı kurumsal yönetişim standartları oluşturmak için uluslararası işbirliği şarttır. Parçalanmış bir düzenleyici ortam, uyumu engeller ve istismar fırsatları yaratır. Yöneticilerin ve görevlilerin eylemlerini yönetmede tekdüzelik sağlayan uluslararası bir şirketler yasası olmasa da, siyasi sınırları aşan genel ilkelere yönelik bir miktar takdir, hükümetler, şirketler ve küresel kurumlar arasında işbirliğini teşvik etmelidir. Etik yapay zekâ kullanımı, veri koruması ve hesap verebilirlik için paylaşılan ilkeler oluşturmak, sınırlar ötesinde sorumlu yeniliği desteklerken tutarlılığı teşvik edecektir.
Yapay zekâ karar alma, operasyon ve hesap verebilirliği dönüştürdükçe, modası geçmiş yasal çerçevelere güvenilemez. Bunun yerine, yapay zekânın insanlığa hizmet etmesini ve tam tersinin olmamasını sağlayan dinamik, etik ve şeffaf kurumsal yönetişim ilkeleri benimsenmelidir. Bu zorlukların üstesinden gelerek, şirketler kurumlarımızın ve değerlerimizin bütünlüğünü korurken yapay zekânın inovasyon potansiyelinden yararlanabilirler.
[1] Kara kutu, iç işleyişi kullanıcıları için bir gizem olan bir yapay zekâ sistemi olup; kullanıcılar sistemin girdilerini ve çıktılarını görebilir, ancak ne olduğunu göremezler (…). [Bu konuda ayrıntılı bilgi için bkz. <https://www.ibm.com/think/topics/black-box-ai>.]
[2] Bu konuda bkz. <https://artificialintelligenceact.eu/article/57/>.
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu [merhume Anası (1947-10 Temmuz 2023) Erzurum/Aşkale; merhum Babası ise Ardahan/Çıldır yöresindendir]. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte);
Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte) başlıklı kitapları yayımlanmıştır.
Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003), Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004) ile Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II, Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021), Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021), Sosyal Bilimlerde Güncel Gelişmeler (2021), Ticari İşletme Hukuku Fasikülü (2022), Ticari Mevzuat Notları (2022), Bilimsel Araştırmalar (2022), Hukuki İncelemeler (2023), Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024), Hukuka Giriş (2024) başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 2 bin 500’ü aşan Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.