Bu sitede yapay zekâyı tartışırken belirttiğim[1] gibi, yapay zekânın son zamanlarda hızla ortaya çıkmasının her türden kuruluş için temsil ettiği riskler ve fırsatlar arasında, yapay zekâ ile ilgili düzenleyici gözetim ve denetim ile ilişkili riskler de bulunmaktadır. Şimdiye kadar yapay zekâ ile ilgili düzenleyici kaygılara yapılan atıflar çoğunlukla Avrupa Parlamentosu’nun bu yılın (2024) Mart ayında onayladığı Avrupa Birliği (AB) Yapay Zekâ Yasası (EU’s Artificial Intelligence Act[2]) ile ilgiliydi. Colorado yasama meclisinin 8 Mayıs 2024 tarihinde Colorado Yapay Zekâ Yasası’nı (Colorado Artificial Intelligence Act[3]) kabul etmesiyle yansıtıldığı gibi, yapay zekâ ile ilgili düzenleyici kaygıların muhtemelen Amerika Birleşik Devletleri (ABD) eyaletlerinin denetim çabalarını da kapsayacağı artık açıktır. Bu yasa, Colorado valisi Jared Polis tarafından yasalaştırılırsa, Colorado’yu yapay zekâ ile ilgili kapsamlı düzenlemeleri yürürlüğe koyan ilk ABD eyaleti yapacaktır.
Aşağıda tartışıldığı gibi, anılan kanun yasalaşabilir veya geçmeyebilir, ancak yasalaşsın ya da yasalaşmasın, gelecekteki yapay zekâ ile ilgili düzenlemelerin muhtemel gidişatına ilişkin önemli işaretlerin yanı sıra, iyi tavsiye edilen şirketlerin alması gereken temel yapay zekâ risk yönetimi tedbirlerini de içermektedir. Yapay zekâ ile ilgili düzenleyici riskleri ele almaya çalışacaklardır.
1. Hadisenin Arka Planı
2023 yazında, ABD’nin yarısından fazlasından 60’tan fazla eyalet milletvekilinden oluşan bir grup, ilgilenen yasa yapıcılara bilgi sağlamak ve düzenleyici alternatifleri araştırmak amacıyla çok eyaletli bir yapay zekâ çalışma grubuna[4] katılmıştır. Bu grubun hedefi, Husch Blackwell firmasının ByteBack blogunda 08 Mayıs 2024 günü yayınlanan bir gönderide açıklandığı gibi, “sürekli inovasyona izin verirken aynı zamanda tüketicileri korumak için temel güvenceler sağlayan dengeleyici yasama yapısı” (legislative structure that balanced allowing for continued innovation while at the same time providing for basic guardrails to protect consumers) oluşturmaktı.
Anılan grup geçen yıl birçok kez buluştuktan sonra, çalışma grubunun çeşitli yasa koyucu üyeleri eyalet düzeyinde yasa tekliflerinin taslağını dağıtmaya başlamış ve bunun sonucunda yapay zekâ ile ilgili yasa tasarıları daha sonra hem Connecticut hem de Colorado yasama meclislerinde önerilmiştir. Tasarının Connecticut sürümü eyalet Senatosu tarafından kabul edilmiş, ancak eyalet valisinin yasayı veto etmekle tehdit etmesi üzerine yasa tasarısının Eyalet Meclisi’nde oylanması engellenmiştir. Connecticut tasarısının aksine, önerilen Colorado yasası tüm yasama süreci boyunca ilerleyerek hem Temsilciler Meclisi hem de Senato geçişini güvence altına almıştır.
2. Colorado Mevzuatı
Genel bir konu olarak Colorado tasarısı, hem yapay zekâ geliştiricilerinin hem de uygulayıcılarının, yapay zekâ sistemlerinde algoritmik ayrımcılığı önlemek için makul özen göstermelerini gerektirmektedir. Söz konusu kanun, Colorado’da iş yapan ve çeşitli belirli alanlarda “önemli kararlar” alan veya alınmasına önemli ölçüde katkıda bulunan yapay zekâ sistemleri olarak tanımlanan “yüksek riskli yapay zekâ sistemleri” (high-risk artificial intelligence systems) geliştiren veya kullanan şirketler için geçerlidir.
“Algoritmik ayrımcılık” (algorithmic discrimination), belirli korunan sınıflandırmalara dayalı olarak bir bireyi veya grubu olumsuz yönde etkileyen “yapay zekâ sisteminin kullanımının yasa dışı farklı muamele veya etkiyle sonuçlandığı herhangi bir durum” (any condition in which the use of an artificial intelligence system results in an unlawful differential treatment or impact) olarak tanımlanmaktadır.
“Önemli karar” (consequential decisions), herhangi bir tüketiciye eğitim kaydı, istihdam veya istihdam fırsatı, finans veya kredi hizmeti, sağlık hizmetleri, barınma, sigorta veya yasal hizmet sağlanması veya reddedilmesi üzerinde önemli, hukuki veya benzer derecede önemli etkiye sahip olan karardır. Daha da önemlisi, mevzuat yapay zekâ tanımını herhangi bir spesifik alanla sınırlamamaktadır; bunun yerine, yalnızca üretken yapay zekâ ve büyük dil modelleri değil, örneğin özgeçmişleri taramak için kullanılan optik karakter okuyucular gibi teknolojiler de dâhil olmak üzere her türlü yapay zekâyı kapsamaktadır.
Mevzuat, Colorado’da iş yapan şirketlerin, “güvenilir bir raporun keşfedilmesi veya alınmasından sonraki 90 gün içinde bilinen veya makul olarak öngörülebilir algoritmik ayrımcılık riskini” eyalet başsavcılığına açıklamasını gerektirmektedir.
Tasarıda, “algoritmik ayrımcılık” incelemesinin yanı sıra yapay zekâ ile ilgili içeriğe de değinilmektedir. 10 Mayıs 2024 tarihli CIO Dergisi’nin “Colorado Yapay Zekâ Mevzuatı Yasal Uyum Denklemini Daha da Karmaşıklaştırıyor” (Colorado AI Legislation Further Complicates Compliance Equation[5]) başlıklı makalesinde de açıklandığı gibi, “genel amaçlı bir model de dâhil olmak üzere bir yapay zekâ sistemi, sentetik dijital içerik üretiyorsa veya manipüle ediyorsa, yasa tasarısı, yapay zekâ sistemini kuran kişinin, sistemin sentetik dijital içeriğin yapay olarak oluşturulduğunu veya değiştirildiğini tüketiciye açıklamasını gerektirmektedir.”
Tasarı, geliştiricilerin aşağıdakileri dağıtımcılara sunması da dâhil olmak üzere, yasanın koşullarına uymaları halinde makul özen gösterdikleri yönünde çürütülebilir bir varsayım oluşturmaktadır: yüksek riskli yapay zekânın makul şekilde öngörülebilir kullanımlarına ve bilinen veya zararlı kullanımlarına ilişkin genel bir beyan sistemler; sistemi eğitmek için kullanılan veri türünün yüksek düzeyde bir özetini ve ayrıca sistemin bilinen veya öngörülebilir sınırlamalarını açıklayan belgeler; sistemin performansı ve algoritmik ayrımcılığın azaltılması açısından değerlendirilme yöntemlerinin belgelenmesi; ayrıca dağıtımcının etki değerlendirmesini tamamlaması için gereken belgeler ve bilgiler.
Benzer bir şekilde tasarı, dağıtımcıların yasada belirtilen belirli adımları atmaları halinde makul özen gösterdikleri yönünde çürütülebilir bir varsayım oluşturmakta olup; bu adımlar arasında şunlar yer almaktadır: yüksek riskli bir yapay zekâ sisteminin konuşlandırılmasını yönetmek için bir risk yönetimi politikası ve programının uygulanması; yüksek riskli yapay zekâ sistemi için etki değerlendirmesinin tamamlanması; dağıtımcının önemli bir karar vermek veya bu kararın alınmasında önemli bir faktör olmak için yüksek riskli bir yapay zekâ sistemi kullanması durumunda tüketicilere bildirimde bulunulması; yüksek riskli yapay zekâ sistemlerinin türleri gibi bilgileri özetleyen bir beyanın web sitesinde sunulması.
Tasarı yalnızca Colorado Başsavcısı tarafından uygulanacaktır. Özel dava hakkı yoktur. Tasarıda ayrıca, herhangi bir yaptırım eyleminde, geliştiricinin, dağıtımcının veya başka bir kişinin ihlali keşfedip düzeltmesi durumunda olumlu bir savunmanın bulunacağı öngörülmektedir.
Tasarı, yasalaştığı takdirde 01 Şubat 2026 tarihinde yürürlüğe girecektir. Daha da önemlisi, bir ek yasa tasarısında, Şubat 2026’da yürürlüğe girmeden önce tasarıya herhangi bir değişiklik eklenmesi gerekip gerekmediğini toplayacak ve tartışacak bir çalışma grubu oluşturulmaktadır.
Colorado Valisi Jared Polis’in tasarıyı imzalayıp imzalamayacağına karar vermesi için 07 Haziran 2024 tarihine kadar süresi vardır. Yukarıda bağlantısını verdiğim CIO Magazine makalesine göre Polis şu ana kadar mevzuatı imzalayıp yasalaştırmayı planlayıp planlamadığını söylemeyi reddetmiştir. Ofisinin, “Bu karmaşık ve gelişen bir teknoloji ve eyalet düzeyindeki düzenlemeleri nasıl takip edeceğimiz konusunda dikkatli olmamız gerektiğini” belirten bir bildiri yayınladığı ve Valinin “masasındaki tasarının son dilini yasalaştığında gözden geçireceğini” ifade ettiği bildirilmektedir.
3. Tartışma
Colorado mevzuatının yasalaşıp imzalanmayacağı henüz bilinmemektedir. Colorado tasarısı yasalaşsaydı, Microsoft’un ChatGPT destekli aracı Co-Pilot’un soruma yanıt olarak bana bildirdiği gibi, “benzer yasaları düşünen diğer eyaletler için bir emsal teşkil edebilirdi.” Aslında, Colorado yasa tasarısı yasalaşsa da yasalaşmasa da, yasa tasarısının, yapay zekâyı geliştiren veya dağıtan şirketlerin, farklı yetki alanlarındaki farklı düzenleyici gereksinimlere tabi olduğu ve potansiyel olarak çelişkili ve potansiyel olarak külfetli uyum yükümlülüklerini dayattığı olası bir geleceğe işaret ettiğini düşünüyorum.
Colorado mevzuatında öngörülene benzer bir düzenleyici rejime uymaya çalışan şirketler için görebildiğim diğer zorluklar arasında, pek çok şirketin Bilişim Teknolojisi (BT) işlevlerinin birçok yönünü dış kaynaklardan temin etmesinden kaynaklanabilecek zorluklar da vardır. Pratik bir konu olarak, pek çok şirket, BT programları boyunca kullanılan yapay zekâ ile ilgili tüm yöntemlerin farkında olmayabilir (örneğin şirketlerin üçüncü taraf bulut tabanlı hizmetleri dağıttığı veya hizmet olarak yazılım [SaaS; software-as-a-service] uygulamalarını uyguladığı durumlar dâhil).
Öte yandan, Colorado tasarısı yasalaşsa da yasalaşmasa da yapay zekâ ile ilgili girişimlerle ilişkili potansiyel risk alanlarını belirlemek isteyen şirketler için yararlı bir yol haritası sağlamaktadır. Tasarıda, ayrımcı yapay zekâ temelli karar alma süreciyle ilişkili riskler vurgulanmakta ve aynı zamanda potansiyel ayrımcı önyargıların özellikle sorunlu olabileceği bir dizi yüksek hassasiyetli alan da belirlenmektedir.
Tasarıda ayrıca, yapay zekâ tabanlı hizmetlerin dağıtımıyla ilişkili riskleri anlamak ve yönetmeye çalışmak için yapay zekâ uygulayıcılarının yapay zekâ geliştiricilerinden alması gereken belirli bilgi kategorileri de faydalı bir şekilde tanımlanmaktadır. Aynı doğrultuda tasarı, uygulayıcıları yapay zekâ ile ilgili risk yönetimi programları geliştirmeye ve uygulamaya yönlendirmekte ve böyle bir programın içermesi gereken özellikleri belirtmektedir. Bana öyle geliyor ki, Colorado tasarısı yasalaşsa da yasalaşmasa da, bu tür bir proaktif risk yönetimi süreci, bilgili şirketlerin uygulaması gereken ihtiyatlı bir önlem olacaktır.
Pek çok okuyucu için bu mevzuatla ilgili olarak özellikle odaklanılan bir alanın uygulamayla ilgili olduğunu biliyorum. Pek çok kişinin tasarının açıkça özel bir dava hakkı sağlamamasını ve uygulamanın Colorado Başsavcılığına özel olmasını önemli bulacağını biliyorum. Tasarı kapsamında özel bir dava hakkının bulunmaması, örneğin Illinois Biyometrik Bilgi Gizliliği Yasası (Illinois Biometric Information Privacy Act) ile ilgili olarak gördüğümüz tüketici davalarını ortadan kaldırsa da, diğer türden iddiaların olasılığını ortadan kaldırmaz.
Özellikle, eğer bu yasa yasalaşsaydı, şirketlerin yalnızca Colorado Başsavcısı tarafından bir yaptırım davası açma olasılığıyla karşı karşıya kalabileceğinden değil, aynı zamanda bir başsavcı yaptırımının ardından açılan bir takip eylemi olasılığından da endişe duyardım. Hissedarlar, şirket yönetiminin uyum prosedürlerini uygulamadaki başarısızlığının özen yükümlülüğünü ihlal ettiğini veya şirket ve yöneticilerinin şirketin mevzuat gereklerine uyumunu yanlış beyan ettiğini iddia edebilir.
Aslında, bu tür bir takip eyleminin olasılığı, yapay zekâ ile ilgili düzenleme yükünün, yapay zekâ geliştiren veya dağıtan şirketlerin karşılaştığı yapay zekâ ile ilgili önemli dava risklerinden birini temsil ettiğini düşünmemin nedenlerinden biridir. Bu riskler, yukarıda da belirttiğim gibi, iyi bilgilendirilmiş şirketlerin artık yapay zekâ ile ilgili girişimlerle ilişkili riskleri yönetmek için proaktif adımlar atmasının bir başka nedenidir.
Son bir nokta şu ki, bu Colorado yasa tasarısı yasalaşsın ya da geçmesin, diğer birçok yargı bölgesi kendi düzenleyici rejimlerini uygulamaya çalışabilir. Yukarıda bağlantı verdiğim CIO Magazine makalesinde alıntı yapan bir yorumcunun da belirttiği gibi, “Çeşitli eyalet hükümetleri, federal hükümetler ve yabancı hükümetler yapay zekâyı düzenlemek için kendi kendilerini kandırıyorlar.”
[1] <https://www.dandodiary.com/2024/05/articles/artificial-intelligence/ai-risk-and-public-company-disclosures/>
[2] <https://en.wikipedia.org/wiki/Artificial_Intelligence_Act>
[3] <https://leg.colorado.gov/sites/default/files/documents/2024A/bills/2024a_205_rer.pdf>
[4] <https://pluribusnews.com/news-and-events/ai-spurs-huddle-of-lawmakers-from-more-than-half-of-states/>
[5] <https://www.cio.com/article/2099805/colorado-ai-legislation-further-complicates-compliance-equation.html>
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu [merhume Anası (1947-10 Temmuz 2023) Erzurum/Aşkale; merhum Babası ise Ardahan/Çıldır yöresindendir]. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte);
Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte) başlıklı kitapları yayımlanmıştır.
Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003), Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004) ile Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II, Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021), Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021), Sosyal Bilimlerde Güncel Gelişmeler (2021), Ticari İşletme Hukuku Fasikülü (2022), Ticari Mevzuat Notları (2022), Bilimsel Araştırmalar (2022), Hukuki İncelemeler (2023), Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024), Hukuka Giriş (2024) başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 2 bin 500’ü aşan Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.