Avrupa Parlamentosu, 13 Mart 2024 tarihinde, ‘Wall Street Journal’ gazetesinin ön sayfadaki haberinde[1] “Dünyanın İlk Kapsamlı Yapay Zekâ Yasası” (World’s First Comprehensive AI Law) olarak adlandırdığı Avrupa Birliği (AB) Yapay Zekâ Yasası’nın (EU Artificial Intelligence Act) kabul edilmesini onayladı[2]. Etkinliği önümüzdeki birkaç yıl içinde uygulamaya konulacak olan bu kapsamlı yasa, AB’de Yapay Zekâ (Artificial Intelligence) kullanan veya dağıtan tüm şirketleri etkileyecektir. Aşağıda da tartışıldığı gibi, hazırlığı birkaç yıldır süren söz konusu Yasanın kabul edilmesi, yapay zekânın dünya çapında benimsenmesi ve yaygınlaştırılması üzerinde mühim etkilere sahip olabilir ve aynı zamanda önemli sorumluluk riski sonuçları da doğurabilir.
1. Hadisenin Arka Planı
Anılan mevzuata ilişkin ilk teklif, ChatGPT ve Co-Pilot gibi mevcut nesil yapay zekâ araçlarının piyasaya sürülmesinden önce 2021 yılında yayınlanmıştır. İlk teklif bu arada önemli ölçüde revize edilmiş ve güncellenmiştir. Aralık 2023’teki müzakerelerde AB üyesi ülkeler anılan Kanun’un kabulü konusunda siyasi anlaşmaya varmış; Avrupa Parlamentosu ise, 13 Mart 2024 tarihinde bu Kanun’un kabulü lehinde oy kullanmıştır. Üye devletlerin her birinin artık Kanun’un kabul edilmesini ayrı ayrı kabul etmesi gerekmekte olup; Aralık 2023 anlaşması göz önüne alındığında, üye devletlerin kabulü yalnızca bir formalitedir.
2. AB Yapay Zekâ Yasası
Bahse konu Kanun’un kendisi oldukça kapsamlıdır; metin yaklaşık 459 sayfadan oluşmaktadır. Kanun aynı zamanda geniş kapsamlıdır ve birçok farklı konuyu ve hususu kapsamaktadır. Genel olarak, Kanun aşağıdaki hususları içermektedir:
- Sınıflandırma Sistemi (classification system): Yapay Zekâ Yasası, yapay zekâ teknolojisinin bireylerin sağlık, güvenlik ve temel hakları açısından oluşturduğu risk düzeyini değerlendiren bir sınıflandırma sistemi sunar. Bu sistem, yapay zekâ sistemlerinin potansiyel etkilerine göre sınıflandırılmasına yardımcı olur.
- Geliştirme ve Kullanım Koşulları (development and use requirements): Mevzuat, yapay zekâ sistemlerinin geliştirilmesi ve konuşlandırılması için çeşitli koşulları zorunlu kılmaktadır. Bunlar, veri kalitesi, şeffaflık, insan gözetimi ve hesap verebilirlik ile ilgili kuralları içermektedir. Amaç, yapay zekâ teknolojilerinin etik standartlara uymasını ve temel haklara saygı duymasını sağlamaktır. Göçmenlik veya kritik altyapı için kullanılanlar gibi yasa koyucular tarafından yüksek riskli kabul edilen yapay zekâ sistemlerinin risk değerlendirmeleri yapması gerekmektedir.
- Şeffaflık Yükümlülüğü (transparency requirements): Mevzuat, yapay zekâ araçlarının kullanımı konusunda şeffaflığı dayatmayı amaçlamaktadır. Yasa, yapay zekâ tarafından oluşturulan veya değiştirilen ve aksi takdirde orijinal gibi görünebilecek görsellerin, seslerin veya videoların açık bir şekilde etiketlenmesini gerektirmektedir.
- Etik Konusundaki Mülahazalar (ethical considerations): Yapay Zekâ Yasası, sağlık, eğitim, finans ve enerji gibi farklı sektörlerde yapay zekâ dağıtımı ile ilgili etik sorunları ele almayı amaçlamaktadır.
- Belirli Kullanımların Yasaklanması (ban on certain uses): Kanun, özellikle biyometrik gözetimde yapay zekâ teknolojisinin kullanımını yasaklamakta ve üretken yapay zekâ sistemlerinin (ChatGPT gibi) içeriğin yapay zekâ tarafından oluşturulduğunu açıklamasını gerektirmektedir. Anılan Kanun, hassas özelliklere ve yüz görüntülerinin internetten hedefsiz bir şekilde alınmasına dayanan biyometrik sınıflandırma sistemlerini ve ayrıca işyerinde ve okullarda duygu tanımayı, sosyal puanlamayı ve tahmine dayalı polisliği de yasaklamaktadır.
Yeni mevzuat, nerede geliştirildiklerine bakılmaksızın AB pazarındaki yapay zekâ ürünlerine uygulanmıştır. Düzenleme, Avrupa Birliği’nde yapay zekâ tasarlayan ve/veya kullanan şirketlere yükümlülükler getirmektedir. Yasanın açıkça AB odağına sahip olmasına rağmen, Wall Street Journal’da da ifade edildiği gibi bunun “küresel bir etki yaratması bekleniyor” çünkü büyük yapay zekâ şirketlerinin bloğa erişimden vazgeçmek istemesi pek olası değildir. Mevzuat aynı zamanda diğer ülkeler için yeni kanunu kendi yapay zekâ mevzuatı için bir model olarak kullanabileceğinden, diğer yargı bölgeleri için bir tür yol gösterici görevi de görebilir.
Kanun, yapay zekâ sistemlerinin zarar veya hasara neden olduğu durumlarda sorumluluk için de bir çerçeve oluşturmaktadır. Yasanın çoğu ihlali, şirketlere 15 milyon avroya veya yıllık küresel cironun %3’üne mal olacak, ancak yasanın yasakladığı yapay zekâ sistemleri ile ilgili ihlaller (örneğin yapay zeka destekli manipülasyon tekniklerini kullanmak veya özel bilgileri çıkarmak için biyometrik verileri kullanmak) durumunda 35 milyon avroya veya yıllık küresel cironun %7’sine kadar çıkabilmektedir.
Kanun, Resmi Gazetede yayımlanmasından yirmi gün sonra yürürlüğe girecek ve yürürlüğe girmesinden altı ay sonra geçerli olan yasaklı uygulamalara tabi bankalar hariç, yürürlüğe girdikten 24 ay sonra tam olarak uygulanacaktır. Uygulama kuralları, yürürlüğe girdikten dokuz ay sonra yürürlüğe girer ve diğer koşullar da bundan sonra belirlenir.
3. Tartışma
AB’nin Yapay Zekâ Yasası’nı kabul etmesi, AB merkezli olsun veya olmasın, AB’de iş yapan tüm kuruluşlar açısından önemli bir gelişmedir. Kanun, yalnızca yapay zekâ araçlarının geliştirilmesiyle değil, aynı zamanda yapay zekâ destekli işlevlerin her türlü yararlanmayla kullanımı ve konuşlandırılmasıyla da ilgili olduğundan olağanüstü derecede kapsamlıdır. Sanki tüm bunlar birçok kuruluş için yeterince zorlu değilmiş gibi, birçok firmanın yapay zekâ destekli araçların kullanılabilirliğinin operasyonlar için ne anlama geldiğini anlamakta zorlandığı bir zamanda geliyor.
Açıkçası, AB’nin bu yeni yasası, yapay zekâ çağına uyum sağlamaya çalışan tüm kuruluşlar için önemli bir uyum sorununu temsil ediyor. Yönetim kurulları ve üst düzey yönetim, düzenleyici yükümlülüklere uyumu sağlamak için süreçler ve kontroller geliştirmelidir.
Bu yeni kurallar ile ilgili pek çok endişem olsa da en büyük endişem Kanun’un yükümlülüklerine uymadığı iddia edilen şirketlerle ilgilidir. Yasanın uyguladığı uyumsuzluk nedeniyle para cezası olasılığı yeterince yıldırıcıdır. Ancak burada başka riskler de vardır.
Bu riskler konusunda ilk olarak, takip eden şirket ve menkul kıymet davaları, yani Yapay Zekâ Yasası uygulama eyleminin ardından açılan davalar konusunda endişeliyim. Örneğin burada tartışıldığı gibi, Genel Veri Koruma Yönetmeliği (General Data Protection Regulation-GDPR) uygulama eylemlerinin devamı niteliğindeki eylemler olarak açılan dava türlerini düşünüyorum. Davacıların, Yapay Zekâ Yasası uygulama eylemlerine maruz kalan şirketlerin ya Yapay Zekâ Yasası yükümlülüklerine uyumlarını ya da şirketin yapay zekâ ile ilgili kontrol ve süreçlerinin etkinliğini yanlış beyan ettiklerini ya da şirketin yapay zekâ kullanımı ile ilişkili riskleri açıklama konusunda başarısız olduklarını iddia edecekleri takip eylemlerini kolayca öngörebiliyorum.
İkinci olarak, davacıların, bir davada söz konusu olan yasal zekâ ile ilgili kurumsal davranışların yasal standartların altına düştüğünün gösterildiğini belirtmenin bir yolu olarak, iddia edilen kurumsal suiistimalleri ölçmeye yönelik kılavuzlar namına Kanun’un çeşitli geliştirme, kullanım veya şeffaflık yükümlülüklerini veya etik standartlarını kullanacaklarını da öngörebilirim.
Son olarak, şirket yönetim kurullarına ve yetkililere yönelik, tür iddialarının denetlenmemesi üzerine inşa edilen iddialardan da endişe duyuyorum. Yapay zekânın kurumsal kullanımı ile ilişkili itibar ve operasyonel risklerin, anılan Yasanın kendisinde de vurgulandığı üzere, üst düzey yöneticilere bilgi raporlama sistemleri kurma ve “kırmızı işaretleri” izleme konusunda özel yükler yüklediği iddia edilecektir. Kanunun, raporlama sistemlerinin üst düzey yönetime sağlaması gereken bilgi türleri veya yöneticilerin yanıt vermesi gereken tehlike işaretleri türleri için bir yol haritası sağladığı ileri sürülebilir.
Yapay zekâ sosyal, hâlâ ekonomik ve hukuki bir olgu olarak ortaya çıkıyor. Bir düzeyde kamusal düzenleme kaçınılmazdı; aslında AB dışındaki birçok yargı bölgesi de kendi düzenleyici çerçevelerini geliştirmek için ilerliyor. Yapay zekâ destekli araçların neredeyse her kuruluşa fırsatlar sunduğuna şüphe yoktur. AB’nin benimsenmesi, yapay zekâ destekli araçların kullanımının, fırsatların yanı sıra düzenleme, uyum ve yasal riskler de dâhil olmak üzere riskler de içerdiğini bir kez daha hatırlatıyor.
[1] <https://www.wsj.com/tech/ai/ai-act-passes-european-union-law-regulation-e04ec251?st=jvws3rtsbh1ofc6&reflink=desktopwebshare_permalink>
[2] AB’nin söz konusu Kanun’un kabulüne ilişkin 13 Mart 2024 tarihli basın açıklaması için bkz. <https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law#:~:text=The%20new%20rules%20ban%20certain,to%20create%20facial%20recognition%20databases.>; Kabul edilen mezkûr Kanun metni için bkz. <https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.pdf>
Yavuz Akbulak
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
• Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
• Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
• Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte),
• Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve
• Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte)
başlıklı kitapları yayımlanmıştır.
• Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003),
• Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004)
ile
• Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II;
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021);
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021);
• Sosyal Bilimlerde Güncel Gelişmeler (2021);
• Ticari İşletme Hukuku Fasikülü (2022);
• Ticari Mevzuat Notları (2022);
• Bilimsel Araştırmalar (2022);
• Hukuki İncelemeler (2023);
• Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024);
• Hukuka Giriş (2024);
• İşletme, Pazarlama ve Hukuk Yazıları (2024),
• İnterdisipliner Çalışmalar (e-Kitap, 2025)
başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 3 bini aşkın Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.