Avrupa Birliği Yapay Zekâ Yasası: Nedir ve Nasıl Uygulanır?

Giriş

Yapay zekâ [artificial intelligence] hızla gelişiyor. Sohbet robotlarından [chatbots] otomasyona, yüz tanımadan işe alım yazılımlarına kadar, yapay zekâ artık iş dünyasının ve günlük yaşamın önemli bir parçasıdır. Ancak yapay zekâ sistemleri güçlendikçe riskler de artmaktadır. Bu nedenle Avrupa Birliği (AB), yapay zekânın nasıl geliştirilip kullanılacağını kontrol etmek için yeni bir yasa çıkarmış ve bu yasaya AB Yapay Zekâ Yasası [EU Artificial Intelligence Act] adı verilmiştir.

Bu yazıda, AB Yapay Zekâ Yasası’nın ne olduğunun, kimleri etkilediğinin, nasıl işlediğinin ve bir işletmenin uyumunu nasıl koruyabileceğinin anlaşılmasına yardımcı olunacaktır.

1. AB Yapay Zekâ Yasası nedir?

AB Yapay Zekâ Yasası, Avrupa Birliği tarafından yapay zekâyı düzenlemek için çıkarılan yeni bir yasa olup; yapay zekâ sistemlerinin güvenli, adil ve güvenilir olmasını sağlamak için oluşturulmuş dünyanın ilk kapsamlı yasal çerçevesidir.

Anılan yasa, şirketlerin yapay zekâyı nasıl kullanabileceklerine dair kuralları, sistemin risk düzeyine göre belirlemektedir. Yüksek riskli yapay zekâ sistemleri katı kurallara uymak zorundadır. Bazı yapay zekâ kullanımları tamamen yasaklanırken, düşük riskli olanlara ilişkin daha az kural bulunmaktadır.

Amaç, inovasyona izin verirken insanları zarardan, önyargıdan veya kötüye kullanımdan korumaktır.

2. AB Yapay Zekâ Yasası’nın oluşturulma nedeni

Yapay zekânın birçok faydası vardır. Doktorların hastalıkları erken teşhis etmelerine yardımcı olur. Müşteri desteğini hızlandırır. Hatta dolandırıcılığı azaltmaya bile yardımcı olabilir. Ancak yapay zekânın tehlikeleri de mevcuttur.

Yapay zekâ, özellikle taraflı verilerle eğitildiğinde, adil olmayan kararlar verebilir. Bazı sistemler, insanları rızaları olmadan izlemek için kullanılabilir. Diğerleri ise, net kurallar veya korumalar olmadan insan işlerinin yerini alabilir.

Avrupa Birliği, insanların güvende kalmasını sağlamak; ayrıca, yapay zekâya olan güveni artırmak ve böylece işletmelerin ve halkın yapay zekâyı güvenle kullanabilmesini sağlamak istemektedir. AB Yapay Zekâ Yasası da bu nedenle çıkarılmıştır.

3. AB Yapay Zekâ Yasası’nı kimlerin takip etmesi gerekir?

AB Yapay Zekâ Yasası, aşağıdaki özelliklere sahip tüm işletmelere veya gruplara uygulanmaktadır:

• Bu işletmeler veya gruplar Avrupa Birliği’nde kullanılmak üzere yapay zekâ sistemleri geliştirmektedir.
• Bu işletmeler veya gruplar Avrupa Birliği’nde yapay zekâ sistemlerini kullanmaktadır.
• Bu işletmeler veya gruplar Avrupa Birliği müşterilerine yapay zekâ sistemleri satmaktadır.
• Bu işletmeler veya gruplar yapay zekâ sistemlerini Avrupa Birliği’ne ithal etmektedir.

Bu, bir şirket Avrupa Birliği’nde bulunmasa bile, şirketin yapay zekâ ürünü Avrupa Birliği içinde kullanıldığında söz konusu yasanın yine de geçerli olacağı anlamına gelmektedir.

İster bir girişim, ister küresel bir teknoloji firması, isterse bir devlet kurumu olsun, Avrupa’da yapay zekâ ile çalışılıyorsa AB Yapay Zekâ Yasası’na uyulması gerekir.

4. AB Yapay Zekâ Yasası’ndaki anahtar terimler ve tanımlar

Şimdi, AB Yapay Zekâ Yasası’ndaki bazı önemli terimlere bakalım:

• Yapay zekâ sistemi [artificial intelligence system]: İnsan yardımı olmadan veya çok az yardımla kararlar veya tahminler üreten makine tabanlı bir sistem.
• Sağlayıcı [provider]: Bir yapay zekâ sistemi oluşturan veya geliştiren kişi veya işletme.
• Kullanıcı [user]: Yapay zekâ sistemini kendi işinde veya ürününde kullanan kişi.
• İthalatçı [importer]: Yapay zekâ sistemini Avrupa Birliği’ne getiren şirket.
• Dağıtıcı [distributer]: Yapay zekâ sistemleri satan veya sağlayan kişi veya grup.

Bu rolleri anlamak önemlidir, çünkü her birinin mezkûr yasa kapsamında farklı sorumlulukları vardır.

5. AB Yapay Zekâ Yasası nasıl çalışır?

AB Yapay Zekâ Yasası, yapay zekâ sistemlerini dört risk seviyesine ayırmaktadır:

• Kabul edilemez risk [unacceptable risk]: Bunlar yasaktır. Örneğin, çocukları manipüle eden veya sosyal puanlama kullanan yapay zekâ.
• Yüksek risk [high risk]: Buna izin verilir ancak katı kurallar altındadır. Bu risk; işe alım, sağlık hizmetleri veya kredi puanlaması için yapay zekâyı içerir.
• Sınırlı risk [limited risk]: Basit şeffaflık kurallarına uyulması gerekir. Örneğin, sohbet robotları kullanıcılara insan olmadıklarını söylemek zorundadır.
• Asgari risk [minimal risk]: Özel bir kural yoktur. Örnek olarak video oyunlarındaki yapay zekâ veya istenmeyen ileti [spam] filtreleri verilebilir.

Risk ne kadar yüksekse, sistemin uyması gereken kurallar da o kadar fazladır.

6. AB Yapay Zekâ Yasası kapsamındaki risk kategorileri

Bu risk seviyelerinin ne anlama geldiğine dair daha derinlemesine bir bakış aşağıda yer almaktadır:

6.1. Kabul edilemez risk

Bu sistemler yasaklanmıştır. Çok tehlikeli veya zararlı oldukları düşünülmektedir. Örnekler:

• İnsanları zararlı seçimler yapmaya kandıran yapay zekâ.
• Kamusal alanlarda gerçek zamanlı biyometrik gözetim için kullanılan yapay zekâ.
• İnsanların davranışlarını ödül veya ceza olarak puanlayan yapay zekâ.

6.2. Yüksek risk

Bu yapay zekâ sistemleri katı kurallara uymak zorundadır. Testlerden, kayıt tutma ve risk yönetiminden geçmeleri gerekir. Bunlar aşağıdaki gibi kritik alanlarda kullanılır:

• İşe alım ve iş kararları;
• Kredi notu;
• Sağlık tanıları;
• Kolluk kuvvetleri;
• Sınır kontrolü,
• Eğitim sistemleri.

Bu sistemlerin kullanılmadan önce Avrupa Birliği veri tabanında listelenmesi ve tüm güvenlik ve adalet kurallarına uygun olması gerekmektedir.

6.3. Sınırlı risk

Bu sistemlere izin verilmekte, ancak kullanıcıları açıkça bilgilendirmeleri gerekmektedir. Örneğin:

• Sohbet robotlarının robot olduklarını belirtmeleri gerekir.
• Yapay zekâ tarafından üretilen içerikler bu şekilde etiketlenmek zorundadır.

Bu sistemler için şeffaflık çok önemlidir.

6.4. Asgari risk

Bu sistemler, herhangi bir ek kurala tabi olmaksızın özgürce kullanılabilir. Kişisel uygulamalarda, oyunlarda veya istenmeyen ileti [spam] filtrelerinde kullanılan yapay zekâların çoğu bu gruba girer.

7. AB Yapay Zekâ Yasası’na uyum sağlamak için atılması gereken adımlar

Avrupa Birliği’nde yapay zekâ sistemleri kullanılıyorsa veya oluşturuluyorsa bazı önemli adımların atılması gerekecektir:

• Birinci adım risk kategorisinin belirlenmesidir [identify your risk category]. Yapay zekâ sisteminin yüksek riskli, sınırlı riskli veya asgari riskli olup olmadığı belirlenmelidir. Bu, hangi kuralların uygulanacağını etkiler.
• İkinci adım kayıtların tutulmasıdır [keep records]. Yapay zekâ sisteminin nasıl çalıştığı belgelenmelidir. Buna veri kaynakları, algoritmalar, test sonuçları ve zaman içindeki değişiklikler dâhildir.
• Üçüncü adım risklerin değerlendirilmesidir [assess the risks]. Herhangi bir önyargı, hata veya adaletsizlik içeren sorunları bulup düzeltmek için risk değerlendirmelerinin yapılması gerekir.
• Dördüncü adım kaliteli verilerin kullanılmasıdır [use quality data]. Adil olmayan sonuçların önlenmesi için yapay zekâ sistemlerinin yüksek kaliteli ve tarafsız verilerle eğitilmesi gerekir.
• Beşinci adım test etme ve izlemedir [test and monitor]. Yapay zekâ sistemi düzenli olarak test edilmelidir. Yapay zekâ sisteminin beklendiği gibi davrandığından ve kullanıcılara zarar vermediğinden emin olunmalıdır.
• Altıncı adım yetkililere bildirmedir [notify authorities]. Yüksek riskli sistemler için, yapay zekâ sisteminin kamuya açık bir Avrupa Birliği veri tabanına kaydettirilmesi ve gerekli sertifikasyonların alınması gerekir.
• Yedinci adım ise ekibin eğitilmesidir [train your team]. Çalışanların sistemin nasıl çalıştığını ve güvenli ve etik bir şekilde nasıl kullanılacağını bilmeleri sağlanmalıdır.

8. AB Yapay Zekâ Yasası’na uymamanın cezaları

AB Yapay Zekâ Yasası’nda ağır cezalar bulunmaktadır. Para cezaları aşağıdakiler kadar yüksek olabilir:

• Yasaklanmış yapay zekânın kullanımı için 35 milyon avro veya küresel gelirin yüzde 7’si tutarında para cezası.
• Diğer ciddi ihlaller için 15 milyon avro veya küresel gelirin yüzde 3’ü tutarında para cezası.
• Kuralları göz ardı etmek soruşturmalara, yasaklara ve güven kaybına yol açabilir. Bu risklerle daha sonra karşılaşmaktansa, erkenden uymak daha iyidir.

9. İşletmelerin karşılaştığı yaygın zorluklar

AB Yapay Zekâ Yasası’na uyum sağlamak her zaman kolay değildir. Şirketler genellikle şu sorunlarla karşı karşıya kalmaktadır:

• Yapay zekâlarının nasıl sınıflandırıldığını anlamak;
• Gerekli tüm belgeleri toplamak;
• Kurallardaki değişiklikleri takip etmek;
• Çalışanlara uyum adımları konusunda eğitim vermek,
• Sınırlı personel veya araçlarla yapay zekâ risklerini yönetmek.

Manuel uyum, özellikle bir işletme tarafından Uluslararası Standardizasyon Örgütü, Ulusal Standartlar ve Teknoloji Enstitüsü ve Genel Veri Koruma Yönetmeliği [International Organization for Standardization (ISO), National Institute of Standards and Technology (NIST) and General Data Protection Regulation (GDPR)] gibi birden fazla çerçeve kullanılıyorsa çok fazla zaman ve çaba gerektirir.

Sonuç

AB Yapay Zekâ Yasası, yapay zekânın Avrupa genelinde nasıl kontrol edilip kullanıldığı konusunda büyük bir adım teşkil etmektedir. Bu yasa, insanları korurken inovasyonun gelişmesine olanak tanıyan net kurallar getirmiştir. Ancak doğru araçlar olmadan yasaya uymak zor olabilir.

Bir işletme yapay zekâ kullanıyorsa, bu yeni yasaya hemen hazırlanmalıdır. Ne kadar beklenirse, süreç o kadar zor ve maliyetli hale gelir.

Yavuz Akbulak

Yavuz Akbulak
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
• Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
• Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
• Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte),
• Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve
• Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte)
başlıklı kitapları yayımlanmıştır.
• Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003),
• Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004)
ile
• Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II;
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021);
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021);
• Sosyal Bilimlerde Güncel Gelişmeler (2021);
• Ticari İşletme Hukuku Fasikülü (2022);
• Ticari Mevzuat Notları (2022);
• Bilimsel Araştırmalar (2022);
• Hukuki İncelemeler (2023);
• Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024);
• Hukuka Giriş (2024);
• İşletme, Pazarlama ve Hukuk Yazıları (2024),
• İnterdisipliner Çalışmalar (e-Kitap, 2025)
başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 3 bini aşkın Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.