Finansal İstikrar Kurulu [Financial Stability Board-FSB], geçen Kasım ayında (2024) yapay zekânın finansal istikrar üzerindeki etkileri hakkında aydınlatıcı bir rapor yayınlamıştır[1]. Raporda, yapay zekânın finansal istikrarı riske atabileceği dört temel yol belirlenmiş ve bunlar sonraki dört bölümde özetlenmiştir. Özellikle, yapay zekâ üçüncü taraf bağımlılıklarına, artan piyasa korelasyonlarına, artan siber risklere ve zayıf yapay zekâ modeli yönetişimine yol açabilir. Bu yazıda, söz konusu dört faktörü inceleyip ardından, yapay zekâya ulaşma yarışının ortaya çıkardığı belirli güvenlik açıklarına dair kendi analizimizle sonuca varıyoruz.
- Yapay Zekânın Finansal İstikrarı Riske Atabileceği Temel Yollar
1.1. Üçüncü taraf bağımlılıkları ve hizmet sağlayıcı yoğunluğu [third-party dependencies and service provider concentration]
Bankalar ve finans kuruluşları, yüksek performanslı donanım ve bulut hizmetleri için giderek daha fazla sayıda büyük sağlayıcıya bağımlı hale gelmektedir. Bu durum, tek bir sağlayıcının kesintiye uğramasının yaygın bir finansal istikrarsızlığa yol açabileceği için tekil arıza noktaları oluşturmaktadır. Kritik bir yapay zekâ veya bulut hizmeti sağlayıcısında kesinti yaşanırsa, birden fazla finans kuruluşu aynı anda muamele işleme gibi temel hizmetlere erişimi kaybedebilir. Bu da finans piyasalarında ani likidite sıkıntıları, ödeme kesintileri ve yaygın bir güven kaybı yaşanmasına neden olabilir. Finans düzenleyici otoritelerinin, bu yoğun bağımlılıklara yönelik risk çerçevelerini hızla uyarlarken, gözetimlerini kritik üçüncü taraf teknoloji sağlayıcılarını da kapsayacak şekilde genişletmeleri gerekebilir.
1.2. Piyasa korelasyonları [market correlations]
Benzer yapay zekâ modellerinin yaygın olarak benimsenmesi, karar alma süreçlerindeki korelasyonları artırabilir. Birçok banka ve yatırımcı aynı veriler üzerinde model eğitirse veya aynı üçüncü taraf yapay zekâ çözümlerini kullanırsa, stratejileri ve risk değerlendirmeleri senkronize hale gelebilir. Dolayısıyla, bu benzer modeller beklenmedik piyasa olaylarıyla karşılaştığında, toplu satışlar veya kredi standartlarının sıkılaştırılması gibi benzer kararlar önerebilirler. Bu tür senkronize eylemler, piyasa istikrarsızlığını muhtemelen artıracaktır. Örneğin, bir şok senaryosunda, yapay zekâ destekli sistemlerin tümü aynı varlıkları riskli olarak işaretleyebilir veya satış emirlerini birlikte uygulayarak fiyat düşüşlerini ve likidite sıkışıklıklarını daha da kötüleştirebilir.
Bu arada, yapay zekâ, sistemik finans krizlerinin hızını ve karmaşıklığını değiştirmektedir. Bir zamanlar günler içinde ortaya çıkan olaylar, yapay zekâ destekli karar alma süreçleri sayesinde artık dakikalar içinde gerçekleşebilmektedir. Bu hızlanma, yapay zekâ modellerinin piyasa sinyallerini hızla yorumlayıp bunlara yanıt vermesi ve risk kararlarını (varlık satışı veya kredinin sınırlandırılması gibi) finansal ağ genelinde benzeri görülmemiş hızlarda yayması sayesinde gerçekleşmektedir.
Nispeten istikrarlı piyasa koşulları varsayan geleneksel stres testi çerçeveleri, yapay zekâ sistemlerinin tetikleyebileceği ani ve büyük ölçekli yeniden değerlemeler için uygun değildir. Dahası, daha yavaş ve ayrıntılı veri toplama kullanan gözetim amaçlı izleme yaklaşımları, gerçek zamanlı, algoritmik karar alma süreçlerine ayak uyduramayacaktır.
1.3. Siber riskler [cyber risks]
Yapay zekâ kullanımı, saldırganların yüksek veri kullanımından ve yapay zekâ sistemleriyle yeni etkileşimlerden yararlanmasıyla siber saldırı riskini artırabilir. Özellikle üç temel zorluk ortaya çıkar:
(i) Bilgisayar korsanları için daha geniş bir saldırı yüzeyi [a broader attack surface for hackers],
(ii) Veri zehirlenmesi [data poisoning] ve
(iii) Daha ciddi dolandırıcılık ve sahtekârlık mekanizmaları [more severe scams and fraud mechanisms].
Bir bankaya entegre edilen her yapay zekâ sistemi, özellikle harici veri kaynaklarına veya bulut hizmetlerine bağlı olanlar, bilgisayar korsanları için potansiyel bir giriş noktası haline gelir. Yapay zekâ entegrasyonu, modern siber tehditlere karşı savunmasız açık arayüzler ve karmaşık veri hatları sunar. Daha geniş saldırı yüzeyi, ister üçüncü taraf yapay zekâ hizmet sağlayıcılarına sızma yoluyla ister modellere veri besleyen uygulama programlama arayüzlerini [application programming interface] kötüye kullanma yoluyla olsun, ihlal fırsatlarını artırır. Finans düzenleyici otoritelerinin, gelişmiş siber güvenlik standartlarını ve gerçek zamanlı tehdit izlemeyi düzenleyici çerçevelere entegre etmeleri gerekecektir.
Dahası, yapay zekânın kendisi de yeni saldırı vektörleri ortaya çıkarır. Saldırganlar, model çıktılarını kendi lehlerine çevirmek için eğitim verilerini bozabilir. Zehirli eğitim verileri, risk değerlendirmelerini sistematik olarak çarpıtarak, birbirine bağlı finansal sistemlerde ardışık başarısızlıklara yol açabilir. Bu nedenle, finansal düzenleyici otoriteler artık yapay zekâ eğitim süreçlerinin bütünlüğünü ve buna bağlı olarak hızla değişen tehdit koşulları altında model çıktılarının güvenilirliğini ele almalıdır.
Son olarak, yapay zekâ sistemleri, çalışanları ve müşterileri kandırmak için ikna edici kimlik avı e-postaları, sahte kişiler ve deepfake [derin yanılsama] ses/görüntüler oluşturmak amacıyla kullanılabilir ve bu da sosyal mühendislik saldırılarını büyük ölçekte daha etkili hale getirir. Bu nedenle, finansal düzenleyici otoriteler, dinamik ve karmaşık yapay zekâ destekli siber tehditlere karşı koymak için protokolleri sürekli güncellemekle yükümlüdür.
1.4. Model riski, veri kalitesi ve yönetişim [model risk, data quality, and governance]
Gelişmiş yapay zekâ modellerinin karmaşıklığı ve şeffaf olmayışı, önemli model riski zorlukları yaratmaktadır. Birçok yapay zekâ algoritması, şeffaf olmayan karar alma mantığına sahip “kara kutular” gibi çalışmaktadır. Bu durum üç soruna yol açmaktadır:
(i) Yanlış finansal sinyaller [incorrect financial signals],
(ii) Yapay zekâ destekli işlemler/alım-satım [AI-driven trading] ve
(iii) “Yönetişim açığı” [governance gap].
Yapay zekâ modelleri, özellikle de büyük dil modelleri, hatalı veya yanıltıcı değerlendirmeler üreten “halüsinasyonlara” eğilimlidir. Ancak, şeffaf olmamaları, düzenleyici otoritelerin hataları tespit etmesini zorlaştırır çünkü yapay zekâ modellerinin sonuçlarına nasıl ulaştığını kolayca denetleyemez veya doğrulayamazlar. Yapay zekâ odaklı kararların incelenememesi, hatalı risk değerlendirmelerinin tespit edilmesini ve düzeltilmesini geciktirir. Sonuç olarak, hatalı finansal sinyaller sorgulanmadan kalabilir ve bu da hataların kurumlar arasında yayılmasına ve piyasaların istikrarsızlaşmasına yol açabilir.
Dahası, yapay zekâ destekli alım satım işlemleri, piyasa manipülasyonunun tespit edilmesini, anlaşılmasını ve önlenmesini zorlaştırır. Geleneksel gözetim, tanınabilir suiistimal kalıplarının belirlenmesine dayanır, ancak yapay zekâ modelleri, geleneksel tespit yöntemlerinden kaçınmak için uyarlanabilir stratejiler geliştirebilir. Dolayısıyla, yapay zekâ modelleri insan gözetiminin ötesinde hızlarda çalıştığından, finansal düzenleyici otoriteler, ultra hızlı piyasa dinamiklerini ve yeni manipülasyon biçimlerini yakalayabilen gerçek zamanlı izleme araçları geliştirmek zorundadır.
Dahası, Avustralya Menkul Kıymetler ve Yatırım Komisyonu’nun [Australian Securities and Investment Commission] 23 finansal lisans sahibinin yapay zekâ kullanımına ilişkin yakın tarihli bir incelemesinde, şirketlerin risk ve uyumluluk çerçeveleri güncellenmeden daha hızlı yapay zekâyı benimsemesi nedeniyle bir “yönetişim açığı” [governance gap] ortaya koyulmuştur[2]. İyileştirilmiş risk çerçeveleri olmadan hızlı bir benimseme, tüketicileri ancak zarar meydana geldikten sonra ortaya çıkan olası hatalara ve önyargılara maruz bırakır. Nitekim net bir gözetim ve risk yönetimi çerçeveleri olmadan, yapay zekâ karar alma süreçleri (otomatik kredi kararları veya kişiselleştirilmiş finansal danışmanlık gibi) belirli tüketici gruplarına karşı sistematik olarak ayrımcılık yapabilir, tüketicilere zarar verebilir ve mevcut ayrımcılığı önleme ve adalet kurallarını ihlal edebilir.
Yapay zekâ sistemleri, kişisel verileri veya davranışsal önyargıları istismar ederek tüketicileri uygunsuz finansal ürünlere yönlendirebilir veya kendi zararlarına daha yüksek kârlar elde edebilir. Ayrıca, yetersiz gözetlenen yapay zekâ sistemleri, hassas tüketici verilerini kötü yönetebilir veya ifşa ederek gizlilik ihlallerine yol açabilir ve tüketici güvenini zedeleyebilir. Bu riskler, yapay zekânın çalışma hızıyla daha da artar; bu da tüketicilere verilen herhangi bir zararın, düzeltici önlemler veya düzenleyici gözetim uygulanmadan önce hızla yayılabileceği anlamına gelir.
- Genel Yapay Zekâ Yarışı
Finansal İstikrar Kurulu tarafından tespit edilen bu güvenlik açıkları ve risklerin yanı sıra, önümüzdeki birkaç yıl içinde[3] Genel Yapay Zekâ [artificial general intelligence] geliştirme yarışında ortaya çıkabilecek diğer riskleri de göz önünde bulunduruyoruz. Dünya çapındaki teknoloji devleri, birincil hedefleri[4] olan Genel Yapay Zekâyı geliştirmek için yüzlerce milyar dolar yatırım[5] yapıyor. Amerika Birleşik Devletleri-Çin Ekonomi ve Güvenlik İnceleme Komisyonu, Genel Yapay Zekâyı geliştirmek için Manhattan Projesi gibi bir programın[6] geliştirilmesini bile teşvik etmiştir.
En azından, Genel Yapay Zekâ yukarıda tartışılan riskleri büyütebilir. Son derece gelişmiş ve otonom yapay zekâ modelleri olan Genel Yapay Zekânın ortaya çıkışı, finansal düzenleyici otoritelerin ekonomik istikrarı ve piyasa adaletini koruma becerisini aşabilir. Ancak daha da çarpıcı olanı, Genel Yapay Zekânın daha önce hiç görülmemiş bir hız ve ölçekte yaygın iş gücü kaybı tehdidi oluşturmasıdır. Genel Yapay Zekâ, ekonomik açıdan değerli birçok rolde insanları hızla geride bıraktıkça, iş gücünün büyük bir kısmı hızla işsiz kalabilir. Bu durum, tüketici talebini yerle bir edebilir ve geleneksel parasal ve finansal müdahaleleri geride bırakabilecek keskin durgunluklara yol açabilir.
Alternatif olarak, yapay zekâyı çevreleyen yoğun spekülatif çılgınlık, yapay zekânın iddialı vaadini yerine getiremezse, ekonomi, dot-com balonu gibi önceki teknoloji balonlarını anımsatan, ancak onlardan daha büyük bir yapay zekâ destekli balonla yüz yüze kalma riskiyle karşı karşıyadır. Dünya çapındaki yatırımcılar, yapay zekâ yarışına eşi benzeri görülmemiş tutarda para akıtmaktadır. Bu teknolojik atılım gerçekleşmezse, güven çökebilir ve yatırımcı paniğine, büyük varlık satışlarına ve önemli finansal kayıplara neden olabilir. Yapay zekâ şirketlerindeki gerçekçi olmayan değerlemelerin düşmesi, finans piyasalarını ciddi şekilde istikrarsızlaştırabilir, tüketici ve işletme güvenini aşındırabilir ve ekonomik durgunluğa yol açabilir.
Dolayısıyla Genel Yapay Zekâya ulaşsak bile ulaşma yarışı finansal istikrar açısından önemli zorluklar yaratabilir.
[1] The Financial Stability Implications of Artificial Intelligence, Financial Stability Board, 14 November 2024, < https://www.fsb.org/uploads/P14112024.pdf >.
[2]<https://www.asic.gov.au/about-asic/news-centre/find-a-media-release/2024-releases/24-238mr-asic-warns-governance-gap-could-emerge-in-first-report-on-ai-adoption-by-licensees/ >.
[3] < https://www.anthropic.com/news/anthropic-s-recommendations-ostp-u-s-ai-action-plan >.
[4]<https://www.theverge.com/2024/1/18/24042354/mark-zuckerberg-meta-agi-reorg-interview >.
[5] < https://openai.com/tr-TR/index/announcing-the-stargate-project/ >.
[6]<https://www.uscc.gov/sites/default/files/2024-11/2024_Comprehensive_List_of_Recommendations.pdf >.
Yavuz Akbulak
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
• Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
• Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
• Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte),
• Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve
• Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte)
başlıklı kitapları yayımlanmıştır.
• Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003),
• Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004)
ile
• Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II;
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021);
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021);
• Sosyal Bilimlerde Güncel Gelişmeler (2021);
• Ticari İşletme Hukuku Fasikülü (2022);
• Ticari Mevzuat Notları (2022);
• Bilimsel Araştırmalar (2022);
• Hukuki İncelemeler (2023);
• Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024);
• Hukuka Giriş (2024);
• İşletme, Pazarlama ve Hukuk Yazıları (2024),
• İnterdisipliner Çalışmalar (e-Kitap, 2025)
başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 3 bini aşkın Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.