Giriş
Eğer bir şirket hâlihazırda yapay zekâ kullanmıyorsa yakın gelecekte kesinlikle kullanacaktır. Ancak bu, bir düğmeyi çevirmeye benzemez ve bunu yanlış yapmak, özellikle de sıkı denetime tabi finans sektöründe kuruluşunuzu aşırı riske maruz bırakabilir.
Amerika Birleşik Devletleri Menkul Kıymetler ve Borsa Komisyonu (SEC) Başkanı Gary Gensler, Şubat ayında (2024) yaptığı bir konuşmada[1], yapay zekânın finans sektöründeki potansiyelini övdü ancak riskleri konusunda da uyardı: “Yapay zekâ, modelleri bulmak ve tahminlerde bulunmak için matematik, veri ve hesaplama gücünü kullanmakla ilgilidir. İnsanlık için muazzam fırsatların kapısını aralıyor. Makineler örüntü tanımayı üstlendikçe, özellikle de geniş ölçekte yapıldığında, bu, ekonomi genelinde büyük verimlilikler yaratabilir. Finans alanında, daha fazla finansal katılımın ve gelişmiş kullanıcı deneyiminin potansiyel faydaları vardır. (…) Yapay zekâ aynı zamanda yeni olmayan ancak onun tarafından vurgulanan bir dizi konuyu da gündeme getiriyor.”
Yapay zekânın burada olduğuna ve burada kalacağına hiç şüphe yoktur. Şirketlerin yaklaşık %75’i[2] (yüzde 75) hâlihazırda yapay zekâ kullanmakta ve/veya ürün teklifleri aracılığıyla sağlamakta ve 2030 yılına kadar aşırı bir büyüme öngörülmektedir[3]. Yapay zekâyı kullanmak, henüz başlamamış kuruluşlar için göz korkutucu görünse de gelecekte kullanım kaçınılmazdır. Artık uyumlu ve etik yapay zekâ yönetiminin temelini atma zamanıdır.
1. Nereden başlanmalıdır?
Şirkette yapay zekâdan uyumlu ve etik bir şekilde nasıl yararlanılacağını belirlemek için öncelikle yapay zekânın kullanılıp kullanılmadığını, onun nasıl kullanılacağını, onu kullanma amacının ne olduğunu ve ona nereden erişileceğini değerlendirmek önemlidir.
Bir aracın yapay zekâ destekli olabileceğinin işaretleri nelerdir?
- Tavsiyelerde bulunuyor mu, tahminlerde bulunuyor mu veya analiz sağlıyor mu?
- İşletme için bir şeyler yapmak için verileri kullanıyor mu?
- Ürünün pazarlanmasında “kişiye özel”, “uyarlanabilir”, “özel nitelikte” (personalized, adaptive, tailored) gibi sözcükler kullanılıyor mu?
Kim kullanacak?
- Doğrudan bir yapay zekâ modeli mi kullanıyorum (örneğin ChatGPT)?
- Kullandığım bir uygulama yapay zekâdan yararlanıyor mu (örneğin Zoom’un yapay zekâ arkadaşı)?
- Tedarikçilerim yapay zekâ kullanıyor mu?
Bu nasıl kullanılacak?
- Mevcut bir yapay zekâ modelini mi kullanıyorum (örneğin yapay zekânın etkin olduğu bir işe alım platformu)?
- Yeni bir yapay zekâ modeli mi geliştiriyorum?
- Büyük veri mi işliyorum?
Amaç nedir?
- Dâhili operasyonel görevler için bir yapay zekâ modeli kullanıyor muyum (örneğin, Ramp’ın önerilen gider kodlama yetenekleri)
- Müşteriye yönelik işler için bir yapay zekâ modeli mi kullanıyorum (örneğin, Beautiful.ai)?
- Ürünüme veya teklifime bir yapay zekâ modeli ekliyor muyum?
Araç nerede?
- Araca nasıl erişiyorum (örneğin web sitesi, API, bulut)?
- Araç özel mi yoksa herkese açık mı?
Bu makalenin amaçları doğrultusunda, şirketin iç ve dış faaliyetleri desteklemek için artık mevcut bir yapay zekâ modelinden yararlanacağı senaryolara odaklanalım.
2. Yapay zekâ modellerinin kullanılmasıyla ilişkili riskler
Daha önce de belirtildiği gibi SEC, yapay zekâyı benimsemenin hem firmalara hem de yatırımcılara fayda sağlayabileceğini, ancak aynı zamanda yeni ve benzersiz riskler oluşturabileceğini ve “bu teknolojilerin yatırımcılara eskisinden daha geniş çapta zarar verecek şekilde kullanılmasıyla ilişkili çıkar çatışması potansiyelini artırabileceğini” kabul ediyor. Bu nedenle, bu yeni faaliyetlerin mevcut (ve sürekli büyüyen) düzenlemelerle uyumlu olmasını sağlamak için yasal uyum yükümlülüklerini yapay zekânın benimsenmesi merceğinden yeniden gözden geçirmek önemlidir.
2.1. Gizlilik ve veri gizliliği (confidentiality & data privacy)
Yapay zekâ modelleri, aldığı girdilere göre çıktılar üretir. Bir yapay zekâ modeli yalnızca sağlanan bilgiler kadar güçlüdür ve sonuçları güçlendirmek için çok miktarda veriye dayanır. Benzersiz verimlilik yaratma fırsatına sahip olan insanlar, hayatın her alanında yapay zekâ modellerini benimsemeye isteklidir. Sorun, bir yapay zekâ modelinden bir çıktı alırken, kişinin yararlı bir nihai ürün elde etmek için gizli [yani özel, kişisel, hassas, tescilli (private, personal, sensitive, proprietary)] bilgilerden yararlanmasını gerektirdiğinde ortaya çıkar. Sonuçtan bağımsız olarak, kullanılan yapay zekâ modeline bağlı olarak, paylaşılan bilgiler artık yapay zekâ modelini eğitmek için kullanılabilir ve şu veya bu şekilde gelecekteki bir kullanıcıya sunulabilir ki; bu, Samsung’un[4] çalışanların ChatGPT kullanımını yasaklamasına yol açan endişelerden sadece biridir.
Tersine, bir kişi bir yapay zekâ modelinden yararlandığında, alınan çıktı, birisinin daha önce paylaştığı gizli veya özel bilgiler olabilir ve bu da, artık potansiyel olarak hassas verilere sahip olduğunuz için başka bir dizi soruna yol açabilir. Ayrıca, telif hakkıyla korunan ve/veya tescilli firma içeriği üretmek isteniyorsa, bir yapay zekâ modelinden yararlanılan materyal, daha önce telif hakkıyla korunan materyallerin bir türevi olabileceğinden telif hakkı tarafından korunmayabilir. Bu son nokta, New York Times gazetesinin yakın zamanda OpenAI ve Microsoft’a telif hakkı ihlali nedeniyle dava açmasıyla[5] özellikle haber değeri taşımaktadır.
2.2. Kalite
Büyük yapay zekâ platformları, hizmetlerinin bazen hatalı sonuçlar sağladığını kabul ediyorlar ki; bu, hem OpenAI hem de Google’nin kendi üretken yapay zekâ ürünleri hakkında kabul ettiği bir şeydir. Yapay zekâ modelleri, veri girişleri aracılığıyla eğitilir ve bu veri girişleri eski, yanlış, yanıltıcı ve hatta önyargılı veya saldırgan olabilir.
Kalitenin bozulmasıyla birlikte birçok sorun ortaya çıkabilir. Yeni başlayanlar için, pazarlama materyallerine dâhil edilen yapay zekâ modeli çıktıları, iddiaların kanıtlanamaması durumunda yatırımcıları yanlışlıkla yanıltabilir ve SEC pazarlama kuralını ihlal edebilir. Ayrıca, işi yürütmek için yanlış bir yapay zekâ modeli çıktısından yararlanma seçilirse, bu durum faaliyetleri yanıltabilir ve standartların altında iş ürünlerine ve itibar riskine yol açabilir. Son olarak yapay zekâ modelleri, bir danışmanın müşterilerine karşı güvene dayalı görevini ve/veya bir yatırımcının ilgili tüm uygunluk faktörlerini dikkate almayan yatırım önerilerinde bulunabilir.
2.3. Etik hususlar (ethical considerations)
İşe alım sürecinde önyargının azaltılmasıyla ilgili önceki bir makalede, önyargının varlık yönetiminin her katmanında devam ettiğini paylaşmıştım. Daha sonra, yasal uyum ve risk açısından (yapılacak en doğru şey olması dışında) işe alım sürecindeki (ve daha sonraki bir makalede tedarikçi seçim süreci) önyargının azaltılmasının neden en önemli öncelik olması gerektiğini paylaştım. Buna paralel olarak Stanford SPARQ tarafından yürütülen bir araştırmada[6], varlık tahsis edenlerin ırksal açıdan farklı ekiplerin yetkinliğini ölçmede sorun yaşadığı, bunun da kişinin en uygun yatırım kararlarını verme yeteneğini etkilediği ortaya çıkarılmıştır.
Önyargının panzehirlerinden biri yavaşlamak ve süreçler boyunca sürtüşmeler yaratmak olsa da, finansal hizmetler sektörü verimliliği artırmak ve işimizi yapma hızımızı hızlandırmak için yapay zekâ modellerini uyguluyor. ‘Vox’un bildirdiğine[7] göre “veri kümesinin önyargısı, yalnızca daha büyük sistemik önyargıların bir yansıması olabilir” ve hâlihazırda önyargılı bilgilerin yapay zekâ modellerine girilmesi, önyargıları büyütür ve yaratabilecekleri zararı sürdürür. Ayrıca kontrol edilmeyen önyargılarla çalışmanın getirdiği yasal, düzenleyici ve performans riskini de artırır.
Yapay zekâdaki önyargıya ilişkin yaygın farkındalık yeni olmaktan uzak olsa da, yapay zekânın benimsenmesinin artmasıyla birlikte, yapay zekâdaki önyargının bizi yanlış yönlendirdiği senaryoların sayısı da artmaktadır. Bunun iki örneği arasında ‘Rite Aid’in[8] ırksal ve cinsiyete dayalı yapay zekâ yüz tanıma teknolojisi ve ‘Uber’in[9] ırksal olarak önyargılı yüz tanıma kontrolleri yer almaktadır. Buna ek olarak, ChatGPT hakkında da çalışmalar ortaya çıkmıştır; örneğin, biri özgeçmiş sıralamasında ırksal bir önyargıyı ortaya koyuyor, diğeri ise hemşireler ile ilgili soruları yanıtlamada cinsiyet yanlılığını gösteriyor.
3. Peki, buradan nereye gidiliyor?
- Firma çapında bir yapay zekâ politikası uygulanması (implement a firmwide AI policy): Çalışanların yapay zekâ modellerini kullanmayla ilgili riskler ve yönergeler konusunda bilgilendirilmesi gerekir. Hâlihazırda onaylanmış tüm yapay zekâ modelleri ve her bir modelle ilgili olarak izin verilen veya yasaklanan belirli etkinlikler dâhil edilmelidir. Tüm çalışanlar yapay zekâ politikası konusunda tutarlı bir şekilde eğitilmelidir.
- Kullanmadan önce yapay zekâ modelleri üzerinde durum tespiti yapılması (conduct due diligence on AI models prior to use): Hâlihazırda kullanılan ve gelecekteki teknolojiler için en azından aşağıdaki soruların yanıtları öğrenilmelidir: Bu yapay zekâ modeli verilerimden öğrenecek mi veya verilerimden eğitim alacak mı? Bu ayarın dışında kalabilir miyim? Verilerimin sahibi ve kontrolü bana mı ait? Çıktıları olası önyargılara karşı nasıl kontrol edebilirim? Ayrıca, çıkar çatışmaları ile güvene dayalı görevin ihlalini önlemek için bir danışman, yatırım tavsiyesi sağlama konusunda yalnızca yapay zekâya güvenilmemelidir. Yatırım önerilerini desteklemek için bir yapay zekâ modelinin kullanımı onaylanırsa, çıktıların şeffaf ve açıklanabilir olmasını sağlamak için firmanın araçların karar alma süreçlerine ilişkin derinlemesine bir anlayış kazanması zorunludur.
- Yasaklanan faaliyetler ile ilgili net yönergeler belirlenmesi (set clear guidelines around prohibited activities): Gizli bilgilerin kötüye kullanılması büyük sonuçlara yol açabilir. Bir yapay zekâ modeline herhangi bir bilgi girmeden önce, sahip olunabilecek veri gizliliği korumaları göz önünde bulundurulmalıdır. Gizlilik politikaları, gizlilik bildirimleri, gizlilik sözleşmeleri vb. kapsamında paydaşlara karşı ne gibi yükümlülüklerim var? Gerektiğinde önerilen kullanımımı açıkladım ve ilgili tarafların onayını aldım mı? Hangi otoriteler tarafından denetleniyoruz ve verilerin işlenmesi konusunda herhangi bir kısıtlama var mı? Ayrıca hizmet sağlayıcıları ve daha geniş tedarik zinciri gözden geçirilmelidir. Bunlardan herhangi biri verilerini yapay zekâ modellerinde kullanıyor mu? Yapay zekâ politikası firmanın duvarlarının dışındakilere nasıl uygulanabilir? Bir yapay zekâ modeliyle bilgi paylaşmaya karar verildiyse firmanın ayrıca kullanılması yasak olan herhangi bir bilgi türü olup olmadığının da belirlemesi gerekir. Örneğin, bir yapay zekâ modeli daha önce anonimleştirilmiş bir veri kümesi olarak girilen bilgileri ayrıştırabilir ve/veya tanımlayabilir mi? Belirli bilgileri bir yapay zekâ modeliyle paylaşmak, değer teklifini veya katma değeri daha geniş sektörle paylaşmaya eşdeğer olabilir mi?
- Çıktıların geçerliliğinin onaylanması (confirm validity of outputs): Yapay zekâ modeli çıktılarının insan tarafından incelenmesi önemlidir. Bilgilerin gerçek, kesin ve kanıtlanabilir olduğunu doğrulamak için saygın kaynaklar belirlenmeli ve doğrulanamayan yanıtlar kullanılmamalıdır.
Defter ve kayıt gereksinimleri (books & records requirements): Defter ve kayıt gereksinimleri nelerdir ve yapay zekâ modeli, kayıtların doğru ve eksiksiz tutulmasına olanak tanıyor mu? Hangi faaliyetlerin kaydedilmesi gerekir ve çalışanlar gereksinimlere uygun çıktıları nasıl sunar?
[1] <https://www.sec.gov/news/speech/gensler-ai-021324>
[2] <https://www.accenture.com/content/dam/system-files/acom/custom-code/ai-maturity/Accenture-Art-AI-Maturity-NA.pdf>
[3] <https://www.grandviewresearch.com/industry-analysis/artificial-intelligence-ai-market>
[4] <https://www.bloomberg.com/news/articles/2023-05-02/samsung-bans-chatgpt-and-other-generative-ai-use-by-staff-after-leak?leadSource=uverify%20wall&embedded-checkout=true>
[5] <https://www.nytimes.com/2023/12/27/business/media/new-york-times-open-ai-microsoft-lawsuit.html>
[6] <https://www.pnas.org/doi/10.1073/pnas.1822052116>
[7] <https://www.vox.com/technology/23738987/racism-ai-automated-bias-discrimination-algorithm>
[8] <https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using-ai-facial-recognition-after-ftc-says-retailer-deployed-technology-without>
[9] <https://peopleofcolorintech.com/articles/black-uber-eats-driver-wins-payout-over-biased-facial-recognition-checks/>
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu [merhume Anası (1947-10 Temmuz 2023) Erzurum/Aşkale; merhum Babası ise Ardahan/Çıldır yöresindendir]. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte);
Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte) başlıklı kitapları yayımlanmıştır.
Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003), Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004) ile Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II, Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021), Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021), Sosyal Bilimlerde Güncel Gelişmeler (2021), Ticari İşletme Hukuku Fasikülü (2022), Ticari Mevzuat Notları (2022), Bilimsel Araştırmalar (2022), Hukuki İncelemeler (2023), Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024), Hukuka Giriş (2024) başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 2 bin 500’ü aşan Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.