Üretken yapay zekâ (generative artificial intelligence), değişimi hızlı bir şekilde hızlandırıyor ancak ilgili riskler ile ilgili pek çok soru mevcuttur. Üretken yapay zekâ hakkında o kadar çok şey yazıldı ki, bunlar hem merak hem de korku uyandıran sürekli bir vızıltı gibi görünüyor. Geçen yıl McKinsey firmasında düzenlenen bir web seminerine göre, değer planı oldukça çekicidir:
- Üretken yapay zekâ, performansı artırmaya ve satış ve pazarlama, ürün araştırma ve geliştirme, müşteri operasyonları, yazılım mühendisliği ve diğer iş işlevlerinden 4,4 trilyon dolara[1] kadar değer elde etmeye hazırlanmaktadır.
- Verimlilik artışı son 20 yılda azalmış olup, üretken yapay zekâ ve diğer teknolojilerin önümüzdeki 20 yıl içinde yeni bir verimlilik artışı dalgası yaratması beklenmektedir.
- Küresel iş gücünün %70’e (yüzde yetmiş) yakını, iş fonksiyonlarının yarısına kadarını otomatikleştirme potansiyeline sahiptir, bu da potansiyel olarak onlara daha karmaşık ve ilginç işler yapma olanağı sağlamaktadır.
Kuşkusuz, bu tür iddialar aşırı hızlanmış abartılı bir reklam makinesinin iddiaları olarak görülebilir. Ancak pek çok kişi yapay zekânın insanların çalışma, öğrenme, oyun oynama ve birbirleriyle iletişim kurma şeklini nasıl değiştireceği konusundaki olasılıkları överken, birçok üst düzey yönetici ve yönetim kurulu odasında bir gerçek giderek odağa çıkıyor: Yapay zekâ, müşteri deneyimlerini iyileştirecek, süreç verimliliğini artıracak, ürün ve hizmetlerde yenilik yapacak ve tüm sektörlerde üretkenliği artıracak şekillerde veri ve analitiği kullanma potansiyeline sahiptir.
Ancak dikkate alınması gereken riskler ve sınırlamalar vardır. Dezenformasyon ve yanlış bilgilendirme riskleri, alarmı körükleyen ve düzenleme çığlıklarını körükleyen, sürekli genişleyen potansiyel, korkunç suiistimallerden oluşan bir listeyi kapsıyor. Sonuç olarak yasa yapıcılar, düzenleyici otoriteler ve sosyal kurumlar yapay zekâ gelişiminin hızına yetişmek için mücadele ediyor.
Ama kedi çantadan çıkmıştır. Üretken yapay zekâ ve büyük dil modelleri (large language models) kalıcıdır. Üst düzey yöneticiler ve yönetim kurulu üyeleri için bu modellerin fırsatlarını, sınırlamalarını ve risklerini anlamak artık bir risktir. Teknolojinin erişilebilirliği göz önüne alındığında, yöneticiler ve direktörler bu teknolojiye el atmalı ve kendilerini bu teknolojiye kaptırmalıdır. Temel bir anlayışla donanmış olan yönetici ekipler ve direktörler, üretken yapay zekâ ve büyük dil modelleri ile ilgili stratejik görüşmelere katılırken aşağıdaki 10 soruyu dikkate almalıdır:
1. İş fırsatı nedir?
Bu önemli “Neden önemsemeliyiz?” sorusunun hem stratejik hem de taktiksel olarak ele alınması gerekir. Ancak rakipler yapay zekâyı uygulayıp ölçeklendirirken oturup izlemeyi seçen kuruluşlar için bu aynı zamanda bir hayatta kalma meselesi de olabilir. İş dünyasının hızı, yıkıcı değişim ve aşırı bilgi yüklemesi hakkında çok şey yazılmıştır. Yapay zekânın, hızla değişen küresel ekonomide hızla uyum sağlamak, yenilikçiliği teşvik etmek ve sürdürülebilir rekabet avantajı oluşturmak için gerçekten neyin önemli olduğunu belirlemek üzere sürekli genişleyen veri yığınını kesecek bir çözüm sunması ihtimali caziptir.
Yapay zekânın değer önerisini değerlendirirken karar vericiler, bunun uygulanmasının verilerden ve sonuçlardan neredeyse gerçek zamanlı olarak öğrenmeyi nasıl kolaylaştırabileceğine odaklanmalıdır. Üretken yapay zekâ ve büyük dil modellerinin sektöre etkilerini ve rakiplerin teknolojiyle neler yaptığını anlamaya çalışmalıdırlar. Son olarak üretken yapay zekâ ve büyük dil modelleri ve gelişmiş analitiğin iş dünyasında nerede rol oynayabileceğini daha geniş bir şekilde değerlendirmeleri gerekmektedir.
2. Stratejimiz nedir?
Üretken yapay zekânın ölçeklendirilmesi, pazara değer sunmak için iş modelinin dönüştürülmesinden arka ofis süreçlerindeki taktiksel üretkenlik iyileştirmelerine kadar uzanan stratejik bir bakış açısıyla başlar. Üretken yapay zekâ ve büyük dil modelleri için stratejik vizyonu değerlendirirken aşağıdaki faydalı sorular yer almaktadır:
- Neden, nerede, nasıl ve ne zaman konuşlandırılacağına dair bir stratejimiz var mı? Hangi kullanım örneklerini değerlendiriyoruz ve bunları nasıl seçip önceliklendiriyoruz? Katkıda bulunulan değeri nasıl ölçüyoruz?
- Stratejimizi hayata geçirmek için uygun şekilde organize olmuş muyuz? Çalışanlarımızı teknolojiyi oluşturma, eğitme ve kullanma konusunda nasıl güçlendiriyoruz? Uygulamayı kuruluş çapında nasıl ölçeklendiriyoruz?
- Kuruluşumuzun gizlilik, güvenlik, şeffaflık ve insan-makine sorumlulukları gibi konularda teknolojinin dağıtımına ilişkin yönergelerini ve değerlerini belgeledik mi? Politikalarımız üretken yapay zekânın ‘klasik yapay zekâ’dan farklı şekilde yönetilmesi ve yönetilmesi ihtiyacını hesaba katıyor mu?
- Değerlerimize bağlı kaldığımızı nasıl bilebiliriz? Örneğin, tüm plan ve eylemleri inceleyen ve istenmeyen sonuç ve sonuçları izleyen, işlevler arası bir etik komitemiz var mı?
Yukarıdaki sorulara dair içyüzünü anlamayı kazanmak, yönetici ekiplerin ve yönetim kurulunun üretken yapay zekânın işte nasıl ve neden konumlandırıldığını anlamasını sağlar. En önemlisi, üretken yapay zekânın tüm kullanımlarının kritiklik açısından eşit yaratılmadığının ve aynı derecede gözetim gerektirmediğinin kabul edilmesidir.
3. Ele almamız gereken yasal, düzenleyici ve etik sorunlar nelerdir?
Üretken yapay zekâ, potansiyel siber, gizlilik ve toplumsal riskler nedeniyle ulusal, eyalet ve yerel düzeydeki düzenleyici otoritelerin ve politika yapıcıların yanı sıra diğer paydaşların da radarındadır. Yasal ve düzenleyici ortam ülkeye ve bölgeye göre değişir:
- Hâlihazırda devam eden yasal girişimler ve dünya çapında ortaya çıkan risk çerçeveleri nedeniyle, yönetim ekipleri ve yönetim kurulu, yönetimin bu pazar gelişmelerini nasıl takip ettiğini araştırmalıdır.
- Geçerli gereksinimler ve yönergeler muhtemelen saydamlık, veri güvenliği, adalet ve önyargının tanınması, hesap verebilirlik, etik hususlar ve sürekli izleme ve iyileştirmeyi içerecek, ancak bunlarla sınırlı olmayacaktır.
- Bu gereksinimler ve yönergeler üretken yapay zekâ çözümlerine ve bunları destekleyen şirketin iç politikalarına dâhil edilmelidir.
Microsoft, Google ve NIST’in de aralarında bulunduğu büyük oyuncular da sorumlu üretken yapay zekâ uygulamalarına ve risk yönetimine ağırlık vermektedir.
4. Üretken yapay zekâ modellerimiz tarafından kullanılan verileri nasıl elde ediyor ve yönetiyoruz?
Kıdemli liderler ve direktörler aşağıdaki konularda bilgi sahibi olmalıdır:
- Kuruluşun (a) kamuya açık modeller ve alanlar, (b) şirket içi özel verilerle hassas şekilde ayarlanmış temel modeller veya (c) tamamen özelleştirilmiş modeller kullanıp kullanmadığı;
- Mevcut veri yönetişimi ve veri yönetimi altyapısının olgunluğu ve hazırlığı,
- Amaca uygun üretken yapay zekâ teknolojisinin ve destekleyici veri çekirdeğinin seçimini veya geliştirilmesini etkileyen kullanım durumlarının doğası ve destekleyici bilişim teknolojisi mimarisi ve veri ekosisteminin birlikte çalışabilirliği ve olgunluğu.
Üretken yapay zekânın gerçek gücü muhtemelen ona şirket içi özel veriler aşılayan şirketlerden gelecektir. Bir şirketin kendi verilerini, üçüncü taraf verilerini veya piyasada genel olarak mevcut olan verileri kullanıp kullanmadığı, modelin risk profilini etkiler.
5. Teknolojiyi uygulamak için ihtiyacımız olan yeteneğe sahip miyiz?
Benimsemenin en önemli zorluklarından biri, gerekli uzmanlığa sahip doğru yeteneği bulmak ve işe almaktır. Yapay zekâ konusunda yetenekli teknik uygulayıcılar, özellikle de şirketin iş gereksinimlerini üretken bir yapay zekâ modeline nasıl dâhil edeceğini anlayanlar azdır. İş liderleri, veri sahipleri, üst düzey program yöneticileri ve geliştiricileri, hukuk ve uyumluluk kaynakları ve operasyonel ekipler dâhil olmak üzere, uçtan uca yapay zekâ gömülü bir sistemi veya süreci yürütmek bir ekip çalışması gerektirir.
Mevcut beceri setleri, bir şirketin dağıtabileceği üretken yapay zekâ modunu büyük ölçüde etkiler. ChatGPT gibi halka açık özellikler herhangi bir özel uzmanlık gerektirmese de çok daha az güvenli, özel ve güvenilirdir. Bu nedenle pek çok şirket büyük olasılıkla orta yolu seçecek, yani az kodlu bir arayüz aracılığıyla daha hafif veri bilimi uzmanlığı gerektiren bir temel modele ince ayar yapacaktır.
6. Deney yapmaya olanak tanıyan bir yönetişim çerçevemiz var mı?
Yöneticiler ve direktörler, sektör ve şirket genelinde üretken yapay zekâ gelişmelerini ve deneylerini denetlemek için organizasyon yapısı da dâhil olmak üzere mevcut yönetişim sürecini sorgulamalıdır. Uyarlanabilir bir üretken yapay zekâ yönetişim çerçevesi, normalde üretken yapay zekâ modellerinin veri, mühendislik, güvenlik ve operasyonel yönlerini temsil eden küçük, işlevler arası, çok disiplinli bir ekip aracılığıyla çalışır. Genel yönetişim, güven ve etik kullanımı, risk yönetimini, üçüncü taraf ekosistemini, yasal uyum ve politikaları, standartları ve kontrolleri içerir. Bir modelden sorumlu olan her ekip, modelin etkililiğinin sorumluluğunu üstlenmelidir.
Herhangi bir teknolojiyi içeren inovasyon, küçükten başlayarak deney yapmayı, yaparak öğrenmeyi, pazardaki inovasyonu takip etmeyi ve katma değerli fırsatlara çevik bir şekilde yanıt vermeyi gerektirir. Bu nedenle üretken yapay zekâ inceleme ve onay süreci zorunludur. Kuruluş çapında uygulamalar çoğaldıkça, CEO (en üst düzeyde yönetici) bu yeteneğin nasıl uygulandığını, nerede kullanıldığını, hangi kararların ve süreçlerin bundan en çok etkilendiğini ve sonuçlarının etkililiğinin kimin sorumluluğunda olduğunu her doğrudan kendisine rapor eden kişiye sormalıdır.
7. Hangi izleme mekanizmalarına sahibiz?
Otomatik uyarılar ve kontrollerle desteklenen insan gözetimi, özellikle model donanım veya yazılıma bağlı olduğunda veya örneğin istihdam, sağlık hizmetlerine erişim veya savunmasız tarafların korunması gibi hassas kararlar üzerinde önemli bir etki olduğunda, herhangi bir üretken yapay zekâ çözümünün ayrılmaz bir parçasıdır. Modeller zaman içinde kaçınılmaz olarak değiştiğinden, güvenilmez veya taraflı içerik açısından periyodik olarak değerlendirilmelidirler.
Buna göre, yönetim ekibi ve yönetim kurulu, yönetimin üretken yapay zekâ modeli sonuçlarının amaçlanan sonuçlarla uyumlu ve düzenleyici koşullarla uyumlu olduğuna dair güvence sağlayan bir süreç uyguladığından emin olmalıdır. Modeldeki korelasyonların karmaşıklığı nedeniyle bu mümkün olmadığında, yapay zekâ tarafından oluşturulan çıktının insan tarafından incelenmesinin yanı sıra kendi kendini kontrol mekanizmalarının yerleştirilmesi bir alternatiftir. İç denetim aynı zamanda kontrol ve denge işlevi de görebilir. Birlikte ele alındığında, etkili izlemenin bu unsurları, karar vericilere anormalliklerin veya hataların ortaya çıktığını gösteren gerçek zamanlı trend uyarıları sağlar ve modelin sürekli iyileştirilmesine olanak tanır.
8. Sorumluluğu nasıl ayarlayacağız?
Modellerin tasarımından, geliştirilmesinden ve işletilmesinden sorumlu olanlar da dâhil olmak üzere model sahipleri, modellerin düzgün işleyişinden sorumlu tutulmalıdır. Sorumluluk bağlamı, üretken yapay zekâ modellerinin yaşam döngüleri boyunca öngörülen, amaçlanan rollerine uygun olarak ve geçerli düzenleyici çerçevelere uygun olarak performans göstermesi anlamına gelir. Yönetim kurulunun bu modellerle ilgili sorusu şudur: Bunların amaçlandığı gibi çalıştıklarını nasıl bileceğiz? Bu nedenle modelin performansı, çalışanın performansı gibi denetlenmelidir. Yukarıda belirtilen izleme mekanizmaları ve yeterli şeffaflığa yapılan vurgu, uygun uygulama politikalarının yanı sıra denetim sürecini de kolaylaştırır.
9. Riskleri nasıl yönetiriz?
Üretken yapay zekâ ve büyük dil modelleri, erken uygulamalarının eksikliklerini ortaya çıkarması nedeniyle sosyal medyaya gömülü sorunları tamamen yeni bir düzeye taşımaktadır. Modellerin sunduğu özetlerin okunması kolay olsa da içeriğin kaynağı ve menşei her zaman açık değildir. Orijinal içeriğin özel içerikten nasıl farklılaştığını ele almak üzere yasal ve düzenleyici ortam ışık hızıyla değiştiğinden, mülkiyet hakları büyük bir endişe kaynağıdır.
Üretken yapay zekâdan alınan çıktının başkalarının fikri mülkiyetini (intellectual property) ihlal etmediğinden nasıl emin olunabilir? Veya tam tersine, şirket fikri mülkiyetinin üretken yapay zekâ modellerinin kullanımı yoluyla yanlışlıkla kamuya açıklanmadığını nasıl bilebiliriz? Bu tür modellerden elde edilen çıktının sahibi kimdir ve bu çıktı telif hakkıyla korunabilir mi? Buna ek olarak, metin ve görsellerin yanı sıra gerçekçi görünebilen ancak yanıltıcı derecede yanlış olan “deepfake” veya görsel veya videolarda sapma ve önyargı sorunları vardır ki; bu da gerçeği kurgudan ayırmayı neredeyse imkânsız hale getirir.
Bu sorunlar yanlış bilgiye (yanlış ve yanıltıcı içeriğe) ve bariz intihallere yol açabilir. Ayrıca, sahte fotoğraflar, videolar ve ses dolandırıcılıkları yoluyla insanları veya belirli kişileri taklit etmek de dâhil olmak üzere, kasıtlı olarak yanıltıcı içerik anlamına gelen dezenformasyona da yol açabilirler. Daha karmaşık siber tehditlere ve aldatıcı sosyal mühendislik stratejilerine kapıyı açıyorlar.
Bir şirket kendi verilerini uygun bir yönetim çerçevesiyle birlikte kullanıyorsa bu daha az sorun haline gelir. Veri seti kontrol edilmediği sürece, sosyal medyada ve başka yerlerde bu kadar yaygın olan yanlış bilgiler, yalanlar, görüşler ve varsayımlar, üretken yapay zekânın yararlandığı yazılı kayıtların bir parçası haline gelebilir. Veri kontrolünün olmayışı yukarıda bahsedilen sahiplik ve telif hakkı sorunlarını da tetiklemektedir.
Buna göre, yönetici ekiplerin ve yönetim kurullarının bu konuların nasıl ele alınacağını anlamaları gerekir. Kapalı kaynaklı bir modeldeki kontrollü veri kümeleri ve üretken yapay zekâ içeriğinin ilişkilendirilmesini gerektiren, şeffaflık ve güven sağlayabilir. Ancak bu aynı zamanda veri kümelerini tanımlayan ve verilerden içerik oluşturmaya yönelik algoritmaları programlayanlar açısından kasıtsız önyargı riskini de beraberinde getirir. Ayrıca, stratejik tedarikçiler, üçüncü taraf sağlayıcılar ve kanal ortakları gibi dış kaynaklardan gelen verilerin yönetilmesi sorunu da vardır.
10. Değişim yönetimi sorunları nelerdir?
Değişime karşı direncin birçok kuruluş için büyük bir risk oluşturduğu ve üretken yapay zekânın yaygınlaşmasının yaygınlaştığı göz önüne alındığında, çalışanların bu yapay zekânın sorumlu ve etik kullanımına ilişkin temel kuralları anlaması gerekir. Yönetim, üretken yapay zekânın güçlü yönlerini ve sınırlamalarını, onu düşünceli bir amaç doğrultusunda kullanma niyetini, planlanan ilk kullanım durumlarını ve çevre, sosyal ve kurumsal yönetişim (environmental, social and governance-ESG) ve çeşitlilik, eşitlik ve katılım (diversity, equity and inclusion-DEI) ile ilgili olanlar gibi daha geniş stratejik girişimlerle nasıl uyum sağladığını kuruluşa bildirmelidir.
Etkilenen iş fonksiyonlarına sahip çalışanlar için yeniden beceri kazandırılması ve beceri geliştirilmesi gerekli olacaktır. Üretken yapay zekâ kullanımına ilişkin politikalar ve temel kurallar, geçerli yasa ve düzenlemelerle ve şirketin fikri mülkiyetini (örneğin, ticari sırlar ve diğer gizli bilgiler) koruma ihtiyacıyla uyumlu olmalıdır. Ayrıca siber güvenlik ve gizlilik riskleri üzerindeki ilgili etkiyi de ele almalı ve izleme protokollerini ve sorumlulukları güçlendirmelidirler.
Üretken yapay zekâ, tedarik zinciri kesintileri, işyerindeki çalkantılar, yetenek eksiklikleri ve yüksek enflasyon ve faiz oranlarının yanı sıra iş dünyasına bir başka yıkıcı güç daha eklemektedir. İyi haber şu ki, teknolojinin kullanıma hazır yazılım arayüzleri o kadar hazır ki, neredeyse hizmet olarak yazılıma eşdeğerdir.
Üst düzey yöneticiler ve direktörler için sonuç açıktır: “Kendinizi yolculuğa hazırlayın.”
[1] Dolar: Amerika Birleşik Devletleri (ABD) doları.
Yavuz Akbulak
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
• Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
• Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
• Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte),
• Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve
• Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte)
başlıklı kitapları yayımlanmıştır.
• Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003),
• Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004)
ile
• Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II;
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021);
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021);
• Sosyal Bilimlerde Güncel Gelişmeler (2021);
• Ticari İşletme Hukuku Fasikülü (2022);
• Ticari Mevzuat Notları (2022);
• Bilimsel Araştırmalar (2022);
• Hukuki İncelemeler (2023);
• Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024);
• Hukuka Giriş (2024);
• İşletme, Pazarlama ve Hukuk Yazıları (2024),
• İnterdisipliner Çalışmalar (e-Kitap, 2025)
başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 3 bini aşkın Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.