Açıklanabilirlik (explainability), hem geliştiricilere hem de son kullanıcılara ‘kaputun içine bakma’ (look inside the hood) ve tasarımdaki kusurları ve önyargı kaynaklarını belirleme ve otomatik kararlara olan güveni artırma olanağı sağlayan otomatik karar alma sistemlerinin bir özelliğidir (property of automated decision-making systems). Otomatik karar alma sistemleri, hüküm tahminlerinden ve sözleşme özetlerinden akıllı sözleşmelere kadar birçok yasal süreçte uygulanmıştır. Bunların her birinde, hizmet standartlarını garanti altına almak ve veri koruma ve insan haklarının büyük ölçüde ihlal edilmesini önlemek için sistemin güvenilirliği çok önemlidir. Açıklanabilirliği uygulamak, teknoloji veya hukuk toplulukları tarafından henüz tam olarak üstesinden gelinememiş sayısız teknik ve yasal zorlukla birlikte gelirken, mevcut yöntemleri gelecekte ilerleme sağlamak için çerçeveler belirler.
Son bir makalede, hem yasal hem de yapay zekâ teknik alanlarında bir kavram olarak açıklanabilirlik arasındaki ilişki ve yasal çerçeveler içinde yapay zekâ çözümlerini uygulama söz konusu olduğunda ihtiyaçları ve gereksinimleri araştırılıyor. Yapay zekâ modelleri veya daha geniş anlamda otomatik karar alma, eğitim ve sağlık hizmetlerinden yasal uygulamalara kadar toplumun birçok etkili alanında giderek daha fazla yer almaktadır. Kanseri daha erken ve daha yüksek doğrulukla tespit etmek için gelişmiş makine öğrenimini kullanan doktorlar, hayat kurtarırken aynı zamanda tüm bir iş sektörünü dönüştürmeye yardımcı olmaktadır. Hasta tedavisi veya teşhisi hakkındaki kararlar insanların hayatlarını derinden etkilemekte ve otomatik karar alma sistemleri hatasız değil, bazen hatalı sonuçlara veya önyargılı karar almaya yol açmaktadır. Hem doktorların hem de hastaların karar alma sürecini anlamaları ve güvenmeleri için, özellikle kararların etkisi önemli olduğunda, verilerin nasıl kullanıldığını ve sonucun doğru olup olmadığını değerlendirebilmeleri ve belirleyebilmeleri gerekir. Açıklanabilirlik ayrıca, iç işleyişlere dair daha derin bir anlayışın kusurları ve tutarsızlıkları belirlemeye yardımcı olabileceği otomatik karar alma sistemlerinin güvenliğini artırmaya yardımcı olur. Açıklanabilirlik, daha fazla kullanıcı güveni veya altyapı güvenliği elde ederken dikkate alınması gereken tek faktör olmasa da, kaçınılmaz olarak yeni teknolojiyi toplumsal açıdan hassas sektörlere entegre ederken optimize edilmesi gereken önemli bir faktördür.
Sağlık hizmetlerinin yanı sıra, mahkemeler de kurumsal kural yapımında ve ceza adalet sisteminde otomatik karar alma sistemlerine giderek daha fazla güvenmektedir. Yargıçlar karar desteğine başvurmakta ve bu algoritmaların güvenilir ve adil olması için nasıl çalıştığına dair belirli açıklamalar talep etmektedir. Açıklanabilirlik, örneğin kredi vermeye karar verirken gerekçeler sunmak zorunda olan risk modellemesiyle uğraşan finansal hizmet sağlayıcılarının yasal koşullarını karşılamaya da yardımcı olabilir. Sonuçları etkileyen özellikleri vurgulayarak farklı önyargı türlerinin üstesinden gelmeye yardımcı olabilir ki; bu özellikler genellikle korunan grupların ayrımcı uygulamalarına yol açan hassas özelliklerin temsilcisi olabilir. Bu tür uygulamalar kasıtsızlık nedeniyle sorumluluğa yol açmayabilir, ancak bu temsilcileri önceden tespit etmek için açıklanabilir otomatik karar alma sistemlerinin kullanılmaması denetleyici otoriteleri potansiyel sorumluluğa maruz bırakabilir. Başka bir deyişle, sözleşme, şirket ve haksız fiil hukuku kapsamında ihmal ve sorumluluktan kaçınmak için, sağlık hizmeti sağlayıcıları ve birleşmelerle uğraşan şirketler gibi otomatik karar alma sistemleri kullanıcılarının çok sayıda yargı alanında profesyonel bakım standartlarını garanti altına almak için açıklanabilirliğe başvurmaları gerekebilir.
Ancak açıklanabilirliği başarmak önemli bir teknik zorluktur. İşlevsellik, önceden programlanmış bir mantık tabanlı kurallar kümesiyle tamamen gerçekleştirilemez, bunun yerine algoritmanın büyük miktarda sözleşme örneği boyunca kalıpları tespit etmesini ve bunları metin dizilerini tahmin etmek için kullanmasını gerektirir. Her sözleşme farklı olduğundan, bir cümlenin henüz görmediğimiz bir belgenin iyi bir özeti olduğu zaman için genel bir kural oluşturamayız. Sonuç olarak, en basit kural tabanlı otomatik karar alma sistemleri bu görevleri çözme ve buna göre ölçeklendirme yeteneklerinden yoksundur. Yüksek yorumlanabilirliğe sahip karar ağaçları gibi nispeten basit modellere başvurulabilir, ancak bunların performansı, özellikle soyut yetenekler ve büyük miktarda veri işleme söz konusu olduğunda, derin sinir ağları gibi daha karmaşık modellere göre önemli ölçüde daha kötü olacaktır. Genellikle bir tarafta daha yüksek doğruluk, daha iyi sonuçlar ve daha sağlam yapay zekâ araçları ile diğer tarafta açıklanabilirlik arasında bir denge vardır. Bu nedenle, bazı otomatik karar alma sistemleri doğası gereği açıklanabilir olabilir, ancak bu sistemler genellikle görevi iyileştirmede dönüştürücü olmak için uygulamada çok basit ve dar kapsamlıdır ve bu da açıklamalarının önemsiz olmasına ve verilerdeki kalıpları öğrenmek için içyüzünü kavramayı sağlamamasına yol açar.
Son olarak, açıklanabilirlik yasal bir hak veya gereklilik olarak görülebilir. Genel Veri Koruma Yönetmeliği (General Data Protection Regulation) gibi mevcut düzenleyici çerçeveler, otomatik kararların açıklanmasına ilişkin bir hak konusunda belirsizdir. Anılan Yönetmeliğin 15(1) no.lu maddesi uyarınca, denetleyici, özellikle doğruluğu garanti altına almak ve potansiyel olarak doğruluğu sorgulamak için açıklamalara ihtiyaç duyulduğunda, otomatik karar almada “dâhil olan mantık hakkında anlamlı bilgiler” (meaningful information about the logic involved) sağlamalıdır. Yönetmelik madde 13-15, kapsamı konusunda net olmasa da açıklama hakkını açıkça ortaya koymaktadır. Bununla birlikte, bu hakka yönelik destek, düzenlemenin genel eğiliminde yer almaktadır. Açıklama hakkının “karara tabi olmama hakkı” (the right not to be subject to a decision) altında bulunduğu Madde 22 ise, yalnızca yasal etkileri önemli olması gereken otomatik işleme dayalı kararlara uygulanacak olup bu da uygulanabilirliğini ciddi şekilde sınırlamaktadır. Genel Veri Koruma Yönetmeliği’nde kullanılan dilin belirsizliği, güvenlik önlemlerini daha da zayıflatmakta ve yukarıdaki gibi rekabet eden yorumlara izin vererek, böyle bir hak için olası uygulama mekanizmalarından güç almaktadır.
Açıklanabilirlik ihtiyaçları, yasal uygulama da dâhil olmak üzere toplumun farklı alanlarına daha fazla otomatik karar alma sistemi entegre edildikçe arttıkça, hem bakım ve hizmet standartlarını garanti altına almak hem de veri korumasını ve insan haklarını korumak için sağlam önlemlere sahip olmak daha da önemli hale gelecektir. Şu anda, sınırlı teknik çözümler ve politik olarak hassas, belirsiz bir şekilde ifade edilmiş düzenlemelerin bir karışımı nedeniyle, açıklanabilirlik daha çok iyi bir uygulama olarak görülmekte ve tüketicinin tam olarak uygulanabilir bir yasal hakkı (a fully enforceable legal right of the consumer) olarak görülmemektedir. Veri koruma düzenlemesinin, kullanıcıları önceliklendirmek ve daha net bir dil ve uygulanabilirlik için daha fazla mekanizma ile insan haklarını desteklemek için siyaset dışı bırakılması gerekir. O zamana kadar, kullanıcı deneyimini iyileştirmeye yönelik ilgi ve geliştirdikleri teknolojinin sosyal etkisine daha fazla odaklanma eğiliminde olan araştırma topluluğunun baskıları ile yönlendirilen ürünlerinin açıklanabilirlik standartlarını artırmak geliştiricilere düşmektedir.
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu [merhume Anası (1947-10 Temmuz 2023) Erzurum/Aşkale; merhum Babası ise Ardahan/Çıldır yöresindendir]. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte);
Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte) başlıklı kitapları yayımlanmıştır.
Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003), Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004) ile Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II, Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021), Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021), Sosyal Bilimlerde Güncel Gelişmeler (2021), Ticari İşletme Hukuku Fasikülü (2022), Ticari Mevzuat Notları (2022), Bilimsel Araştırmalar (2022), Hukuki İncelemeler (2023), Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024), Hukuka Giriş (2024) başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 2 bin 500’ü aşan Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.