Giriş
Avukatlar etik yapay zekâ kullanımını sağlamak için günümüzün etik kurallarına bakmalıdır. Belirli kurallara dalmadan önce, üretken yapay zekânın etik kullanımının, bu teknolojinin bir avukat değil, yasal bir yardımcı olduğu anlayışına dayandığını belirtmek önemlidir.
Avukatlar, yapay zekâ tarafından üretilen işlerde, bir yardımcı (junior) avukat veya paralegal tarafından üretilen işlerde gösterdikleri özeni göstermelidir. Her durumda, iş ürününü incelemek ve sonlandırmak için bağımsız yargı kullanmak esastır.
Üretken yapay zekânın etik kullanımı ayrıca şunları da varsayar:
- Yapay zekâ, geliştiriciler tarafından sorumlu bir şekilde geliştirilir;
- Kullanıcı, yapay zekânın nasıl çalıştığını, ne yapabileceğini ve ne yapamayacağını anlar ve
- Kullanıcı her zaman teknoloji üzerinde kontrole sahiptir ve kullanımından sorumludur.
Yapay zekâyı etik bir şekilde kullanma sorumluluğu hem onu kullanan hukukçulara hem de teknolojiyi yaratan geliştiricilere aittir. Geliştiriciler, kullanıcıyı yapay zekânın nasıl çalıştığı konusunda eğitmek için önlemler almalı ve kullanıcılar yapay zekânın yeteneklerini öğrenme konusunda bilinçli olmalı ve yapay zekâyı etik ve sorumlu bir şekilde kullanmaya yönelik devam eden taahhütlerini anlamalıdır.
Bu amaçla, günümüzün mesleki davranış kurallarının [özellikle Amerikan Barolar Birliği’nin Mesleki Davranış Model Kuralları[1] (American Bar Association’s Model Rules of Professional Conduct)] avukatların hukuki yapay zekâyı kullanımına nasıl uygulandığını araştırıyoruz.
1) Kural 5.1 ve 5.3: Sorumluluk [responsibility]
Amerikan Barolar Birliği Mesleki Davranış Kurallarının [Rule of Professional Conduct] 5.1. no.lu Kuralı[2], Ortak veya Denetleyici Avukatın Sorumlulukları; 5.3. no.lu Kuralı[3] ise, Avukat Olmayan Yardıma/Desteğe İlişkin Sorumluluklar uyarınca, avukatların, kendilerine hukuki hizmet sağlayan hem avukatları hem de avukat olmayan kişileri denetleyerek davranışlarının Mesleki Davranış Kurallarına uygun olmasını sağlamakla yükümlüdürler.
Özellikle, Kural 5.3, 2012 yılında Kuralın başlığında yapılan kritik bir değişiklikle, “yardımcılar” (assistants) yerine avukat olmayan “yardım/destek” (assistance) ile ilgili sorumlulukları kapsamaktadır. Bu değişikliğin etkisi, yasal hizmetlerin sağlanmasında kullanılan yasal yapay zekâ gibi teknoloji tarafından üretilen işler de dâhil olmak üzere, etik yükümlülüğün insan olmayan yardıma genişletilmesiydi.
Sonuç olarak, insan olmayan hukuki yardım Amerikan Barolar Birliği kurallarının kapsamına girer ve bir yapay zekâ hukuki yardımcısını tıpkı diğer herhangi bir hukuki yardımcıyı denetlediğiniz gibi denetlemeniz gerekir.
2) Kural 1.1: Yeterlilik [competence]
Bir avukatın teknolojik olarak yetkin olma görevi, avukatların bir müvekkile yetkin temsil sağlamasını gerektiren Amerikan Barolar Birliği’nin Mesleki Davranış Kurallarının 1.1. no.lu Kural’ında[4] kabul edilmiştir. Teknolojik yetkinlik görevi, yetkin temsil için gerekli bilgi ve beceriyi sürdürmek amacıyla bir avukatın “ilgili teknolojiyle ilişkili faydalar ve riskler dâhil olmak üzere yasa ve uygulamasındaki değişikliklerden haberdar olması” gerektiğini ve bunu sürekli eğitim yoluyla yapması gerektiğini belirten kuralın 8. Yorumunda[5] özel olarak belirtilmiştir.
Avukatların yeni teknolojilerle (örneğin yapay zekâ) başa çıkmaları gerektiği beklentisinin “değişikliklerden haberdar olmak” ifadesiyle varsayıldığına dikkat edilmelidir. Amerikan Barolar Birliği’nin 2012 tarihli Mesleki Davranış Kuralları değişikliğinin[6] bir parçası olan 8. Yorum, hukuk pratiğinde giderek yaygınlaşan bulut bilişim ve akıllı telefonlar ve tabletler gibi teknolojiler ışığında eklenmiştir.
O zamandan beri, Mesleki Davranış Kuralları yapay zekâyı da kapsayacak şekilde değiştirilmiştir. 2019 yılında Amerikan Barolar Birliği, mahkemeleri ve avukatları yapay zekâ kullanımıyla ilgili etik ve yasal sorunları ele almaya çağıran 112 sayılı Karar’ı[7] kabul etmiştir. Bunlara “yapay zekâ tarafından alınan otomatik kararların önyargısı, açıklanabilirliği ve şeffaflığı” ve “yapay zekânın ve yapay zekâ sağlayan satıcıların kontrolleri ve gözetimi” de dâhildir.
Bundan çıkarılacak sonuç, teknolojik yeterlilik görevinin ilgili teknolojiyi anlamayı gerektirmesidir ve günümüz dünyasında buna yapay zekâ da dâhildir. Yapay zekâ ile ilişkili “faydaları ve riskleri” anladığınızdan emin olmak için web seminerleri ve sürekli hukuk eğitimleri (continuing legal education) gibi öğrenme fırsatlarına katılmak için çaba gösterilmelidir.
3) Kural 3.3: Mahkemeye karşı dürüstlük [candor toward the tribunal]
Kural 3.3[8], avukatların mahkeme görevlileri olarak özel görevlerini ortaya koyar ve buna “yargılama sürecinin bütünlüğünü zedeleyecek davranışlardan kaçınma” yükümlülüğü de dâhildir. Kural 3.3’e ilişkin 2. Yorumu[9], avukatların “mahkemenin, avukatın yanlış olduğunu bildiği yanlış hukuk veya olgu veya delil ifadeleriyle yanıltılmasına izin vermemesi gerektiğini” belirtirken; 3. Yorum, avukatların “dava için hazırlanan dilekçelerden ve diğer belgelerden sorumlu” olduğunu belirtir.
Genel kullanımlı üretken yapay zekâyı pratikte kullanırken bu kurallara uyulmamasının bir örneği “Avianca v Mata” davasında[10] bulunabilir ki, daha yaygın olarak “ChatGPT avukatı” hadisesi olarak bilinir. Kısacası, savunma avukatı federal mahkemeye (Eastern District of New York, daha az değil) var olmayan içtihatlara atıflarla dolu bir özet sunmuştur. Hâkim tarafından sorgulandığında, avukat özeti hazırlamak için ChatGPT kullandığını açıklamış ve yapay zekânın davaları halüsinasyona uğratabileceğinin farkında olmadığını iddia etmiştir (sohbet kutusunun hemen altındaki feragatnameye rağmen).
Hâkim, avukatın suçu ‘ChatGPT’ye yüklemesini hoş karşılamamıştır. Mahkemenin kararından, teknolojiyi yanlış anlamanın teknolojiyi kötüye kullanmak için bir savunma olmadığı ve avukatın mahkemeye sunduğu belgelerde atıfta bulunulan davaları doğrulamakla yükümlü olduğu açıktır.
Bu durumdan kaçınmanın birkaç yolu vardır. İlk ve en önemlisi, güvenilir bir hukuk kaynağından yararlanmayan ChatGPT gibi genel kullanımlı yapay zekâya güvenilmemelidir. Bunun yerine, güvenilir ve güncel bir bilgi kaynağıyla sınırlı olduğu için yasal yapay zekâ kullanılmalıdır. Örneğin, CoCounsel, Westlaw’ın dava hukuku, tüzük ve yönetmelikler veritabanından yararlanır. Ayrıca, davalara bağlantılar sağlayarak çalışmalarını gösterir ve çalışmanın kontrol edilmesini kolaylaştırır.
İkinci olarak, yapay zekâyı kullanmadan önce kullanmanın riski anlaşılmalıdır -bkz. yukarıdaki teknolojik yeterlilik ile ilgili Kural 1.1- ve Kural 5.1 ve 5.3’te gerekli olduğu gibi yapay zekânın çıktısının doğruluğu kontrol edilmelidir. Son olarak, yapay zekâ kullanımını mahkemeye ifşa ederek bu tür felaketlerden kaçınılabilir.
4) Kural 1.4: İletişim [communication]
Yapay zekâ kullanımını müvekkillere de açıklamak iyi bir fikirdir. Müvekkil iletişimleri hakkındaki Kural 1.4’e ilişkin 1. Yorumu[11] şöyle der: “Avukat ile müvekkil arasında makul bir iletişim, müvekkilin temsile etkili bir şekilde katılması için gereklidir.” 3. Yorum, Kuralın “avukatın müvekkilin hedeflerine ulaşmak için kullanılacak araçlar hakkında müvekkile makul bir şekilde danışmasını gerektirdiğini” belirtir.
Bu kurallar pratikte nasıl uygulanmalıdır? Müvekkillere hukuki hizmet sunumunda yapay zekâ kullanılıyorsa, kullanım onlara açıklanmalıdır. Müvekkillere yapay zekânın nasıl kullanılacağı konusunda şeffaf olunmalı ve nasıl çalıştığını açıklamaya ve gizlilik ve güvenlik endişelerini gidermeye hazır olunmalıdır.
Buna ek olarak, yapay zekâ kullanımını ifşa etmenin birkaç yolu vardır. Bir seçenek, bunu ücret anlaşmalarında veya müşterilere yapılan saklama mektuplarında ifşa etmektir.
Ancak bazı firmalar, yapay zekâ “teknoloji” olarak kabul edildiğinden, onu kullanılan diğer teknolojilerden ayırmıyorlar; çoğu şart ve koşulda, gizlilik politikalarında veya taahhüt mektuplarında, uygulama bazında bir listeye giriş yerine genel bir terim olarak kullanılıyor. Yine de, bu yaklaşımı benimseyen herhangi bir firma, yapay zekâ kullanımı hakkında soru soran herkese kapsamlı bir cevap vermeye hazır olmalıdır.
5) Kural 1.6: Bilgilerin gizliliği [confidentiality of information]
Kural 1.6’ya ilişkin 2. Yorum[12], avukatların müvekkilin bilgilendirilmiş onayı olmadığı sürece müvekkile temsil ile ilgili bilgileri ifşa etmemeleri gerektiğini belirtirken, 18. Yorum avukatların şunları yapmasını gerektirir:
“Bir müvekkilin temsiline ilişkin bilgileri üçüncü kişiler tarafından yetkisiz erişime ve avukat veya müvekkilin temsiline katılan diğer kişiler tarafından kasıtsız veya yetkisiz ifşaya karşı korumak için yetkin bir şekilde hareket etmek.”
Bu kural yalnızca yapay zekâ kullanırken değil, yapay zekâ seçerken de devreye girer. Üretken yapay zekâ, bulut depolama ve üçüncü taraf veri işleme anlaşmaları gibi bir teknoloji ve ortaklık ağıyla oluşturulur. Bu amaçla, özel, güvenli ve deneyimli geliştiriciler tarafından oluşturulmuş yasal yapay zekâyı arayın; örneğin güvenlik ve veri gizliliği risklerini ortadan kaldırmak için dikkatlice tasarlanmış CoCounsel gibi.
Model Kurallarındaki Son Değişiklikler
Model Kurallardaki en son değişiklikler için Amerikan Barolar Birliği web sitesine bakılmalıdır[13]. Hukuki yapay zekâ, bir avukatın yerine geçmek için değil, bir hukuk asistanı olarak hizmet etmek için tasarlanmıştır ve avukatlar kullanımlarını yönlendirmek için mevcut etik kurallarına bakmalıdır. Güvenilir, belirli kullanımlı yapay zekâyı seçerek ve sorumlu bir şekilde kullanarak, avukatlar uygulamalarını iyileştirmek ve müvekkillerine daha iyi hizmet vermek için bu güçlü teknolojiden yararlanabilirler.
[1] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/model_rules_of_professional_conduct_table_of_contents/>.
[2] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_5_1_responsibilities_of_a_partner_or_supervisory_lawyer/>.
[3] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_5_3_responsibilities_regarding_nonlawyer_assistant/>.
[4] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_1_1_competence/>.
[5] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_1_1_competence/comment_on_rule_1_1/>.
[6]<https://www.thomsonreuters.com/en-us/posts/legal/lawyers-technological-competence/>.
[7]<https://www.americanbar.org/content/dam/aba/directories/policy/annual-2019/112-annual-2019.pdf>.
[8] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_3_3_candor_toward_the_tribunal/comment_on_rule_3_3/>.
[9] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_3_3_candor_toward_the_tribunal/comment_on_rule_3_3/>.
[10]<https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html>.
[11] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_1_4_communications/comment_on_rule_1_4/>.
[12] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/rule_1_6_confidentiality_of_information/comment_on_rule_1_6/>.
[13] <https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/>.
Yavuz Akbulak
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
• Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
• Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
• Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte),
• Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve
• Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte)
başlıklı kitapları yayımlanmıştır.
• Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003),
• Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004)
ile
• Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II;
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021);
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021);
• Sosyal Bilimlerde Güncel Gelişmeler (2021);
• Ticari İşletme Hukuku Fasikülü (2022);
• Ticari Mevzuat Notları (2022);
• Bilimsel Araştırmalar (2022);
• Hukuki İncelemeler (2023);
• Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024);
• Hukuka Giriş (2024);
• İşletme, Pazarlama ve Hukuk Yazıları (2024),
• İnterdisipliner Çalışmalar (e-Kitap, 2025)
başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 3 bini aşkın Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.