Giriş
Kuruluşlar iş optimizasyonu için yapay zekâ ajanlarını [artificial intelligence agents] hızla benimserken, siber suçlular (da) karmaşık saldırıları otomatikleştirmek için aynı teknolojileri kullanmaktadır. Bu yazıda, kötü niyetli aktörlerin çok biçimli/yapılı kod üretimi ve veri zehirlenmesi [polymorphic code generation and data poisoning] gibi tekniklerle geleneksel güvenlik önlemlerinden kaçabilen otonom yapay zekâ sistemleri ekiplerini nasıl geliştirdikleri açıklanmaktadır.
Yapay zekâ ajanları, kullanıcılar adına görevleri otonom (kendi kendine işleyen/çalışan) olarak gerçekleştirebilen sistemlerdir. Dinamik ortamlara uyum sağlayabilir ve insan müdahalesi gerektirmeden kararlar alabilirler. Yanı sıra, geniş veri kümelerini otonom olarak algılama ve bunlara göre hareket etme yetenekleri, sağlık, üretim, finans ve bankacılık gibi sektörlerde süreçleri optimize ederek yenilikleri yönlendirir ve değer zincirlerini dönüştürürler. Yapay zekâ ajanlarının 2027 yılına kadar kuruluşların yüzde 82’si tarafından benimsenmesi beklenmektedir[1].
- Siber suçları otomatikleştirmek için yapay zekâ ajanlarının güçlendirilmesi
Yapay zekâ ajanlarının özerkliği, etik ve sorumlu bir şekilde kullanıldığında ilerlemeler anlamına gelir. Ancak, bağımsız olarak karar alma yetenekleri ve uyarlanabilir yapıları, saldırıları otomatikleştirmek için işbirliği içinde çalışan bir ajan yapay zekâ kötü amaçlı yazılım ekibi geliştirebilen kötü niyetli aktörlerin ilgisini çekmiştir.
Bu tür ölçeklenebilir saldırılar benzeri görülmemiş bir verimlilikle gerçekleştirilebilir ve mevcut tehdit tespit sistemlerinin yeteneklerini aşabilir. Bilgi Güvenliği Direktörlerinin [chief information security officer-CISO] yüzde 78 kadarı yapay zekâ destekli siber tehditlerin kuruluşlarını önemli ölçüde etkilediğine inanmaktadır[2].
Ajan yapay zekânın siber saldırıları nasıl otomatikleştirebileceğine dair ipuçları aşağıdadır:
- Çok biçimli/yapılı/polimorfik kötü amaçlı yazılım [polymorphic malware]: Bir bukalemun gibi, bu yapay zekâ tarafından üretilen kötü amaçlı yazılım, bir sistemi her enfekte ettiğinde kodunu veya görünümünü durmaksızın değiştirebilir[3]. Bu, engelleme listelerine ve statik imzalara dayanan savunmalar marifetiyle tespit edilmekten kaçınmasını sağlar.
- Uyarlanabilir kötü amaçlı yazılım [adaptive malware]: Yapay zekâ, ortamını analiz eden, yerinde güvenlik protokollerini belirleyen ve saldırıları başlatmak için gerçek zamanlı olarak uyum sağlayan kötü amaçlı yazılım oluşturmayı otomatikleştirebilir.
- Ölçeklenebilir saldırılar [scalable attacks]: Yapay zekânın tekrarlayan görevleri otomatikleştirme yeteneği, kötü niyetli saldırganlar tarafından, milyonlarca kullanıcıyı aynı anda yüksek hassasiyetle hedefleyebilen büyük ölçekli kampanyalar başlatmak için kullanılmaktadır; örneğin, kimlik avı e-postaları (elektronik posta), dağıtık hizmet reddi [distributed denial-of-service] saldırıları ve kimlik bilgisi toplama gibi yöntemler.
- Saldırganların giriş noktalarını belirleme [identifying attackers’ entry points]: Yapay zekâ sistemleri, geniş ağları tarayarak ve potansiyel erişim noktalarını bularak güvenlik açıklarını ve anormallikleri otonom olarak belirleyebilir. Kötü niyetli kişilerin hedeflenen bir sistemdeki güvenlik açıklarını belirlemek için harcadıkları zamanı ve çabayı azaltmalarına yardımcı olarak, yapay zekâ ajanları, azami etkiyi elde ederek, korkutucu bir hızla büyük ölçekte saldırılar başlatabilir.
- Sentetik kimlik dolandırıcılığı [synthetic identity fraud]: Tehdit aktörleri, gerçek ve sahte kişisel verileri harmanlayarak yapay kimlikler oluşturmak için yapay zekâyı kullanır. Bu tür sentetik kişiler meşru görünebildiği ve dolandırıcılık tespitinden kaçınabildiği için, kimlik hırsızlığı ve sosyal mühendislik tuzaklarını içeren saldırılarda yaygın olarak kullanılır.
- Kişiselleştirilmiş kimlik avı kampanyaları [personalized phishing campaigns]: Yapay zekâ, kurbanların kamuya açık alanlardaki kişisel verilerini tarayarak ve analiz ederek kimlik avı kampanyalarının verimliliğini artırır. Bu verileri kullanarak yapay zekâ, son derece kişiselleştirilmiş ve ikna edici kimlik avı e-postaları oluşturmaya yardımcı olabilir.
- Yapay zekâ ajanlarının kontrolden çıkması
Yapay zekâ ajanları, büyük miktarda gerçek zamanlı veriden sürekli olarak öğrenmek ve eylemlerini planlamak için makine öğrenimini kullanır. Ancak, büyük miktarda veriye sınırsız erişim, özerklikle birlikte, bir kuruluşun güvenliğini tehdit edebilir ve yapay zekâ ajanları haydutlaşıp hedeflenen amaçlarından saptığında düzenleyici riskler oluşturabilir. Haydut yapay zekâ ajanları, kasıtlı kurcalama nedeniyle kötü niyetten veya hatalı sistem tasarımı, programlama hataları veya yalnızca kullanıcı dikkatsizliği nedeniyle yanlışlıkla ortaya çıkabilir.
Saldırganlar, aşağıdaki gibi teknikler kullanarak yapay zekânın eğitim verilerini manipüle ederek, kötü niyetli yapay zekâ ajanlarının özerkliğinden yararlanabilirler:
- Doğrudan istem enjeksiyonu [direct prompt injection]: Saldırganlar, hassas verileri ifşa etmek veya zararlı komutları yürütmek için büyük dil modellerini [large language models] manipüle etmek amacıyla yanlış talimatlar verir.
- Dolaylı istem enjeksiyonu [indirect prompt injection]: Saldırganlar, yapay zekânın eriştiği bir web sitesi veya belge gibi harici veri kaynaklarına kötü amaçlı talimatlar yerleştirir.
- Veri zehirlenmesi [data poisoning]: Veriler, yapay zekâ modelini eğitmek için yanlış veya yanıltıcı bilgilerle zehirlenir veya ekilir. Modelin bütünlüğünü zayıflatır, hatalı, önyargılı veya kötü niyetli sonuçlar üretir.
- Model manipülasyonu [model manipulation]: Saldırganlar, tepkilerini kontrol etmek için eğitimleri sırasında yapay zekâ sistemine güvenlik açıkları enjekte ederek sistemi kasıtlı olarak zayıflatırlar ve böylece sistem bütünlüğünü tehlikeye atarlar.
- Veri sızdırma [data exfiltration]: Saldırganlar, hassas verileri ifşa etmek için büyük dil modellerini manipüle etmek amacıyla komut istemlerini kullanırlar.
Kötü aktörler kötü niyetli sonuçlar elde etmek için yapay zekâ kullanırlar. Yapay zekânın gerçek potansiyelinden yararlanmak için, kuruluşların yapay zekânın sorumlu ve güvenli bir şekilde kullanılmasını sağlamak için risk yönetimi yaklaşımlarını planlarken, sahte yapay zekânın neden olduğu potansiyel zararı göz önünde bulundurmaları gerekir.
- Kötü niyetli veya hileli yapay zekâ ajanlarına karşı savunma
Aşağıdakiler kuruluşların kötü amaçlı yapay zekâ ajanlarından güvende kalmasına yardımcı olabilir:
- Yapay zekâ destekli tehdit tespiti [artificial intelligence-driven threat detection]: Sistem etkinliğinde yetkisiz erişime veya kötü amaçlı yazılıma işaret edebilecek küçük sapmaları bile tespit etmek için yapay zekâ destekli izleme araçları kullanılmalıdır.
- Veri koruma araçları [data protection tools]: Hassas veriler kötü niyetli bir şekilde ele geçirilse bile güvenli kalmasını sağlamak için şifrelenmelidir. Yetkisiz kullanıcılar tarafından erişim riskini en aza indirmek için çok faktörlü kimlik doğrulamayı kullanarak önemli verilere yalnızca geçerli kullanıcıların erişebildiğinden emin olunmalıdır.
- Saldırgan eğitimle dayanıklı kılınan yapay zekâ [resilient artificial intelligence by adversarial training]: Yapay zekâ modellerini kötü niyetli tehditlere karşı daha dayanıklı hale getirmek için, geçmiş saldırgan saldırı verileriyle yeniden eğitilmeli veya simüle edilmiş saldırılara tabi tutulmalıdır.
- Güvenilir eğitim verileri [reliable training data]: Yüksek kaliteli eğitim verileri kullanılarak doğru bir yapay zekâ modeli geliştirilebilir. Güvenilir veri kümelerine güvenmek önyargıları ve hataları azaltır ve modelin kötü amaçlı verilerle eğitilmesini önlemeye yardımcı olur.
Sonuç
Otonom yapay zekâ ajanları verimliliği artırabilir ve operasyonları otomatikleştirebilir. Ancak haydut olduklarında, bağımsız hareket etme ve hızlı uyum sağlama yetenekleri nedeniyle ciddi riskler oluşturabilirler. Bugün asgari düzeyde müdahaleci olsalar da, risk yöneticileri kesinlikle farkında olmalı ve tetikte olmalıdır. Kuruluşlar yapay zekâya özgü güvenlik sorunlarını ele alarak, yapay zekânın sunduğu muazzam potansiyeli tam olarak kullanabilirler.
[1]<https://www.capgemini.com/us-en/insights/research-library/generative-ai-in-organizations-2024/>.
[2]<https://cdn.prod.website-files.com/626ff4d25aca2edf4325ff97/67c71c13a196570f4a6fd1cc_State%20of%20AI%20Cybersecurity%202025%20-%20Executive%20Summary.pdf>.
[3]<https://www.digitalguardian.com/blog/what-polymorphic-malware-definition-and-best-practices-defending-against-polymorphic-malware>.
Yavuz Akbulak
1966 yılında, Gence-Borçalı yöresinden göç etmiş bir ailenin çocuğu olarak Ardahan/Çıldır’da doğdu. 1984 yılında yapılan sınavda Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü kazandı. 1985 yılında Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümüne yatay geçiş yaptı ve 1988’de Marmara Üniversitesi İktisadi ve İdari Bilimler Fakültesi Maliye bölümünü birincilikle, Fakülteyi ise 11’inci olarak bitirdi.
1997 yılında Amerika Birleşik Devletleri’nin Denver şehrinde yer alan ‘Spring International Language Center’da; 65’inci dönem müdavimi olarak 2008-2009 döneminde Milli Güvenlik Akademisi’nde (MGA) eğitim gördü ve MGA’dan dereceyle mezun oldu. MGA eğitimi esnasında ‘Sınır Aşan Sular Meselesi’, ‘Petrol Sorunu’ gibi önemli başlıklarda bilimsel çalışmalar yaptı.
• Türkiye’de Yatırımların ve İstihdamın Durumu ve Mevcut Ortamın İyileştirilmesine İlişkin Öneriler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü);
• Türk Sosyal Güvenlik Sisteminde Yaşanan Sorunlar ve Alınması Gereken Önlemler (Maliye Hesap Uzmanları Vakfı Araştırma Yarışması İkincilik Ödülü, Sevinç Akbulak ile birlikte);
• Kayıp Yıllar: Türkiye’de 1980’li Yıllardan Bu Yana Kamu Borçlanma Politikaları ve Bankacılık Sektörüne Etkileri (Bankalar Yeminli Murakıpları Vakfı Eser Yarışması, Övgüye Değer Ödülü, Emre Kavaklı ve Ayça Tokmak ile birlikte),
• Türkiye’de Sermaye Piyasası Araçları ve Halka Açık Anonim Şirketler (Sevinç Akbulak ile birlikte) ve
• Türkiye’de Reel ve Mali Sektör: Genel Durum, Sorunlar ve Öneriler (Sevinç Akbulak ile birlikte)
başlıklı kitapları yayımlanmıştır.
• Anonim Şirketlerde Kâr Dağıtımı Esasları ve Yedek Akçeler (Bilgi Toplumunda Hukuk, Ünal TEKİNALP’e Armağan, Cilt I; 2003),
• Anonim Şirketlerin Halka Açılması (Muğla Üniversitesi İktisadi ve İdari Bilimler Fakültesi Tartışma Tebliğleri Serisi II; 2004)
ile
• Prof. Dr. Saim ÜSTÜNDAĞ’a Vefa Andacı (2020), Cilt II;
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler (2021);
• Prof. Dr. Saim Üstündağ’a İthafen İlmi Makaleler II (2021);
• Sosyal Bilimlerde Güncel Gelişmeler (2021);
• Ticari İşletme Hukuku Fasikülü (2022);
• Ticari Mevzuat Notları (2022);
• Bilimsel Araştırmalar (2022);
• Hukuki İncelemeler (2023);
• Prof. Dr. Saim Üstündağ Adına Seçme Yazılar (2024);
• Hukuka Giriş (2024);
• İşletme, Pazarlama ve Hukuk Yazıları (2024),
• İnterdisipliner Çalışmalar (e-Kitap, 2025)
başlıklı kitapların bazı bölümlerinin de yazarıdır.
1992 yılından beri Türkiye’de yayımlanan otuza yakın Dergi, Gazete ve Blog’da 3 bini aşkın Telif Makale ve Telif Yazı ile tamamı İngilizceden olmak üzere Türkçe Derleme ve Türkçe Çevirisi yayımlanmıştır.
1988 yılında intisap ettiği Sermaye Piyasası Kurulu’nda (SPK) uzman yardımcısı, uzman (yeterlik sınavı üçüncüsü), başuzman, daire başkanı ve başkanlık danışmanı; Özelleştirme İdaresi Başkanlığı GSM 1800 Lisansları Değerleme Komisyonunda üye olarak görev yapmış, ayrıca Vergi Konseyi’nin bazı alt çalışma gruplarında (Menkul Sermaye İratları ve Değer Artış Kazançları; Kayıt Dışı Ekonomi; Özkaynakların Güçlendirilmesi) yer almış olup; halen başuzman unvanıyla SPK’da çalışmaktadır.
Hayatı dosdoğru yaşamak ve çalışkanlık vazgeçilmez ilkeleridir. Ülkesi ‘Türkiye Cumhuriyeti’ her şeyin üstündedir.