Cobalt’ın 2026 State of Pentesting Report çalışması, LLM tabanlı sistemlerdeki güvenlik sorunlarının artık teorik bir risk olmaktan çıktığını ortaya koyuyor. Araştırmaya göre tüm yapay zekâ ve LLM bulgularının yüzde 32’si yüksek riskli olarak değerlendirildi; bu oran genel veri setindeki yüzde 12’lik seviyenin yaklaşık 2,7 katı. Raporda ayrıca kuruluşların yüzde 20’sinin son bir yılda bir LLM güvenlik olayı yaşadığını söylediği belirtiliyor.
Neden riskli?
LLM’ler, kullanıcı girdilerini ve bağlı oldukları sistemlerden gelen verileri birlikte işleyebildikleri için saldırı yüzeyi klasik uygulamalardan daha geniş bir hale geliyor. Özellikle prompt injection, hassas bilgi ifşası, güvenli olmayan çıktı işleme ve aşırı yetkilendirme gibi zafiyetler, bu modellerin en sık karşılaştığı riskler arasında yer alıyor. Cobalt’ın bulguları da bu risklerin yalnızca teknik bir zayıflık değil, doğrudan operasyonel bir güvenlik sorunu haline geldiğini gösteriyor.
Nasıl çalışıyor?
Bir LLM güvenlik sorunu çoğu zaman modelin kendisinden çok, modelin çalıştığı entegrasyon zincirinde ortaya çıkıyor. Kullanıcı, modele bir e-posta, doküman, kod parçası ya da bağlantı verdiğinde sistem bu içeriği analiz ediyor; ancak içerik kötü niyetli talimatlar taşıyorsa model bu komutları da normal veri gibi işleyebiliyor. Böylece saldırgan, doğrudan sisteme girmek yerine modelin okuyacağı içeriği manipüle ederek sonucu kontrol etmeye çalışıyor.
Bu yapı, özellikle LLM’in dış araçlarla bağlantılı olduğu senaryolarda daha tehlikeli hale geliyor. Model yanlış yönlendirilirse dosya erişimi, API çağrıları veya otomatik yanıtlar üzerinden hassas veriler dışarı sızabiliyor. Kısacası LLM, sadece cevap üreten bir araç olmaktan çıkıp, doğru korunmadığında saldırının parçası haline gelebiliyor.
Kurumlar ne yapıyor?
Rapora göre güvenlik ekiplerinin AI’ya ilişkin kendine güveni de azalıyor: Geçen yıl bu konuda olumlu görüş bildirenlerin oranı yüzde 64 iken, bu yıl yüzde 51’e düşmüş durumda. Buna karşılık güvenlik profesyonellerinin yüzde 61’i, AI tehditlerine karşı savunmaları ayarlamak için stratejik bir duraklama istiyor. Ancak şirketlerin yüzde 97’si AI özelliklerini ürün ve hizmetlerine eklemeye devam ettiği için bu yavaşlama talebi pratikte karşılık bulmuyor.
Cobalt CTO’su Gunter Ollman’a göre sorunların önemli bir kısmı doğrudan LLM modelinin içinde yer aldığı için, kuruluşların yalnızca satıcı düzeltmelerini beklemesi yeterli değil. Ollman, sürekli pentest yaklaşımının model tabanlı riskleri daha erken yakalamak için kritik olduğunu vurguluyor. Raporda ayrıca en hızlı ekiplerin yüksek riskli bulguları 10 günde kapattığı, alt grupta ise bu sürenin 249 güne kadar uzadığı belirtiliyor.
Bu rapor, LLM güvenliğinin artık ileride bakılır bir konu olmadığını; kurumların bugün karşılaştığı, ölçülebilen ve yüksek risk üreten bir alan olduğunu gösteriyor. Özellikle yapay zekânın iş süreçlerine hızla yerleştiği bir dönemde, model performansı kadar modelin nasıl saldırıya açık hale geldiği de haberin merkezine alınmalı.