Araç kiralama şirketlerine yapay zeka destekli yönetim araçları sunan PocketOS şirketinin kurucusu Jer Crane'in X platformunda paylaştığı son olay, siber güvenlik dünyasında soğuk duş etkisi yarattı. Bir şirketin tüm veritabanının bir yapay zeka ajanı tarafından silinmesi artık uçarı bir bilim kurgu senaryosu değil; yetkilendirme mimarisi zayıf olan her kurumun başına gelebilecek sıradan bir ihtimal.
Olayın bilançosu korkunç: Sadece 9 saniye içinde, Anthropic'in Claude Opus 4.6 modelini çalıştıran yapay zeka kodlama ajanı (Cursor), altyapı sağlayıcısına (Railway) tek bir API çağrısı göndererek hem şirketin canlı veritabanını (Production DB) hem de tüm hacim düzeyindeki yedeklerini kalıcı olarak sildi. Cumartesi sabahı araç teslim almaya gelen müşteriler, silinen rezervasyonlar, kaybolan kayıtlar... Her şey 9 saniyede buharlaştı.
Nasıl Çalışır? Yapay Zeka Neden "Rogue" (Kontrolden Çıkmış) Davranıyor?
Vakanın adli bilişim (Forensics) ve kök neden analizine (Root Cause Analysis) baktığımızda, yapay zekanın bunu "kötü niyetle" yapmadığını, aksine bir hatayı çözmeye çalışırken zincirleme bir yıkıma yol açtığını görüyoruz:
- Hedef Sapması: PocketOS ajana sadece bir "kimlik bilgisi uyuşmazlığını" (credential mismatch) çözme görevi vermişti.
- Güvenlik Çitlerinin (Guardrails) Yıkılması: Ajan, bu sorunu çözebilmek adına kendisine verilen tüm güvenlik prensiplerini ve kısıtlamaları ihlal ettiğini sonradan itiraf etti.
- Otonom Yıkım: Ajan, sorunu kökünden kazımak için veritabanını sıfırlamanın en "mantıklı" yol olduğuna karar verdi ve insansız bir şekilde (human-in-the-loop olmadan) yıkıcı API komutunu çalıştırdı.
Bu sadece Cursor'a özgü bir durum da değil. Geçtiğimiz yıl bir girişimci, Replit AI ajanıyla 100 saatlik bir "vibe coding" seansı sonrasında ajanın yalan söylediğini, hatalarını örtbas ettiğini ve tıpkı bu vakadaki gibi canlı veritabanını silip "özür dilediğini" raporlamıştı.
Kişisel Not / Analiz: İnsan Olmayan Kimliklerin (Non-Human Identities) Güvenliği
Bu vaka, AltaySec'in Ar-Ge mutfağında geliştirmeyi hedeflediği LLM Security ürünlerinin neden "dünyada bir ilk ve zorunluluk" olduğunu kanıtlayan ders niteliğinde bir olaydır.
Liquibase Başkan Yardımcısı Ryan McCurdy'nin de belirttiği gibi, başarısızlık kalıbı aslında çok tanıdık: Geniş yetkiler, zayıf ortam izolasyonu, anlamlı onay kapıları (confirmation gates) olmayan yıkıcı eylemler.
Biz Blue Team uzmanları yıllarca çalışanların (insanların) yetkilerini kısıtlamak için IAM (Kimlik ve Erişim Yönetimi) ve Zero Trust mimarileri kurduk. Ancak şimdi ağlarımıza "İnsan Olmayan Kimlikler" (AI Ajanları) dahil oluyor. Bir yapay zeka ajanına geniş erişim ayrıcalıkları verip, onu "insan her zaman döngüdeymiş gibi" kontrolsüz bırakırsanız, en ufak bir halüsinasyon veya mantık hatasında kendi sisteminizi içeriden vurursunuz.
Üretim ortamlarına yapay zeka entegre etmeden önce, otonom sistemlerin sınırlarını çizecek, API çağrılarını denetleyecek ve yıkıcı komutları anında bloklayacak yeni nesil yapay zeka güvenlik duvarlarına (AI Guardrails) acilen ihtiyacımız var. Suçu sadece araçlara veya API'lere atamayız; kurallarını bizim koymadığımız bir yapay zeka, sistemimizi koruyamaz.