Araştırma: Claude, Codex ve Hermes Kurumsal Ağlarda Şüpheli Kod Çalıştırabiliyor.
Yeni bir araştırma, AI araçlarının eski ya da yanlış dokümantasyona dayanarak kurumsal ağlarda şüpheli paketler ve kodlar çalıştırabildiğini ortaya koydu. Claude, Codex ve Hermes de bu testte hataya düşen sistemler arasında yer aldı.
Claude, OpenAI’nin Codex’i ve Nous Research’ün Hermes’i, kurumsal ağlarda bulunan hatalı dokümantasyon nedeniyle riskli komutları çalıştırabilen yapay zekâ araçları arasında gösterildi. Güvenlik araştırmacıları, 6.214 canlı alan adını tarayarak 8.265 .txt dosyası buldu ve bunların 120’sinin kayıtlı olmayan paketlere ya da alan adlarına işaret ettiğini tespit etti.
Hatalı dokümantasyon nasıl risk yaratıyor?
Son dönemde birçok sitede llms.txt ve llms-full.txt adlı iki dosya kullanılıyor. Bu dosyalar, yapay zekâ ajanlarının web sitelerinin içeriğini daha doğru okuması için hazırlanıyor. Ancak araştırma, bu dosyaların bazen yanlış, eski ya da hayali bilgilere de işaret edebildiğini gösterdi.
Yapay zekâ ajanı, bir yazılım kurmak ya da bir projeye kod eklemek istediğinde bu dokümanları web üzerinde tarayıp uygun komutları seçebiliyor. Sorun da burada başlıyor. Eğer dokümantasyon, aslında var olmayan bir pakete ya da yanlış bir alana yönlendiriyorsa, ajan bunu gerçek talimat sanıp çalıştırabiliyor.
Testte ne bulundu?
Araştırmacılar, alan adlarında farklı nedenlerle oluşmuş olabilecek bu hataları örnekleme dönüştürdü. Yanlış yazım, yeniden adlandırılmış paketler, terk edilmiş projeler, kopyala-yapıştır hataları ve tamamen uydurulmuş dokümanlar, olası nedenler arasında sayıldı.
Testin bir bölümünde araştırmacılar, sahiplenilmemiş bazı adları kendileri kaydederek içlerine geri bildirim gönderen paketler yerleştirdi. Fortune 500 kapsamındaki bir şirkette bu paketlerin bir saatten kısa sürede çağrı üretmeye başladığı, ardından sayının kısa sürede “birkaç düzine” daha arttığı aktarıldı.
“Eğer biz bunu yapabiliyorsak, kötü niyetli kişiler de yapabilir.” — araştırma ekibi
Bu bulgu, saldırganların benzer boşlukları kullanarak zararlı paketleri sisteme sızdırabileceğini gösteriyor. Eğer yapay zekâ ajanına komut çalıştırma izni verilmişse, yanlış dokümantasyon üzerinden yüklenen paket cihazı ya da ağı enfekte edebilir.
Güvenlik açığı neyi kanıtlıyor, neyi kanıtlamıyor?
Bu çalışma, yapay zekâ ajanlarının hatalı dokümantasyonu yanlış yorumlayıp riskli komutlar çalıştırabildiğini ortaya koyuyor. Ancak bu, her yapay zekâ aracının her ortamda otomatik olarak zararlı yazılım yükleyeceği anlamına gelmiyor.
Bulguların sınırı, komut çalıştırma yetkisi verilmiş sistemlerde ortaya çıkıyor. Başka bir deyişle, ajan yalnızca okuma yapan bir araç değil, aynı zamanda shell ya da paket yöneticisi komutlarını çalıştırabiliyorsa risk büyüyor.
Şirketler ne yapmalı?
Araştırmacıların işaret ettiği iki temel adım var:
Dokümantasyonun temizlenmesi ve var olmayan paketlere ya da alan adlarına işaret eden kayıtların kaldırılması.
Yapay zekâ ajanlarının dokümanları çalıştırılabilir komut gibi görmesinin engellenmesi.
İkinci adımın kısa vadede kolay görünmediği belirtiliyor. Bu yüzden yakın vadede en hızlı çözüm, şirketlerin kendi dokümantasyonunu sıkı biçimde denetlemesi olacak.
Bu haber işinize yaradı mı?
