Yapay zekâ açık kaynağın güvenlik bekçisi oluyor: Anthropic'in yeni hamlesi ne anlama geliyor.
Anthropic, açık kaynak yazılım projelerine ücretsiz güvenlik açığı taraması sunan OSS Scanner hizmetini duyurdu. Taramaları şirketin en güçlü modelleri yapacak; ancak raporlar insan denetiminden geçmeyecek.
Anthropic, açık kaynak yazılım projelerinin kodlarındaki güvenlik açıklarını ücretsiz tarayan yeni bir hizmet duyurdu. OSS Scanner adı verilen araç, katılan projeleri şirketin en güçlü yapay zekâ modelleriyle düzenli aralıklarla tarayacak.
Şirketin açıklamasına göre hizmete katılan projeler, en güçlü modeller tarafından herhangi bir ücret ödemeden kapsamlı ve periyodik güvenlik taramalarından geçirilecek.
İnsan denetimi olmayacak
Hizmetin ücretsiz olmasının bir karşılığı var: tarama raporlarını hiçbir insan gözden geçirmeyecek. Anthropic, bu noktayı açıkça belirtiyor:
"Bu isteğe bağlı güvenlik açığı tarayıcısının çıktıları tamamen model tarafından üretilecek; insan incelemesi ya da elemeye tabi tutulmayacak." — Anthropic
Şirket, bu yaklaşımın daha hızlı ve daha sık tarama yapılmasını sağlayacağını, ancak raporların hatalı ya da geçersiz olma ihtimalini de beraberinde getirdiğini kabul ediyor.
Raporlar, Claude Mythos da dahil olmak üzere Anthropic'in en güçlü modelleri tarafından oluşturulacak. Amaç, açık kaynak projelere mümkün olan en büyük savunma avantajını vermek.
Google'ın izinden gidiyor
Anthropic bu fikri sıfırdan üretmiş değil; şirket, aracın Google ile OpenSSF (Açık Kaynak Güvenlik Vakfı) tarafından geliştirilen OSS-Fuzz tarayıcısından ilham aldığını belirtiyor. OSS-Fuzz 2016'dan bu yana kullanılıyor.
Anthropic, Claude Security adlı ücretli ürünüyle genel erişime açık kod taraması ve yama uygulama işlemlerini gerçekleştiriyor. Aynı zamanda duyurduğu OSS Scanner hizmeti, benzer güvenlik denetimlerini ücretsiz sunuyor. İki ürün arasındaki temel fark, ücretsiz sürümde insan incelemesinin bulunmaması.
(No output)
Google ve Anthropic'in bu tür hizmetleri sunması yalnızca yardımseverlikle açıklanmıyor. İki şirket de internetin temelini oluşturan açık kaynak kod projelerine yoğun biçimde bağımlı. Bu projelerin çoğu, ücret almayan gönüllü geliştiriciler tarafından yürütülüyor.
Bu kodlardaki güvenlik açıkları ciddi bir tehdit oluşturuyor. Yakın tarihteki en çarpıcı örnek, XZ Utils arka kapısıydı. Bu açık, bilgisayar korsanlarına dünya genelinde milyonlarca sistemde yönetici düzeyinde kontrol elde etme imkanı sunabilirdi.
Yapay zekâ modelleri son günlerde güvenlik açıklarını tespit etme ve bunlardan yararlanma konusunda oldukça yetenekli hale geldi. Anthropic'in yeni tarayıcısı, bu yeteneği savunma amacıyla açık kaynak geliştiricilere sunuyor.
Hizmete nasıl başvurulacağı ve taramaların ne sıklıkla yapılacağı henüz belirli değildir.
Bu haber işinize yaradı mı?
