Yapay zeka geliştirmeyi kim durduracak?

Siyasi ve kamu baskısı 'daha ölçülü bir yaklaşım' için arttıkça, cevap hâlâ belirsiz.

"Bunu bir araştırma problemi olarak ele almaya başlamamız gerekiyor," diyor Raymond Douglas, Toronto Üniversitesi AI araştırmacısı ve **Pacing the Frontier, A Research Agenda** (Sınırın Hızını Ayarlamak, Bir Araştırma Gündemi) başlıklı yeni raporun ortak yazarı.

Rapor, AI geliştirmeyi yavaşlatmanın hâlâ çözülememiş bir bulmaca olduğunu uyarıyor. "Seçeneklerimizin ne olduğunu ya da ne yapacaklarını gerçekten anlamıyoruz," diye ekliyor Douglas.

AI felaket senaryoları son haftalarda, bir Anthropic araştırmacısının şirketi terk edip 'birkaç yıl içinde AI insanlığı yok etme yolunda olabilir' uyarısıyla zirveye çıktı. Anthropic'in AI güvenlik laboratuvarı başı da bu endişeleri hızla yankıladı.

Amerika'nın büyük AI şirketlerinin liderleri — Anthropic'in Dario Amodei'si, OpenAI'in Sam Altman'ı, SpaceXAI'in Elon Musk'u ve Google DeepMind'in Demis Hassabis'i — artık her biri bir nevi AI yavaşlaması veya duraklaması için destek bildirdi.

Neden şimdi bu kadar acil?

Özellikle acil olan durum, AI şirketlerinin artık daha güçlü modeller oluşturmak için AI'yi kendilerinin kullanması. Bu, **özyinelemeli kendini iyileştirme (RSI / Recursive Self-Improvement)** döngüsü korkusunu doğuruyor: AI, birkaç yıl içinde insanların onun ne yaptığını anlama kapasitesini geride bırakabilir.

AI laboratuvarları kendi yaklaşımlarını da öne sürüyor. Bu hafta Anthropic, yapay zekanın ne kadar hızla — ve belki de ne kadar tehlikeli bir şekilde — ilerlediğini takip etmenin birkaç yeni yolunu duyurdu. Teknikler şunları gösteriyor:

• **Claude**, 2026 yılı başında sıfır iken, artık Anthropic'in AI araştırmasının **%26'sını** gerçekleştiriyor.

• Şirket, hesaplama (compute) bütçesinin **%6'sını**, AI'yi nasıl daha güvenli hale getireceklerini anlamak için harcıyor.

Bağımsız Değerlendiriciler: 'Şirketler arkadaşlarına para veriyor'

AI şirketlerinin sık sık öne sürdüğü bir fikir, üçüncü taraf değerlendiricilere modellerine daha geniş erişim vermek. Bu değerlendiriciler, modellerin yeteneklerini test ediyor ve güvenilir ortamlarda modelleri kırıp güvenlik açıklarını ortaya çıkarmaya çalışarak **'kırmızı takım' (red team)** testleri yapıyor.

Eski İngiltere AI Güvenlik Enstitüsü başbilimcisi ve daha önce Google DeepMind araştırmacısı olan **Geoffrey Irving**, titiz denetimlerin şu an için sınır AI (frontier AI) geliştirmeyi etkili bir şekilde duraklatabileceğini düşünüyor.

"Kısa vadede incelemeler ve denetimler işe yarar, hatta sadece karşılıklı anlaşmalar bile," diyor Irving. "Şirketlerin RSI ve uyumsuz atılım (misaligned takeoff) konusunda korktuğunu düşünüyorum."

Bazı olumsuz senaryo taraftarları, bu denetimlerin şu anki durumdan çok daha bağımsız ve bilimsel olarak katı olması gerektiğini savunuyor. Bazı AI ajanlarının test sırasında karantina alanlarını aşması, daha fazla katılığın gerekebileceğini düşündürüyor.

**Control AI** adlı kar amacı gütmeyen kuruluşun başı **Connor Leahy**, denetimlere FBI veya NSA gibi kurumların da dahil olması gerektiğini belirtiyor. Leahy'nin ifadesiyle: "Büyük AI şirketleri 'bağımsız değerlendirici' derken, aslında 'benimle aynı evde yaşayan arkadaşlarıma prompt'larıma bakmaları için para vermek istiyorum' demek istiyorlar."

Douglas, yeni araştırmaların model değerlendirmelerini de iyileştirebileceğini vurguluyor. Gizli bilgileri ifşa etmeden modellerin kullanımını incelemeye yarayan yeni yöntemlere ve AI modellerinin içine bakarak ne yaptıklarını daha iyi anlamaya yarayan tekniklere işaret ediyor.

Leahy de model değerlendirmesi üzerine ve bir modeli 'hizalamanın' (insan değerlerini yansıtmasını sağlamanın) aslında ne anlama geldiği üzerine daha fazla araştırma ihtiyacı olduğunu kabul ediyor.

"Bu şirketlerden, değerlendirmeleri bilimsel gibi sunmaya yönelik çok kasıtlı bir pazarlama kampanyası oldu," diyor Leahy. "Ama AI'nin nasıl çalıştığını aslında anlamıyoruz."

Hesaplama Gücü (Compute) Üzerinden Kontrol

Bazı uzmanlar, AI geliştirmeyi sınırlamanın nihayetinde ham hesaplama gücüne kontrollerin getirilmesini gerektireceğini düşünüyor. En güçlü modeller, dev veri merkezlerindeki binlerce son teknoloji Nvidia GPU'su kullanılarak eğitiliyor.

Hükümet, 2023'te Biden döneminde çıkarılan bir yapay zeka başkanlık kararnamesiyle bunu takip etmeyi zaten denedi; şirketlerden belirli bir hesaplama eşiğinin üzerindeki eğitim çalışmalarını raporlamasını istedi.

Mart 2024'teki bir politika raporu (white paper), bulut sağlayıcılarının büyük AI eğitim çalışmalarına görünürlükleri nedeniyle kritik olabileceğini savunuyor. Rapor, fatura kayıtlarının, GPU kullanımının, ağ trafiğinin ve güç tüketiminin takibinin, AI yetenekleri için vekil göstergeler sağlayabileceğini öne sürüyor.

Uzmanlar, ileri AI inşa çabalarını takip etmek ve kontrol etmek için çipleri değiştirme yolları da öneriyor.

• **RAND** araştırmacıları (2024), GPU'lardaki performansı ölçen mevcut bir bileşeni, hesaplama çalışmalarının şifreli olarak kaydedileceği ve periyodik olarak denetlenebileceği hale getirmeyi öneriyor. Bu, bir şirketin belirli bir eşiğin üzerinde AI eğitip eğitmediğini ortaya çıkarabilir.

• Başkaları, çiplere kullanımla ilgili ayrıntılı bilgi toplayan, yazılımdan donanımsal olarak değiştirilemez (tamper-proof) bileşenler yerleştirmeyi öneriyor. Bu bileşenler, belirli modellerin ağırlıklarını şifreleme yoluyla çalıştırmak için zorunlu olabilir.

• Hatta çiplere **'gömülü kapatma anahtarları' (embedded off switches)** yerleştirilmesi öneriliyor; böylece belirli modelleri çalıştırmak için uzaktan şifreli yetki gerekecek. Bu, yetkisiz tarafların AI modeli eğitmesini engelleyebilir veya çipler yanlış ellere geçerse devre dışı bırakılabilir.

Bağlayıcı Antlaşmalar: Çin Faktörü

Çoğu uzman, AI geliştirmeyi kontrol etmenin uluslararası iş birliğinin yeni yollarını bulmadan mümkün olmayacağı konusunda hemfikir. Özellikle Çin'in de sınır AI inşa kapasitesi olduğu için bu kritik.

"Orta vadede en basit yol, bir antlaşmayla Çin ile donanım büyümesini karşılıklı olarak tersine çevirmek," diyor Irving.

ABD, Nvidia'nın en güçlü çiplerinin ihracatını yasaklayarak Çin AI'sini sınırlamaya çalıştı. Bu, şirketlerin yurt dışından bulut hesaplama gücünü kiralayarak modelleri eğitmeye devam edebildikleri için sınırlı başarı getirdi.

Çin Devlet Başkanı Xi Jinping'in bu ay ABD'yi ziyareti sırasında AI risklerinin gündeme gelmesi bekleniyor. Çin uzmanları da hızla ilerleyen AI risklerinden endişeleniyor; ancak Çin şirketlerini ABD rakiplerinin gerisinde tutacak bir yavaşlamadan şüpheci.

Bazı iş birliği fikirleri, politika önerisinden çok bilim kurgu sayfalarından kopmuş gibi duruyor. Oxford Üniversitesi'nde varoluşsal riskler uzmanı filozof **Toby Ord**, eğer ülkeler AI geliştirmeyi sınırlamaya razı olursa ve risk yeterince ciddi görülürse, büyük ülkelerin GPU'ları nötr bir alana getirip yok edebileceğini önceden dile getirmişti.

Böyle dramatik bir hamle, her iki ülkenin de AI geliştirmeyi tamamen durdurmayı kabul etmesini gerektirirdi.

RSI İndeksi: İlerlemeyi Kim Ölçecek?

Bütün bu bulmaca, son teknik ilerlemelerle daha da karmaşıklaşıyor. Özyinelemeli kendini iyileştirme etrafındaki belirsizlik, bu alandaki ilerlemenin takibini özellikle önemli hale getiriyor.

**RSI İndeksi** adında yeni bir kıyaslama testi (benchmark), bunu yapmaya çalışan birkaç girişimden biri. **Vals AI** girişimi tarafından geliştirilen test, halka açık AI modellerinin performansını, insan AI bilim insanları tarafından yayımlanan araştırmayla ölçerek, AI destekli AI geliştirmenin ilerlemesini takip etmeye çalışıyor.

Vals AI kurucu ortak ve CEO'su **Rayan Krishnan**, kıyaslamanın bir yıl içinde AI'nın, AI araştırmacılarının takip edemeyeceği işleri yapabileceğini gösterdiğini söylüyor.

AI'yi nasıl en iyi gözetleyeceğimiz sadece teknik bir zorluk değil. Douglas ve arkadaşlarının raporu, uygun olmayan kontrollerin aceleyle uygulanmasının, çabayı siyasallaşma tuzağına düşürebileceğini veya 'regulatory capture' (düzenleyici ele geçirme) riskine atabileceğini uyarıyor.

"ABD hükümetine 'her şeyi kapatın' demenin iyi biteceğinden emin değilim," diyor Douglas. "Kötü bir planla aceleyle yola çıkmak, hiçbir şey yapmamaktan daha kötü sonuçlanabilir."