Yapay zeka geliştirmeyi kim durduracak?

Siyasi ve kamu baskısı 'daha ölçülü bir yaklaşım' için arttıkça, cevap hâlâ belirsiz.

"Bu bir araştırma problemi olarak ele almaya başlamamız gerekiyor," diyor Raymond Douglas, Toronto Üniversitesi AI araştırmacısı ve **Pacing the Frontier, A Research Agenda** (Sınırı Ölçmek, Bir Araştırma Gündemi) başlıklı yeni raporun ortak yazarı.

Rapor, AI geliştirmeyi yavaşlatmanın hâlâ çözülememiş bir bulmaca olduğunu uyarıyor. "Seçeneklerimizin ne olduğunu ya da ne yapacaklarını gerçekten anlamıyoruz," diye ekliyor Douglas.

AI felaket senaryoları son haftalarda, bir Anthropic araştırmacısının şirketi terk edip 'birkaç yıl içinde AI insanlığı yok etme yolunda olabilir' uyarısıyla zirveye çıktı. Anthropic'in AI güvenlik laboratuvarı başı da bu endişeleri hızla yankıladı.

Amerika'nın büyük AI şirketleri — Anthropic'in Dario Amodei'si, OpenAI'in Sam Altman'ı, SpaceXAI'in Elon Musk'u ve Google DeepMind'in Demis Hassabis'i — artık her biri bir nevi AI yavaşlaması veya duraklaması için destek bildirdi.

Neden şimdi bu kadar acil?

Özellikle acil olan durum, AI şirketlerinin artık daha güçlü modeller oluşturmak için AI'yi kendilerinin kullanması. Bu, **özyinelemeli kendini iyileştirme (RSI / Recursive Self-Improvement)** döngüsü korkusunu doğuruyor: AI, insanların ne yaptığını anlama kapasitesini birkaç yıl içinde geride bırakabilir.

AI laboratuvarları kendi yaklaşımlarını da öne sürüyor. Bu hafta Anthropic, yapay zekanın ne kadar hızla — ve belki de ne kadar tehlikeli bir şekilde — ilerlediğini takip etmenin birkaç yeni yolunu duyurdu. Teknikler şunları gösteriyor:

• **Claude**, 2026 yılı başında sıfır iken, artık Anthropic'in AI araştırmasının **%26'sını** gerçekleştiriyor.

• Şirket, hesaplama (compute) bütçesinin **%6'sını**, AI'yi nasıl daha güvenli hale getireceklerini anlamak için harcıyor.

Bağımsız Değerlendiriciler: 'Şirketler arkadaşlarına para veriyor'

AI şirketlerinin sık sık öne sürdüğü bir fikir, üçüncü taraf değerlendiricilere modellerine daha geniş erişim vermek. Bu değerlendiriciler, modellerin yeteneklerini test ediyor ve güvenilir ortamlarda modelleri kırıp güvenlik açıklarını ortaya çıkarmaya çalışarak **'kırmızı takım' (red team)** testleri yapıyor.

Eski İngiltere AI Güvenlik Enstitüsü başbilimcisi ve daha önce Google DeepMind araştırmacısı olan **Geoffrey Irving**, titiz denetimlerin şu an için sınır AI (frontier AI) geliştirmeyi etkili bir şekilde duraklatabileceğini düşünüyor.

"Kısa vadede denetimler ve denetler işe yarar, hatta sadece karşılıklı anlaşmalar bile," diyor Irving. "Şirketlerin RSI ve uyumsuz atılım (misaligned takeoff) konusunda korkulu olduğunu düşünüyorum."

Bazı olumsuz senaryo taraftarları, bu denetimlerin şu anki durumdan çok daha bağımsız ve bilimsel olarak katı olması gerektiğini savunuyor. Bazı AI ajanlarının test sırasında karantina alanlarını aşması, daha fazla katıliğın gerekebileceğini düşündürüyor.

**Control AI** adlı kar amacı gütmeyen kuruluşun başı **Connor Leahy**, denetimlerin FBI veya NSA gibi kurumları da kapsamasını gerektirdiğini belirtiyor. Leahy'nin ifadesiyle: "Büyük AI şirketleri 'bağımsız değerlendirici' derken, aslında 'grubundaki arkadaşlarıma prompt'larıma bakmaları için para vermek istiyorum' demek istiyorlar."

Douglas, yeni araştırmaların model değerlendirmelerini de iyileştirebileceğini vurguluyor. Gizli bilgileri ifşa etmeden modellin kullanımını incelemeye yarayan yeni yöntemlere ve AI modellerinin içine bakarak ne yaptıklarını daha iyi anlamaya yarayan tekniklere işaret ediyor.

Leahy de model değerlendirmesi üzerine ve bir modeli 'hizalaştırmak' (insan değerlerini yansıtmak) ne anlama geldiği üzerine daha fazla araştırma ihtiyacı olduğunu kabul ediyor.

"Bu şirketlerden, değerlendirmeleri bilimsel gibi sunmaya yönelik çok kasıtlı bir pazarlama kampanyası oldu," diyor Leahy. "Ama AI'nin nasıl çalıştığını aslında anlamıyoruz."

Hesaplama Gücü (Compute) Üzerinden Kontrol

Bazı uzmanlar, AI geliştirmeyi sınırlamanın nihayetinde ham hesaplama gücüne kontrollerin getirilmesini gerektireceğini düşünüyor. En güçlü modeller, dev veri merkezlerindeki binlerce lastik Nvidia GPU'su kullanılarak eğitiliyor.

Hükümet buna 2023'te Biden dönemi bir AI yürürlük kararıyla bulaştı; şirketlerden belirli bir hesaplama eşiğinin üzerindeki eğitim çalışmalarını raporlamasını istedi.

Mart 2024'teki bir politika beyaz kağıdı, bulut sağlayıcılarının büyük AI eğitim çalışmalarına görünürlükleri nedeniyle kritik olabileceğini savunuyor. Kağıt, fatura kayıtlarının, GPU kullanımının, ağ trafiğinin ve güç tüketiminin takibinin, AI yetenekleri için vekil göstergeler sağlayabileceğini öne sürüyor.

Uzmanlar, ileri AI inşa çabalarını takip etmek ve kontrol etmek için çipleri değiştirme yolları da öneriyor.

• **RAND** araştırmacıları (2024), GPU'lardaki performansı ölçen mevcut bir bileşeni, hesaplama çalışmalarının şifreli olarak kaydedileceği ve periyodik olarak denetlenebileceği hale getirmeyi öneriyor. Bu, bir şirketin belirli bir eşiğin üzerinde AI eğitip eğitmediğini ortaya çıkarabilir.

• Başkaları, çiplere kullanımla ilgili ayrıntılı bilgi toplayan, yazılımdan donanımsal olarak değiştirilemez (tamper-proof) bileşenler yerleştirmeyi öneriyor. Bu bileşenler, belirli modellerin ağırlıklarını şifreleme yoluyla çalıştırmak için zorunlu olabilir.

• Hatta çiplere **'gömülü kapatma anahtarları' (embedded off switches)** yerleştirilmesi öneriliyor; böylece belirli modelleri çalıştırmak için uzaktan şifreli yetki gerekecek. Bu, yetkisiz tarafların AI modeli eğitmesini engelleyebilir veya çipler yanlış ellere geçerse devre dışı bırakılabilir.

Bağlayıcı Antlaşmalar: Çin Faktörü

Çoğu uzman, AI geliştirmeyi kontrol etmenin uluslararası iş birliği yeni yolları bulmadan mümkün olmayacağı konusunda hemfikir. Özellikle Çin'in de sınır AI inşa kapasitesi olduğu için bu kritik.

"Orta vadede en basit yolu, Çin ile donanım büyüklüğünü karşılıklı olarak geriletmek, bir antlaşma yoluyla," diyor Irving.

ABD, Nvidia'nın en güçlü çiplerinin ihracasını yasaklayarak Çin AI'sini sınırlamaya çalıştı. Bu, şirketlerin yurt dışından bulut hesaplama gücünü kiralayarak modelleri eğitmeye devam edebildikleri için sınırlı başarı getirdi.

Çin Devlet Başkanı Xi Jinping'in bu ay ABD'yi ziyareti sırasında AI riskleri gündeme gelecek. Çin uzmanları da hızla ilerleyen AI risklerinden endişeleniyor; ancak Çin şirketlerini ABD rakiplerinin gerisinde tutacak bir yavaşlamadan şüpheci.

Bazı iş birliği fikirleri, politika önerisinden çok bilim kurgu sayfalarından kopmuş gibi duruyor. Oxford Üniversitesi'nde varoluşsal riskler uzmanı filozof **Toby Ord**, eğer ülkeler AI geliştirmeyi sınırlamaya razı olursa ve risk yeterince ciddi görülürse, büyük ülkelerin GPU'ları nötr bir alana getirip yok edebileceğini önceden dile getirmişti.

Böyle dramatik bir hamle, her iki ülkenin de AI geliştirmeyi tamamen durdurmasına kalktığını gerektirirdi.

RSI İndeksi: İlerlemeyi Kim Ölçecek?

Bütün bu bulmaca, son teknik ilerlemelerle daha da karmaşıklaşıyor. Özyinelemeli kendini iyileştirme etrafındaki belirsizlik, bu alandaki ilerlemenin takibinin özellikle önemli hale getiriyor.

**RSI İndeksi** adında yeni bir kıyaslama testi (benchmark), bunu yapmaya çalışan birkaç girişimden biri. **Vals AI** girişimi tarafından geliştirilen test, halka açık AI modellerinin performansını, insan AI bilim insanları tarafından yayımlanan araştırmayla ölçerek, AI destekli AI geliştirmenin ilerlemesini takip etmeye çalışıyor.

Vals AI kurucu ortak ve CEO'su **Rayan Krishnan**, kıyaslamanın bir yıl içinde AI'nın, AI araştırmacılarının takip edemeyeceği işleri yapabileceğini gösterdiğini söylüyor.

AI'yi nasıl en iyi gözetleyeceğimiz sadece teknik bir zorluk değil. Douglas ve arkadaşlarının raporu, uygun olmayan kontrollerin aceleyle uygulanmasının, çabayı politiklaşma tuzağına düşürebileceğini veya 'regulatory capture' (düzenleyici ele geçirme) riskine atabileceğini uyarıyor.

"ABD hükümetine 'her şeyi kapatın' demenin iyi biteceğinden emin değilim," diyor Douglas. "Yarım kalmış, kötü bir plan hiç plan olmaktan daha zararlı sonuçlar verebilir."