İngiltere Kralı Charles: 'Yapay zeka yanlış ellerde felaket olur'.

İngiltere Kralı Charles III, İskoçya'daki Dumfries House malikanesinde yapay zeka güvenliği üzerine bir toplantı düzenledi. Toplantıya Nvidia CEO'su Jensen Huang, Google DeepMind, OpenAI ve Anthropic'in üst düzey yöneticileri katıldı.

Kral, açılış konuşmasında yapay zekanın tıp ve yaşam bilimlerindeki yararlarını kabul etti ancak bu teknolojinin kontrolsüz büyümesinin yarattığı risklere dikkat çekti.

Charles şu cümleleri kullandı: "Bu tür teknolojilerin yanlış ellere düşmesinin ve potansiyel olarak felaketle sonuçlanabilecek şekillerde kullanılmasının yol açabileceği varoluşsal tehlikeleri yeterince değerlendirmek konusunda aciliyet var gibi görünüyor.

Her şey için çok geç olmadan önce yeterli kontrol araçlarına ihtiyacımız olduğu kesin, değil mi?"

Kral'ın bu uyarısı, son haftalarda teknoloji dünyasında yoğunlaşan 'AI kontrolden çıkabilir' tartışmasının bir yansıması. Bazıları acilen yeni kurallar getirilmesi ve çalışmaların yavaşlatılması gerektiğini savunuyor.

Diğer yanda Nvidia gibi bu pazardan doğrudan beslenen şirketler daha iyimser.

Toplantı sonrası basına konuşan Jensen Huang, yapay zekanın "sorumlu iyimserlik" anlayışıyla geliştirilmesi gerektiğini söyledi. Huang'a göre ürünlerin piyasaya sürülmeden önce kapsamlı test edilmesi şirketlerin sorumluluğundadır.

Huang şöyle dedi: "Hazır değilse, onu bekletin. Elinizden geldiğince hızlı ilerlemelisiniz ama bundan daha hızlı değil."

Neden şimdi, neden Charles?

Kral Charles uzun yıllardır çevre ve bilim konularında kampanya yürütmüş bir isimdir. Yapay zeka gündemine girmesi, konunun artık yalnızca mühendisler tarafından değil, devlet başkanları ve kraliyet aileleri tarafından da 'varoluşsal' bir risk olarak görüldüğünü gösterir.

Dumfries House, Kral'ın vakfının merkezi olduğu için bu toplantı yarı resmi bir nitelik kazandı.

Sektörün iki kutbu

• **Güvenlik yanlıları:** Model eğitiminde şeffaflık, bağımsız denetim ve uluslararası standartlar ister.

• **Hız yanlıları:** Düzenlemenin yeniliği engelleyeceğini, test süreçlerinin zaten yeterli olduğunu savunur.

Huang'ın "bekletin" demesi, şirket içi süreçlere vurgu yaptığını ama dışarıdan bir moratoryum istemediğini işaret eder.

Türkiye için ne anlama geliyor?

Türkiye büyük dil modeli (metinden anlam çıkaran yapay zeka sistemi) geliştirmede öncü ülkeler arasında olmasa da, bu modelleri tüketen ve uygulamalara entegre eden geliştirici topluluğu büyüyor.

Uluslararası standartlar belirlendiğinde yerel yazılım firmalarının uyum maliyeti artabilir.