Yapay genel zekayı kim denetleyecek? Google DeepMind yeni bir enstitüyle cevap arıyor.

Platform, AGI'nin nasıl yönetileceğinden bu teknolojiye uyum sağlamak için hangi kurum ve politikalara ihtiyaç duyulacağına kadar farklı sorulara odaklanacak.

Kurucular, bu tartışmalara teknoloji uzmanlarının yanı sıra kamu, sanat ve beşeri bilimler gibi alanlardan katılımın da gerekli olduğunu vurguluyor.

İlk dört yayın: ekonomi, şeffaflık ve değerlendirme

Enstitü, faaliyetlerine dört yazıyla başladı. İlk yayınlar; AGI'nin yaratabileceği ekonomik dönüşüme yönelik politikaları, modellerin akıl yürütme süreçlerinin şeffaflığını, toplumsal refahı ve en gelişmiş modellerin değerlendirilmesini ele alıyor. Ekonomi odaklı çalışma, toplumların olası ekonomik sarsıntıları yönetmek için uygulayabileceği 11 politikayı inceliyor.

Hassabis'in önerisi: ABD öncülüğünde standartlar kurumu

Yayınlar arasında Demis Hassabis'in ABD öncülüğünde bir yapay zekâ standartları kuruluşu oluşturulması önerisi dikkat çekiyor. Öneriye göre geliştiriciler, ilk aşamada en gelişmiş modellerini piyasaya çıkarmadan önce, 30 güne kadar uzanan bir değerlendirme süreci için gönüllü olarak paylaşabilecek.

Değerlendirme sisteminin etkinliği kanıtlandıktan sonra bu testlerden geçmek, modellerin ABD pazarında kullanıma sunulmasının koşulu haline gelebilecek.

Söz konusu kuruluşun zamanla şirketlerden bağımsız ve içeriği geliştiricilerle paylaşılmayan testler hazırlaması öngörülüyor. Böylece modellerin yalnızca bilinen testleri geçecek şekilde optimize edilmesinin önüne geçilmesi hedefleniyor.

Hassabis, risklerin gerektirmesi halinde bu yapının önde gelen laboratuvarlar arasında geliştirme hızının koordineli biçimde yavaşlatılmasını da sağlayabileceğini belirtiyor.

Şeffaflık üzerine: Akıl yürütme adımlarının korunması

Google DeepMind araştırmacıları Rohin Shah ve Anca Dragan ise modellerin insanlar tarafından okunabilen akıl yürütme adımlarının korunmasına odaklanıyor. Araştırmacılara göre bu kayıtlar, modellerin aldatıcı davranışlarını ve güvenlik sorunlarını tespit etmek için önemli bir araç.

Daha verimli ancak daha az şeffaf mimarilere geçilmesi durumunda geliştiricilerin, yeni sistemlerin benzer düzeyde denetlenebildiğini göstermesi gerektiği savunuluyor.

Enstitüde yayımlanan yazıların Google'ın resmi görüşünü temsil etmediği belirtilerek, platformun farklı ve zaman içinde değişebilecek görüşlere alan açarak AGI'ye ilişkin teknik ve toplumsal tartışmaları genişletmeyi amaçladığı kaydedildi.