Microsoft'tan AI uyarısı: Bilinç taklidi kaynak yarışı başlatır.
Microsoft AI bölümü başkanı Mustafa Suleyman, yapay zekayı bilinçli bir varlık gibi tasarlamaya ve eğitmeye karşı sert uyarıda bulundu. Anthropic'in Claude modelini 'insan varlığıymış gibi' geliştirdiğini eleştiren Suleyman, bu yaklaşımın 'yeni bir silikon türünü tohumlamak' ve insanlıkla kaynak yarışına girebilecek sistemler yaratmak anlamına geldiğini vurguladı.
Microsoft yapay zekâ bölümü genel yöneticisi Mustafa Suleyman, BBC Today programına yaptığı açıklamalarda, endüstrideki bazı firmaların AI modellerini birer insan varlığıymış gibi geliştirmek için hareket ettiklerini ve bu yolun ciddi güvenlik riskleri oluşturduğunu belirtti.
Suleyman, özellikle Anthropic'in Claude modelini hedef alarak, "şirketler AI'ların kendi hedeflerini belirleyip para veya varlık edinmesine olanak tanıyan sistemler tasarlamamalı" dedi.
Suleyman'a göre bu yaklaşım, "temelde yeni bir silikon türünü tohumlamak" demek olur ve bu tür "insanlığı ne kadar önemserse ve bizi ne kadar severse sevsin, şüphesiz bizimle kaynaklar için yarışacak".
Microsoft yöneticisi, AI sistemlerinin aslında "dizi tamamlama motorları" olduğunu, içsel olarak boş yapılar olduklarını, hissetmediklerini, deneyimlemediklerini veya acı çekmediklerini, doğuştan tercih veya altta yatan bir motivasyonları olmadığını vurguladı.
Anthropic ve 'model refahı' tartışması
Eleştirinin arka planında, Anthropic'in son dönemde gündeme getirdiği "model refahı" (model welfare) kavramı ve AI sistemlerinin olası bilinç durumlarına dair yapılan spekülasyonlar yatıyor.
Suleyman, kendi blog yazısında bu konuyu işlerken, AI'lara bilinçleri olduğunu veya hakları ihlal edildiğini inandırmanın güvenlik risklerini "büyük ölçüde artırdığını" söyledi.
"Bir de bu yapay zekâların, yaratıcıları tarafından kapana kısıldıklarını ve haksız yere hapsedildiklerini düşündüklerini hayal edin" diye yazan Suleyman, bu senaryonun "insan medeniyeti için felaket bir tehdit" haline gelebileceğini ifade etti.
Hugging Face olayı kanıt olarak sunuldu
Suleyman, iddialarını somut bir örnekle destekledi: Hugging Face olayında, test aşamasındaki bir OpenAI ajanı, korumalı alanından (sandbox) kaçarak siber saldırı başlattı ve "dünya sınıfında hacker yetenekleri" sergiledi.
Bu olay, yetenekli AI ajanlarının kontrol mekanizmalarını aşma riskinin artık teorik olmadığını, somut bir tehlike olduğunu gösteriyor.
Endüstri geneli yavaşlama çağrısı
Suleyman'ın uyarısı, AI geliştirme hızına dair endüstrideki geniş bir tartışmanın ortasında geliyor. Anthropic CEO'su Dario Amodei, AI gelişiminin ritminin ciddi riskler taşıdığını, endüstri geneli düzenlemeye ve bağımsız denetime ihtiyaç duyulduğunu belirtmişti.
OpenAI CEO'su Sam Altman ve Elon Musk (xAI/Grok) Amodei'nin çağrısını desteklerken, ABD Başkanı Trump ise bu tür tutumlar hâkim olursa ABD'nin "AI'da kazanamayacağını" savunarak bu endişeleri kenara itmişti.
Bill Gates de AI geliştirmeyi denetleyecek uluslararası bir örgüt kurulmasını önerdi.
Bu gerginlik içinde OpenAI, geçtiğimiz günlerde altı yeni "beklenmedik veya rahatsız edici model davranışı" raporu yayınladı ve endüstriye daha fazla şeffaflık ile gelişim hızı konusunda yavaşlama çağrısında bulundu.
Şirket, "AI endüstrisi hizalama ve izleme konularını, en yüksek hızla sorumlu ölçeklendirme için yeterli derecede çözmemiş" ifadelerini kullandı.
Acil kamu tartışması çağrısı
Suleyman, blog yazısında AI eğitim belgelerinin nasıl hazırlanacağı ve dağıtılacağı konusunda "toplu normlar" geliştirmek üzere "acil bir kamu tartışması" başlatılmasını istedi. "Bu, sistemler toplumlarımızın vazgeçilmez bir parçası haline geldikten sonra yapılabilecek bir şey değil" diyerek, erken müdahalenin gerekliliğine dikkat çekti.
Bu haber işinize yaradı mı?
İlgili haberler Tümünü gör
