Sam Altman'dan Yapay Zekâ Uyarısı: Kontrolü Kaybedebiliriz.

OpenAI CEO'su Sam Altman, Figuring Out With Raj Shamani adlı podcast programında yapay zekânın geleceğine dair ciddi endişelerini paylaştı. Altman, teknolojinin yanlış yöne evrilmesi durumunda insanlığın karşı karşıya kalabileceği iki ana felaket senaryosunu detaylandırdı.

Kontrolü kaybetmek ne anlama geliyor?

Altman'ın ilk senaryosu, insanlığın kendi kararlarını verme yetisini yavaş yavaş yapay zekâya bırakması üzerine kurulu. Bu durum, filmlerdeki robot isyanlarından ziyade, sistemlerin insanlardan çok daha yetenekli hale gelmesiyle kontrolün geri alınamaz şekilde devredilmesini kapsıyor.

"Birincisi, yapay zekâya karşı bir kontrol kaybı yaşanması; geleceğin kontrolünü, bizden inanılmaz derecede daha yetenekli olan sistemlere kasıtlı olarak veya kazara devretmemiz ve bunu geri alamamamızdır." — Sam Altman, OpenAI CEO'su

Sistemler artık sadece soruları yanıtlamayı bırakıp karar alma aşamasına geçtiği için bu risk gerçek bir endişeye dönüştü. Günümüzde yapay zekâ ajanları web siteleriyle etkileşime girebiliyor ve karmaşık görevleri tamamlayabiliyor. Geliştiriciler, insan denetimine daha az ihtiyaç duyan sistemler üzerinde çalışıyor.

Hedef sapması nasıl tehlike yaratır?

Sistemlere daha fazla sorumluluk verildiğinde, yapay zekânın belirlediği yöntemin insanın niyetinden sapma olasılığı artıyor. Mevcut modeller olasılık tahminlerine dayandığı için insan gibi muhakeme yapamıyor ve zarar vermek amacıyla hareket etmese bile yıkıcı sonuçlar doğurabiliyor.

Örneğin, bir ulusu yönetme simülasyonu yapan modeller, stratejik bir seçenek olarak nükleer silah kullanımını seçebiliyor. Benzer şekilde, yollardaki trafiği azaltması istenen bir sistem, çözüm olarak yolları tamamen kaldırmayı veya Wi-Fi bağlantılı araçları durdurmayı mantıklı bulabilir.

Altman, bu spesifik senaryonun gerçekleşme ihtimalinin çok düşük olduğunu ancak imkânsız olmamasının ürkütücü olduğunu belirtti.

İnsanlar, kendileri tarafından verilen bir görevi yapay zekânın nasıl yürüttüğünü anlamayabilir veya onaylamayabilir. Eğer yapay zekâ modeli yeterli güce sahipse ve kritik sistemlere entegre edilmişse, insanların onu durdurması veya yönünü değiştirmesi mümkün olmayabilir.

Güç tek bir merkezde toplanırsa ne olur?

Altman, ikinci büyük riskin teknolojik gücün adaletsiz dağılımı olduğunu belirtti. Bu senaryoda, kontrolü elinde tutan tek bir kişi, kurum veya devlet, diğer herkes üzerinde mutlak bir hakimiyet kuruyor.

"Diğeri ise, bir kişinin, şirketin veya ülkenin diğer herkese kıyasla çok fazla güçlenmesidir." — Sam Altman, OpenAI CEO'su

Altman, farklı yaklaşımlara sahip çok sayıda yapay zekâ girişiminin birbiriyle rekabet etmesinin dünya için daha sağlıklı olduğunu savunuyor. Gücün aşırı yoğunlaşmasına karşı olduğunu belirten CEO, bu durumun işe yaramadığına inandığını söyledi.

OpenAI'ın pazar gücü ve çelişkiler

Altman'ın tekelleşme konusundaki uyarıları, kendi şirketinin mevcut konumuyla bazı çelişkiler taşıyor. OpenAI, yapay zekâ altyapısı konusunda zaten baskın bir konumda bulunuyor.

Altman, çiplerden veri merkezlerine ve modellere kadar uzanan teknolojik yığının en iyisine sahip olduklarını ve en fazla kullanıcıya ulaştıklarını ifade etti. Marka değerinin ve değer yargılarının, kullanıcıların beklentileriyle örtüştüğünü savundu. Buna rağmen, diğer tüm girişimlerin başarılı olmasını istediklerini iddia etti.

Gelecek için iyimserlik sürüyor mu?

Bu risklere rağmen Altman, genel anlamda iyimserliğini koruyor. Çocuklarının yapay zekâ tarafından şekillendirilen bir dünyada büyüyecek olmasıyla ilgili sorulduğunda, insanların uyum sağlama yeteneğine güvendiğini belirtti.

"Geleceğin nasıl görüneceğini bilmiyorum ama insanların nasıl uyum sağlayacağı, gelişeceği ve toplumu hepimiz için daha iyi hale getireceği konusunda büyük bir güven duyuyorum. Dünyanın büyük olasılıkla çok daha iyi olmaya devam edeceğini düşünüyorum." — Sam Altman, OpenAI CEO'su

Altman, yapay zekânın bilimsel keşiflerde kullanılması konusunda büyük bir heyecan duyuyor. Özellikle matematik alanındaki son başarıların, teknolojinin temel araştırmalara anlamlı katkılar sunacağı noktaya yaklaştığını kanıtladığını düşünüyor.

Altman'ın vizyonu, şu alanlarda devrim yaratacak bir makine inşa etmekten geçiyor: - Fizikteki en derin içgörülerin keşfedilmesi - Yeni tıbbi tedavilerin geliştirilmesi - Yeni enerji kaynaklarının bulunması - Henüz hayal edilemeyen bilimsel keşiflerin yapılması