Yapay zekâ ajanlarını denetlenebilir hale getiren mühendislik yaklaşımı.

"Farklı ekipler aynı web sitesi metriğini — örneğin günlük aktif kullanıcı sayısını — biraz farklı mantıkla hesaplıyor ve çelişkili cevaplar buluyorlardı" diye anlatıyor Saran.

"Küçük bir sorun gibi dursa da, yönetim kaynak ayrımı ve ürün geliştirme kararlarını bu verilere dayandırdığında, hangi sayının doğru olduğunu bilmemek ciddi bir sorun haline geliyordu."

Ekibin çözümü, tanımlanmış metriklerle merkezi bir veri deposu oluşturmak oldu. Saran, 'günlük aktif site kullanıcısı' tanımını, hangi olayların sayılacağını ve kenar durumların nasıl ele alınacağını içeren bir model geliştirdi.

Bu sayede şirket genelinde veri ekipleri standart bir yöntemle karşılaştırılabilir sonuçlar elde edebildi. Bu çalışma daha sonra Yahoo! Digits adlı dahili web analitiği aracının temelini oluşturdu.

Gizlilik ve yönetişim: mimarinin bir parçası, sonradan eklenen bir katman değil

2010 yılında Intuit'a katılan Saran, TurboTax ve QuickBooks gibi ürünlerin verilerini birleştiren analitik altyapıyı inşa etti. Gerçek zamanlı dolandırıcılık tespiti özelliği, vergi mükelleflerinin verilerini korurken ABD Gelir İdaresi (IRS) politikalarına uyulmasını gerektiriyordu.

Bu deneyim onun için bir dönüm noktası oldu: "Bu, gizlilik ve yönetişimin yazılımın sonuna eklenen katmanlar olamayacağını, mimarinin başlangıcından itibaren bir parçası olması gerektiğini öğretti bana."

Yapay zekâ ajanlarını denetlenebilir hale getiren mühendislik yaklaşımı

2016'da Meta'ya (o zaman Facebook) lead yazılım mühendisi olarak katıldığında, şirket video metriklerinin yanlış bildirildiği bir krizle karşı karşıyaydı. Video izlenme sayıları aşırı hesaplanmıştı. Saran'a göre sorun bir kod hatası değil, mimari bir yapıdan kaynaklanıyordu.

Intuit'taki yaklaşıma benzer şekilde, tüm video görüntüleme metriklerini yöneten tek bir 'gerçek kaynağı' tanımlayan Metric360 sistemini kurdu. 2021 yılında Meta'yı terk ettiğinde Metric360 şirket genelinde video metrikleri hesaplamak için kullanılıyordu.

Anthropic'te yapay zekâ gözlemlenebilirliği

Saran, 2025'te Anthropic'e katıldı. Kendisini bir doktorun hastanın yaşam bulgularına göre karar verdiği, ancak cihazlardan biri hatalı kalibre olmuş olsa bile ciddi sonuçlar doğabileceği bir tıbbi benzetmeyle anlatıyor: "Yapay zekâ sistemlerinde de durum aynı.

Görevim esasen, enstrümanların doğru ölçümler verdiğinden — verinin anlattığı şeyin gerçekten doğru olduğundan — emin olmak."

Büyük dil modellerinin (LLM) gözlemlenmesi, geleneksel veritabanları ve web servislerine göre çok daha zor. "Veritabanlarını ve web servislerini izlemek için iyice oturmuş araçlarımız var" diyor Saran, "ama LLM'ler için hâlâ yolu arıyoruz."

Bir yapay zekâ ajanı farklı kullanıcılarla sohbet yanıtları ürettiğinde, sistemin ne yaptığını, hangi bilgilerle çalıştığını ve sonuçların kullanıcı beklentisiyle eşleşip eşleşmediğini yakalamanın bir yolu olmalı.

Bunu yaparken de hassas verilerin tanınması ve akış boyunca korunması gerekiyor. Bu, Saran'ın önceden çalıştığı herhangi bir gözlemlenebilirlik probleminden çok daha zorlu.

"Yapay zekâ sistemlerini gerçekten denetlenebilir ve şeffaf hale getirmek, önümüzdeki on yılın daha önemli mühendislik problemlerinden biri bence, ve model yetenekleri kadar konuşulmuyor bu konu."

IEEE standartları ve küresel erişim

Saran, Mart 2025 tarihinden itibaren IEEE bünyesinde görev yapıyor. Engineer, "Yahoo, Intuit, Meta ve Wealthfront gibi kurumlarda 20 yılı aşkın süredir veri altyapılarına dair edindiğim deneyimlerle, hakem değerlendirmesi, yayınlama süreçleri ve geniş mühendislik araştırma ekosistemiyle etkileşime geçerek teknik topluluğa katkı sağlamayı hedefledim" şeklinde konuşuyor.

IEEE'nin yapay zekâ standartlaşmasında kritik bir rol oynayabileceğine inanıyor: "Bina kodlarından yazılım testlerine her şey için standartlarımız var.

Yapay zekâ altyapısı için de benzer bir şeye ihtiyacımız var ve IEEE bunu yapmak için güvenilirlik ve erişime sahip."

Başka bir sorun da erişim: "IEEE, mühendislerin küresel profesyonel topluluğa kolay yollar bulamadığı çok sayıda ülkede faaliyet gösteriyor. Yapay zekâ geliştirmesi bir avuç şehrdeki bir avuç organizasyondan öteye yayıldıkça bu tür bağlantı önem kazanıyor."