Yeni Geliştirmelerle Maliyet Kontrolü Sağlanacak
Salesforce, Agent Fabric için Agent Evals, API Evals ve gelişmiş maliyet kontrol mekanizmalarını tanıttı. Bu güncellemeler, işletmelerin AI ile büyüdükçe karşılaşabilecekleri sorunları, müşteri şikayetlerine veya beklenmedik maliyet artışlarına neden olmadan tespit etmelerine yardımcı olacak.
Günlük 1.2 milyardan fazla isteği yöneten Agent Fabric, kurumsal AI kontrolünü proaktif hale getiriyor. Bu sistem sayesinde, kalite düşüşü yaşandığında otomatik müdahale sağlanabiliyor ve harcama limitleri ile bütçe aşımları engelleniyor.
Kesintisiz Kontrol ve Değerlendirme Süreci
Salesforce, agent’ların yönetimi için sürekli değerlendirme ve otomatik müdahale yöntemlerini bir araya getiriyor. Agent Evals, dağıtım öncesi testleri otomatik olarak oluşturarak, agent’ların ve sistemlerin tanımlı kalite eşiklerine karşı değerlendirilmesini sağlıyor. Kalite düşüklüğü tespit edildiğinde, önceden belirlenmiş müdahaleler devreye giriyor.
API Evals ise, agent’ların bağımlı olduğu API’lerdeki değişiklikleri önceden tespit ederek, fonksiyonel ve performans testleri oluşturuyor. Bu sayede, üretime ulaşmadan kritik hatalar yakalanabiliyor.
İşletmeler için Önemli Maliyet Kontrolleri
Gelişmiş maliyet kontrolleri ile birlikte, bütçe sahipleri AI harcamalarını tek bir ekrandan takip edebiliyor. FinOps Dashboard ve Model Wallet, harcamaları kontrol altında tutarak, belirlenen limitlerin aşılmasını engelliyor. Bu sistemler, token kullanımını %75 oranında azaltma potansiyeli sunuyor.
Bu yeni mekanizmalar, agent’ların doğru görevleri tamamlayıp tamamlamadığını, verimli çalışıp çalışmadığını ve güvenlik politikalarına uyup uymadığını değerlendirmeye yardımcı oluyor.
Gerçek Zamanlı Sorun Tespiti
Örneğin, bir perakendeci canlı sipariş destek agent’ını maliyetleri düşürmek için daha düşük maliyetli bir AI modeline geçirdiğinde, Agent Evals otomatik testler yaparak, agent’ın yanlış bilgi verdiğini tespit edebiliyor. Bu durumda, agent’ın kalitesi otomatik olarak işaretleniyor ve karantinaya alınması için onay talep ediliyor.
Onay alındıktan sonra, agent karantinaya alınıyor ve ekip, agent’ın talimatlarını gözden geçirerek yeniden değerlendirme yapıyor. Bu süreç, müşteri deneyiminin korunmasına yardımcı oluyor.
Genişletilmiş Yönetim ve İzleme Olanakları
Agent Fabric, ana AI platformları üzerinde otomatik keşif ve yönetim sağlıyor. Yeni güncellemeler, dahili ve üçüncü taraf ortamlarında çalışan agent’lar için de geçerli olacak. Özel Agent Scanner ile, sistem arka planındaki agent’lar ve API’ler otomatik olarak keşfedilebiliyor.
Ayrıca, Azure, Apigee ve Kong gibi farklı sağlayıcılardan gelen API geçitlerinde politika uygulamaları, tek bir işlem ile yürütülebiliyor. Bu, işletmelerin yönetim süreçlerini daha verimli hale getiriyor.
