Yönetişim
Yapay zeka model barındırma yönetişimi
Yapay zeka yetenekleri tek bir iç geçit olan Minerva'nın arkasında yönlendirmeli, çok sağlayıcılı bir mimaride çalışır. Bu özet Minerva'nın ve sağlayıcılarının nerede barındırıldığını, müşteri yapılandırmasının ve verisinin paylaşılan sunum altyapısında nasıl kapsamlandığını ve yapay zeka ya da otomatik karar katılımının istek üzerine nasıl gösterilebildiğini anlatır.
Bu sayfa şu soruları yanıtlar
- Yapay zeka nasıl barındırılır ve yönlendirilir?
- Modeller ve veri her müşteriye özel mi?
- Müşteri hangi etkileşimlerde yapay zeka ya da otomatik karar olduğunu görebilir mi?
- Müşteri verisi modelleri eğitmek için kullanılıyor mu?
Yönlendirmeli çok sağlayıcılı mimari
Model sağlayıcılarını tek tek ürün özelliklerinden doğrudan çağırmak yerine, iş ortağına dönük tüm yapay zeka Minerva'nın arkasında merkezileştirilir; Minerva istekleri bir sağlayıcı havuzuna yönlendirir: konuşma ajanları, içerik ve metin üretimi, öneri puanlama ve diğer yapay zeka destekli akışlar.
İş ortağına dönük her istek tek bir geçitten geçtiği için barındırma yeri, sağlayıcı seçimi ve yönetişim denetimleri özellik özellik değil tek yerde akıl yürütülüp denetlenebilir.
Sunum yığını
- Yalıtılmışİş ortağı yapılandırmasıİş ortağı adı, ajan ve bilgi tabanı: tek bir müşteri hesabına kapsamlanan yapılandırma ve destekleyici veri.
- PaylaşılanMinerva geçidiİş ortağına dönük tüm yapay zeka için iç geçit; her isteği havuzdaki uygun sağlayıcıya yönlendirir.
- PaylaşılanSağlayıcı havuzuOpenAI, Azure OpenAI, Anthropic, Google ve Amazon Bedrock.
- PaylaşılanYapay zeka uygulama katmanıAWS eu-west-1'de barındırılır; Bedrock çıkarımı aynı bölgeden yönlendirilir.
Katmanlar ve roller
| Katman | Rol |
|---|---|
| Minerva | İş ortağına dönük tüm yapay zeka için iç geçit; istekleri havuzdaki uygun sağlayıcıya yönlendirir. |
| Sağlayıcı havuzu | OpenAI, Azure OpenAI, Anthropic, Google ve Amazon Bedrock. |
| Yapay zeka uygulama katmanı | AWS eu-west-1'de barındırılır. |
| Bedrock çıkarımı | Bedrock'un sunum sağlayıcısı olduğu AWS eu-west-1 üzerinden yönlendirilir. |
Paylaşılan sunum, kapsamlı yapılandırma
- İş ortağı adı: yapılandırmayı ve veriyi belirli bir müşteri hesabına bağlayan tanımlayıcı.
- Ajan: o müşteri için yapılandırılmış belirli yapay zeka ajanı ya da özellik örneği; destek ajanı ya da alışveriş ajanı gibi.
- Bilgi tabanı: ajanın yararlandığı müşteriye özel içerik; diğer müşterilerin bilgi tabanlarından ayrı tutulur.
- Model sunumu ve destekleyici altyapı paylaşılır, müşteri başına fiziksel olarak ayrılmaz. Tamamen özel model ve veri deposu gereksinimi farklı bir mimaridir ve doğrudan konuşulmalıdır.
Otomatik karar ve yapay zeka şeffaflığı
Bir müşteri, hangi müşteri etkileşimlerinde otomatik karar ya da yapay zeka olduğunu bilmek ya da yapay zekaya dayalı bir sonucun insan incelemesi talebini desteklemek istediğinde, ürün ekibi bunu ajan yapılandırmasına, bilgi tabanına ve karar mantığına dayanarak istek üzerine sağlar. Amaç, girdi ve karar etkisiyle sürekli, kendin-hizmet bir model envanteri henüz yerleşik bir yetenek değildir.
Model eğitiminde veri kullanımı
Yapay zeka özelliklerinin işlediği müşteri verisi sağlayıcı havuzundaki temel modelleri eğitmek için kullanılmaz. Müşterinin verisi kendi yapılandırılmış ajanlarının ve bilgi tabanının ürettiği yanıtları bilgilendirir; paylaşılan modellere geri beslenmez.
TemasCRM'de
Her iddia bu ürünle karşılaştırılır: canlı olan, kısmen olan, planlı olan ve bu ürünün tasarımı gereği uygulanmayan.
2 Canlı3 Uygulanmaz
- Model sağlayıcı havuzuna yönlendiren tek geçitUygulanmaz
Bu üründe hiçbir dil modeli bağlı değil; bu yüzden ne geçit ne de sağlayıcı havuzu var. Yardımcı paneli kaldırıldı; ajan ve bilgi tabanı tanımları çalışma alanının kayıtlarıdır ve hiçbir şey onları çalıştırmaz.
Ajanlar - İş ortağı, ajan ve bilgi tabanına kapsamlı yapılandırmaCanlı
Bir ajanın yapılandırması ve bilgi tabanları çalışma alanının kayıtlarıdır; diğer her kayıtla aynı satır güvenliği altında saklanır ve başka her çalışma alanına 404 ile yanıtlanır; çalışma alanları arasında hiçbir şey paylaşılmaz. Yalnızca tanımdırlar: hiçbir şey bir ajanı çalıştırmaz ya da bir bilgi tabanını okumaz.
Ajanlar - Hangi etkileşimlerde yapay zeka olduğu, istek üzerineUygulanmaz
Burada hiçbir etkileşimde yapay zeka yok: hiçbir kanal bir ajanı çalıştırmaz ve hiçbir model yanıt vermez, dolayısıyla gösterilecek bir şey yoktur. Gösterilebilen kayıttır: bir ajana ya da bilgi tabanına yapılan her değişiklik bir denetim satırı bırakır.
Ajanlar - Müşteri verisiyle eğitim yokCanlı
Hiçbir model çağrılmadığı için hiçbir şey eğitilmez; müşteri verisi bir sağlayıcı için çalışma alanından çıkmaz.
- AWS eu-west-1'de barındırmaUygulanmaz
Bu ürün işletmecinin kendi altyapısında çalışır; barındırma bölgesi bir sağlayıcı bölgesi değil işletmecinin kararıdır.