Snowflake, yapay zekâ modeli yönlendirmesinin kaliteyi korurken maliyetleri düşürebileceğini söylüyor

Snowflake, her istekte en güçlü modele başvurmak yerine her görevi ihtiyacına uygun bir modele yönlendirerek işletmelerin yapay zekâ maliyetlerini düşürebileceğini söylüyor. Şirket bu yaklaşımı, modelleri, verileri ve işlem kaynaklarını ölçülebilir iş sonuçlarına dönüştürme biçimi olan “zekâ verimliliği” olarak tanımlıyor.

Snowflake’te Yapay Zekâ Ürün Pazarlama Müdürü Grace Adamson, TechRadar’a bazı görevlerin gelişmiş akıl yürütme gerektirdiğini, sınıflandırma, özetleme ve bilgi çıkarma gibi tekrarlanan işlerin ise açık kaynak seçenekleri de dâhil daha verimli modellerle yapılabileceğini söyledi. Snowflake’in Cortex AI Gateway ürünü, istekleri kalite, hız ve maliyete göre yönlendirebiliyor; açık ve tescilli modellere aynı yönetim denetimlerini, maskeleme dâhil, uygulayabiliyor. Müşteriler hangi model ve sağlayıcıların kullanılabileceğini de sınırlayabiliyor.

Snowflake’in aktardığı şirket içi testlerde, dinamik model yönlendirmesi kullanan aracılar bir dbt işlem hattını, yalnızca bir öncü model kullanan yaklaşıma kıyasla aynı kaliteyi koruyarak üç kata kadar daha yüksek belirteç verimliliğiyle oluşturdu. Şirket, ayda milyonlarca istek işlenirken daha az belirteç ve çıkarım maliyetinden sağlanan tasarrufların birikebileceğini söylüyor.

Snowflake, işletmelerin model kapasitesini, hızı ve maliyeti birlikte değerlendirmesi gerektiğini savunuyor. Şirket, açık modellerin yaygın kurumsal görevlerde geliştiğini ve esnek model seçiminin şirketlerin seçenekler değiştikçe uyum sağlamasına yardımcı olabileceğini söylüyor. Bu iddialar ve test sonuçları Snowflake’e aittir; kaynakta bağımsız doğrulama sunulmuyor.