Geliştiriciler çok ajanlı yapay zekâ darboğazlarını nasıl ele alıyor?

Yapay zekâ modellerinin boyutunu artırmanın sağladığı gelişmeler azalırken, geliştiriciler iki veya daha fazla modelin işleri paylaştığı çok ajanlı sistemlere yöneliyor. Ancak ajanları koordine etmek gecikmeyi ve token kullanımını artırabilir, hataların yayılması için yeni yollar oluşturabilir.

Merkezi bir orkestratör, isteği küçük görevlere bölebilir, bunları ajanlara atayabilir ve sonuçları birleştirebilir. Ancak her etkileşimi tek bir merkezden yönlendirmek, bu merkezi tek hata noktası hâline getirebilir ve işlem gecikmelerini artırabilir. Bu yaklaşım ayrıca ajanların esnekliğini sınırlayabilir; yönetici görevleri atarken ve bağlamı tekrarlarken token tüketebilir.

Ajanlar arasında özetlenmemiş konuşma geçmişlerinin aktarılması token kullanımını daha da artırabilir. Kaynak, çevrimiçi kitap listelerindeki yazar verilerini eşleştirme projesinde bir Amazon yazılım geliştirme ekibinin beklenmedik şekilde 1,8 milyon dolarlık token maliyetine ulaştığını aktarıyor. Ayrıca Claude AI kullanan ve adı açıklanmayan büyük bir işletmede aylık 500 milyon dolarlık bir faturanın çıktığına dair söylentiden söz ediyor; bu tutar doğrulanmış bir maliyet olarak değil, söylenti olarak sunuluyor.

Kaynağa göre 1 ajandan 3 ajana geçmek koordinasyon karmaşıklığını 9 kat, 5 ajana geçmek ise 25 kat artırıyor. Metin ayrıca, çok ajanlı sistem arızalarının %36,9'unu koordinasyon uyumsuzluğuna bağlıyor; ancak verilen metinde araştırmanın kim tarafından yapıldığı belirtilmiyor.

Önerilen yaklaşımlar arasında hangi ajanın harekete geçeceğini belirleyen kod güdümlü durum makineleri, token sınırları, zaman aşımları ve sıralı devirler bulunuyor. Kaynak bunları gereksiz ajan alışverişini ve kontrolden çıkan maliyetleri sınırlama yolları olarak sunuyor; koordinasyon arızalarını ortadan kaldırdıklarını kanıtlamıyor.