Tsinghua University araştırmacıları, yapay zekâ modellerinin bilgiyi önce metne dönüştürmeden doğrudan paylaşmasını sağlayan bir yöntem tanımlıyor. Cache-to-Cache (C2C) adlı yöntem ICLR 2026'da kabul edildi; ekip, geliştiricilerin açık kaynak koduna erişebildiğini söylüyor.
Modeller bilgiyi metin üzerinden paylaştığında, bir modelin çıktısını diğerinin işleyebilmesi için cümlelere dönüştürmesi gerekiyor. C2C bunun yerine bir modelin çalışma belleği olan iç önbelleğini diğer modele aktarıyor. Fuser adlı bir bileşen, bilgiyi alıcı modelin kullanabilmesi için yeniden biçimlendirip döndürüyor. Sistem ayrıca gelen bilgiyi süzüyor: bazı iç katmanlar bilgiyi alırken diğerleri bağımsız biçimde akıl yürütmeyi sürdürüyor.
Araştırmacılar, C2C'nin ortak görevlerde modelleri %100 ila %150 hızlandırdığını bildiriyor. En yüksek oranın metin tabanlı alışverişten yaklaşık iki buçuk kat daha hızlı olduğunu söylüyorlar. Ayrıca modellerin tek başına çalışmasına kıyasla doğrulukta %14,2'ye varan artış, eski metin tabanlı iş birliği yöntemlerine kıyasla ise %3,1 ila %5,4 artış bildiriyorlar.
C2C şu anda açık ağırlıklı modeller gerektiriyor; çünkü yöntemin bu modellerin iç önbelleklerine ve katman yapılarına erişmesi gerekiyor. İnternetteki popüler yapay zekâ araçlarının çoğu bu ayrıntıları göstermiyor. Bildirilen sonuçları yöntemi geliştiren ekip elde etti; başka ortamlarda da aynı kazanımların sağlanıp sağlanmadığını belirlemek için bağımsız testler gerekiyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.