Forskare vid Tsinghua University beskriver en metod som låter AI-modeller dela information direkt, utan att först omvandla den till text. Metoden, Cache-to-Cache (C2C), har accepterats till ICLR 2026, och teamet uppger att öppen källkod finns tillgänglig för utvecklare.
När modeller utbyter information via text måste den ena modellen formulera sitt resultat i meningar som den andra kan bearbeta. C2C överför i stället en modells interna cache, dess arbetsminne, till en annan modell. En komponent som kallas Fuser omformar och roterar informationen så att den mottagande modellen kan använda den. Systemet filtrerar också inkommande information: vissa interna lager tar emot den, medan andra fortsätter att resonera självständigt.
Forskarna rapporterar att C2C gjorde modeller 100 % till 150 % snabbare i gemensamma uppgifter. De uppger att den högsta siffran motsvarar ungefär två och en halv gånger högre hastighet än textbaserat utbyte. De rapporterar också noggrannhetsökningar på upp till 14,2 % jämfört med modeller som arbetar ensamma, och ökningar på 3,1 % till 5,4 % jämfört med äldre textbaserade samarbetsmetoder.
C2C kräver för närvarande modeller med öppna vikter, eftersom metoden behöver åtkomst till deras interna cacher och lagerstrukturer. Många populära AI-verktyg på nätet visar inte dessa detaljer. Resultaten har rapporterats av teamet bakom metoden; oberoende tester behövs för att fastställa om förbättringarna gäller även i andra sammanhang.
Kommentarer
0Inga kommentarer ännu. Skriv den första.