Garry Tan stöder öppen destillation av amerikanska AI-labb

Y Combinators vd Garry Tan säger att amerikanska AI-labb med öppna vikter bör få destillera frontiermodeller och att tillsynsmyndigheter inte bör stoppa metoden.

Destillation innebär att man ställer omfattande frågor till en annan modell för att lära sig hur den fungerar och resonerar. AI-labb använder ofta och legitimt tekniken för att hjälpa till att träna nya modeller. Tan sade till CNBC att han inte skulle göra något åt kinesiska AI-labb som använder destillation och att det kunde finnas ett amerikanskt destillationssystem.

Senare förklarade han för TechCrunch att mindre amerikanska AI-labb med öppna vikter bör få använda liknande träningstekniker på amerikanska frontierlabb. Enligt Tan skulle det kunna ge fler robusta alternativ med öppna vikter som inte är kinesiska.

Tan förespråkar inte stulna inloggningsuppgifter eller dolda identiteter. Han vill att amerikanska labb ska kunna destillera med tillstånd. Han anser att AI-företag inte bör bestämma vad kunder gör med information som deras modeller delar, och säger att tillgång till intelligens som tränats på brett tillgängliga offentliga data bör behandlas mer som en kollektiv nyttighet.

Anthropics vd Dario Amodei har uppmanat amerikanska tillsynsmyndigheter att ingripa mot otillåten destillation efter att Anthropic anklagat kinesiska labb för olagliga destillationsattacker. Tan vill i stället se en balans: frontierlabb ska förbli finansierbara företag, medan modeller med öppna vikter ger frihet och tillgång. Han säger att det värsta vore att ett mäktigt privat företag kontrollerade den bästa AI:n.