Garry Tan apoya la destilación abierta de los laboratorios de IA de EE. UU.

El director ejecutivo de Y Combinator, Garry Tan, afirma que los laboratorios estadounidenses de IA con pesos abiertos deberían poder destilar modelos de frontera y que los reguladores no deberían bloquear la práctica.

La destilación consiste en enviar numerosas consultas a otro modelo para aprender cómo funciona y cómo razona. Los laboratorios de IA utilizan esta técnica de forma habitual y legítima para ayudar a entrenar nuevos modelos. Tan declaró a CNBC que no haría nada contra los laboratorios chinos de IA que usan destilación y dijo que podría existir un régimen estadounidense de destilación.

Más tarde explicó a TechCrunch que los laboratorios estadounidenses más pequeños con pesos abiertos deberían poder utilizar técnicas de entrenamiento similares con laboratorios estadounidenses de IA de frontera. En su opinión, eso podría crear opciones más sólidas con pesos abiertos que no fueran chinas.

Tan no defiende el uso de credenciales robadas ni de identidades ocultas. Quiere que los laboratorios estadounidenses puedan destilar con permiso. Sostiene que las empresas de IA no deberían dictar qué hacen sus clientes con la información que comparten sus modelos, y afirma que el acceso a una inteligencia entrenada con datos públicos ampliamente accesibles debería tratarse más como un bien público.

El director ejecutivo de Anthropic, Dario Amodei, pidió a los reguladores estadounidenses que actuaran contra la destilación no autorizada después de que Anthropic acusara a laboratorios chinos de realizar ataques ilícitos de destilación. Tan quiere un equilibrio: los laboratorios de frontera deben seguir siendo negocios financiables, mientras que los modelos con pesos abiertos ofrecen libertad y acceso. Afirma que el peor resultado sería que una única empresa privada poderosa controlara la mejor IA.