A contentious debate is brewing in Silicon Valley over the use of Chinese-made artificial intelligence tools. Top concerns revolve around distillation, where less capable AI models are trained on more powerful ones, and how quickly and easily open-weight AI models can spread, potentially undermining safety measures.

Anthropic accused Alibaba of illicitly stealing its intellectual property through distillation attacks, while the White House suggested that Moonshot AI had developed its Kimi K3 model by distilling Anthropic’s Fable 5. Critics argue for certain safeguards but against outright bans on open-weight models to maintain US startups' competitiveness.

Legendary tech investor Bill Gurley supports a free-market approach, arguing that open-source models allow for scaling and encourage academic research. However, others like Chamath Palihapitiya argue that protecting the business model of frontier labs is more important than allowing foreign technology in the US market. The core question remains: what serves humanity best?

Olá Valley está dividido sobre a utilização de ferramentas de inteligência artificial feitas na China. Os principais preocupações giram em torno da distilação, onde menos capazes modelos de IA são treinados com os mais poderosos, e como rapidamente e facilmente os modelos de peso leve podem espalhar-se, potencialmente subvertendo medidas de segurança.

Anthropic acusou Alibaba de roubos ilícitos de propriedade intelectual através da distilação, enquanto o governo dos Estados Unidos sugeriu que a empresa Chinês Moonshot AI tinha desenvolvido o seu modelo Kimi K3 por meio da distilação do Fable 5 do Anthropic. Os críticos apelam para certas garantias, mas contra proibições absolutas de modelos de peso leve para manter a competitividade das start-ups estadunidenses.

O investidor em tecnologia Bill Gurley apoia uma abordagem de mercado livre, argumentando que os modelos de código aberto permitem escalar e fomentar a pesquisa académica. No entanto, outros, como Chamath Palihapitiya, argumentam que a proteção do modelo de negócio dos laboratórios de vanguarda é mais importante do que permitir a tecnologia estrangeira nos Estados Unidos. A questão central permanece: o que serve melhor à humanidade?