O CEO da Anthropic, Dario Amodei, negou que a empresa apoie propostas para proibir modelos de inteligência artificial (IA) com pesos abertos, incluindo aqueles desenvolvidos na China.
A declaração foi publicada na segunda-feira, após o aumento das discussões nos Estados Unidos sobre possíveis restrições a modelos de IA cujos pesos podem ser acessados e modificados.
“Quem já leu meus textos anteriores deve saber que não considero essas proibições uma medida útil, mas deixe-me deixar claro para que não haja dúvidas: a Anthropic nunca defendeu a proibição de modelos de peso livre”, escreveu Amodei.
A manifestação ocorreu dias depois de Jensen Huang, CEO da Nvidia, publicar no X uma carta aberta contra possíveis “restrições prematuras” aos modelos de IA de peso aberto.
O documento contou com o apoio de empresas como Hugging Face, Meta, Microsoft e Mistral. A discussão, porém, ganhou um componente geopolítico devido ao avanço dos laboratórios chineses de IA.
Amodei separou o debate sobre modelos abertos da preocupação com a capacidade tecnológica da China. Segundo ele, modelos sem capacidades perigosas podem gerar benefícios para desenvolvedores, pesquisadores e empresas.
“Modelos de pesos abertos que não possuem capacidades perigosas são um bem público: não custam nada além do poder computacional necessário para executá-los e agregam valor a empresas, desenvolvedores e pesquisadores.”
O executivo afirmou que sua principal preocupação está relacionada ao uso de sistemas avançados por governos autoritários. Entre os riscos citados estão aplicações militares, repressão interna e ataques biológicos.
Para Amodei, modelos de peso aberto apresentam dificuldades adicionais de controle porque, depois de disponibilizados, seus pesos não podem ser simplesmente retirados.
Como alternativa, o CEO defendeu medidas contra o acesso chinês a chips avançados e ações para combater a destilação de modelos, técnica que pode permitir que um sistema aprenda com outro.
Amodei também apoiou a criação de testes internacionais de segurança para os modelos mais capazes, independentemente de serem abertos ou fechados.
“Acho que essa ideia está, na verdade, próxima de um consenso: fiquei animado com o fato de o governo Trump ter avançado nessa direção nos últimos meses, e com as recentes propostas da indústria que aplicariam esses testes aos modelos mais capazes, independentemente de seu país de origem ou de serem abertos ou fechados (isentando totalmente os modelos menos capazes, como os de startups e do meio acadêmico)”, escreveu Amodei.
“Note que, para ser eficaz”, acrescentou, “os testes precisariam ser globais, o que significa que até mesmo o PCC precisaria estar envolvido. Acho que isso pode ser possível… uma cooperação limitada em torno da prevenção de armas biológicas com IA pode ser possível porque também é do interesse da China.”