Le PDG d’Anthropic, Dario Amodei, a nié que l’entreprise soutienne des propositions visant à interdire les modèles d’intelligence artificielle (IA) avec des poids ouverts, y compris ceux développés en Chine.
La déclaration a été publiée lundi, après l’intensification des discussions aux États-Unis au sujet d’éventuelles restrictions visant des modèles d’IA dont les poids peuvent être consultés et modifiés.
« Ceux qui ont déjà lu mes textes précédents doivent savoir que je ne considère pas ces interdictions comme une mesure utile, mais laissez-moi être clair pour qu’il n’y ait aucun doute : Anthropic n’a jamais défendu l’interdiction de modèles à poids libre », a écrit Amodei.
Cette prise de position est intervenue quelques jours après que Jensen Huang, PDG de Nvidia, a publié sur X une lettre ouverte contre d’éventuelles « restrictions prématurées » imposées aux modèles d’IA à poids ouverts.
Le document a bénéficié du soutien d’entreprises comme Hugging Face, Meta, Microsoft et Mistral. Le débat a toutefois pris une dimension géopolitique en raison des progrès des laboratoires chinois d’IA.
Amodei a séparé le débat sur les modèles ouverts de la préoccupation liée à la capacité technologique de la Chine. D’après lui, des modèles sans capacités dangereuses peuvent apporter des bénéfices aux développeurs, aux chercheurs et aux entreprises.
« Les modèles à poids ouverts qui ne disposent pas de capacités dangereuses sont un bien public : ils ne coûtent rien au-delà de la puissance de calcul nécessaire pour les exécuter et ils créent de la valeur pour les entreprises, les développeurs et les chercheurs. »
Le dirigeant a déclaré que sa principale inquiétude concerne l’utilisation de systèmes avancés par des gouvernements autoritaires. Parmi les risques cités figurent des applications militaires, la répression interne et des attaques biologiques.
Pour Amodei, les modèles à poids ouverts présentent des difficultés supplémentaires de contrôle, car une fois mis à disposition, leurs poids ne peuvent pas être retirés simplement.
En alternative, le PDG a plaidé pour des mesures contre l’accès chinois à des puces avancées et des actions pour lutter contre la distillation des modèles, une technique qui peut permettre à un système d’apprendre à partir d’un autre.
Amodei a également soutenu la création de tests internationaux de sécurité pour les modèles les plus capables, qu’ils soient ouverts ou fermés.
« Je pense que cette idée est, en fait, proche d’un consensus : j’ai été enthousiasmé par le fait que le gouvernement Trump ait avancé dans cette direction au cours des derniers mois, et par les récentes propositions de l’industrie qui appliqueraient ces tests aux modèles les plus capables, indépendamment de leur pays d’origine ou d’être ouverts ou fermés (en exemptant totalement les modèles les moins capables, comme ceux des startups et du milieu universitaire) », a écrit Amodei.
« Notez que, pour être efficace », a-t-il ajouté, « les tests devraient être globaux, ce qui signifie que même le PCC devrait être impliqué. Je pense que cela pourrait être possible… une coopération limitée autour de la prévention des armes biologiques avec l’IA pourrait être possible parce que c’est aussi dans l’intérêt de la Chine. »