El CEO de Anthropic, Dario Amodei, negó que la empresa respalde propuestas para prohibir modelos de inteligencia artificial (IA) con pesos abiertos, incluidos los desarrollados en China.
La declaración fue publicada el lunes, después del aumento de las discusiones en Estados Unidos sobre posibles restricciones a modelos de IA cuyos pesos pueden accederse y modificarse.
“Quien haya leído mis textos anteriores debe saber que no considero esas prohibiciones una medida útil, pero déjenme dejarlo claro para que no haya dudas: Anthropic nunca defendió la prohibición de modelos de peso libre”, escribió Amodei.
La manifestación ocurrió días después de que Jensen Huang, CEO de Nvidia, publicara en X una carta abierta contra posibles “restricciones prematuras” a los modelos de IA de peso abierto.
El documento contó con el apoyo de empresas como Hugging Face, Meta, Microsoft y Mistral. La discusión, sin embargo, ganó un componente geopolítico debido al avance de los laboratorios chinos de IA.
Amodei separó el debate sobre modelos abiertos de la preocupación por la capacidad tecnológica de China. Según él, los modelos sin capacidades peligrosas pueden generar beneficios para desarrolladores, investigadores y empresas.
“Los modelos de pesos abiertos que no poseen capacidades peligrosas son un bien público: no cuestan nada más que el poder computacional necesario para ejecutarlos y aportan valor a empresas, desarrolladores e investigadores.”
El ejecutivo afirmó que su principal preocupación está relacionada con el uso de sistemas avanzados por gobiernos autoritarios. Entre los riesgos citados están aplicaciones militares, represión interna y ataques biológicos.
Para Amodei, los modelos de peso abierto presentan dificultades adicionales de control porque, después de hacerse disponibles, sus pesos no pueden retirarse simplemente.
Como alternativa, el CEO defendió medidas contra el acceso chino a chips avanzados y acciones para combatir la destilación de modelos, una técnica que puede permitir que un sistema aprenda de otro.
Amodei también apoyó la creación de pruebas internacionales de seguridad para los modelos más capaces, independientemente de si son abiertos o cerrados.
“Creo que esta idea está, de hecho, cerca de un consenso: me emocionó el hecho de que el gobierno de Trump haya avanzado en esa dirección en los últimos meses, y con las recientes propuestas de la industria que aplicarían esas pruebas a los modelos más capaces, independientemente de su país de origen o de si son abiertos o cerrados (excluyendo por completo a los modelos menos capaces, como los de startups y del entorno académico)”, escribió Amodei.
“Nota que, para ser eficaz”, añadió, “las pruebas tendrían que ser globales, lo que significa que incluso el PCC tendría que estar involucrado. Creo que esto podría ser posible… una cooperación limitada en torno a la prevención de armas biológicas con IA podría ser posible porque también es del interés de China.”