AnthropicのCEOであるDario Amodeiは、中国で開発されたものを含む、オープンウェイトの人工知能（AI）モデルを禁止する提案を同社が支持していることを否定した。
この発言は月曜日に公表された。これは、ウェイトにアクセスして変更できるAIモデルに対する可能性のある制限について、米国での議論が高まったことを受けたものだ。
「私の以前の文章を読んだことがある人なら、私がこれらの禁止を有用な措置だと考えていないことを知っているはずだ。しかし、疑いが残らないように明確にしておこう。Anthropicはオープンウェイトモデルの禁止を一度も主張したことはない」とAmodeiは書いた。
この表明は、NvidiaのCEOであるJensen Huangが、オープンウェイトAIモデルに対する可能性のある「時期尚早な制限」に反対する公開書簡をXに投稿した数日後に行われた。
この文書は、Hugging Face、Meta、Microsoft、Mistralなどの企業の支持を受けた。しかし、この議論は中国のAI研究所の前進により、地政学的な要素を帯びることになった。
Amodeiは、オープンモデルに関する議論を、中国の技術力に対する懸念と切り分けた。彼によれば、危険な能力を持たないモデルは、開発者、研究者、企業に利益をもたらす可能性がある。
「危険な能力を持たないオープンウェイトモデルは公共財だ。実行に必要な計算能力以外には何もコストがかからず、企業、開発者、研究者に価値を付加する。」
この幹部は、自身の主な懸念は権威主義的な政府による先進的なシステムの使用に関連していると述べた。挙げられたリスクには、軍事利用、国内弾圧、生物学的攻撃が含まれる。
Amodeiにとって、オープンウェイトモデルは、いったん公開されるとそのウェイトを単純に取り下げることができないため、追加的な制御の困難を伴う。
代替案として、CEOは先進的なチップへの中国のアクセスに対する対策と、あるシステムが別のシステムから学習できるようにする可能性のある技術であるモデル蒸留に対抗する行動を擁護した。
Amodeiはまた、オープンかクローズドかに関係なく、より高性能なモデルに対する国際的な安全性テストの創設を支持した。
「この考えは、実際にはコンセンサスに近づいていると思う。ここ数か月でTrump政権がこの方向に進展したこと、そして最近の業界提案が、より高性能なモデルにこれらのテストを適用しようとしていることに勇気づけられた。原産国やオープンかクローズドかに関係なく（スタートアップや学術界のような、性能の低いモデルは完全に免除しつつ）」とAmodeiは書いた。
「有効であるためには」と彼は付け加えた。「テストはグローバルである必要があり、それはPCCさえも関与する必要があることを意味する。これは可能かもしれないと思う……AIによる生物兵器の防止をめぐる限定的な協力は、それが中国の利益でもあるため、可能かもしれない。」