強力なAIを作るライバル企業が、安全のために話し合う。事故や攻撃の情報を早く共有できるなら、歓迎したくなる話だ。一方で、大手だけが「安全なAI」の条件を決めれば、新しい会社に高い入場料を課す仕組みにもなりうる。

OpenAI、Anthropic、Google DeepMindの協議は、存在が報じられたばかりで、中身はまだ公開されていない。だから違法な談合とも、立派な安全協定とも、まだ決められない。今回の本題は、協力の評価を分ける境界線がどこにあるかだ。

OpenAI、AI安全性でAnthropic、Google DeepMindと協議中──Bloomberg報道
OpenAI、AI安全性でAnthropic、Google DeepMindと協議中──Bloomberg報道

OpenAIが、AnthropicやGoogle DeepMindとAIの安全性確保に向けて協議を進めているとBloombergが報じた。反トラスト法の適用除外を巡っては米当局の警戒や議会での法案提出など議論が活発化。一方、NVIDIAのフアンCEOは市場原理で安全性と迅速な開発は両立可能として政府の介入に否定的な見方を示した。

今回の登場人物 ​

  • OpenAI／Chris Lehane氏: OpenAIのグローバル政策責任者。3社の協議が数週間続いていると明らかにし、現在の協力に反トラスト法の適用除外は不要とする。
  • Anthropic／Dario Amodei氏: Claudeを開発するAnthropicのCEO。安全上の理由から、競合各社が開発速度を調整できる限定的な法的保護を求めたと報じられている。
  • Google DeepMind: Geminiなどを開発するGoogleのAI研究組織。協議相手と報じられたが、今回の協議内容を直接確認する公式説明は見当たらない。
  • FTC: Federal Trade Commission、米連邦取引委員会。企業間の競争と消費者保護を監督する。Andrew Ferguson委員長は、安全規制と反トラスト法の適用除外が大手を守る壁になりうると警戒した。
  • 反トラスト法: 米国の競争法だ。価格協定や市場分割など、競争を弱める行為を規制する。「ライバルと会話したら即アウト」という法律ではない。
  • S.5105: 上院議員のAdam Schiff氏とJim Banks氏が提出した「Collaboration on Adversarial Threats and Security Risks Act」。AIの安全協力へ限定的な法的保護を与える法案だが、まだ成立していない。

何が起きたか ​

ITmedia NEWSは9月16日、OpenAIがAnthropic、Google DeepMindとAIの安全性について協議していると報じた。元になったBloombergの報道によると、Lehane氏はワシントンで、協議は数週間続いていると説明した。

ただし、ここで確認できるのはOpenAI幹部による説明だ。ReutersはOpenAI、Anthropic、Googleの3社へコメントを求めたが、すぐには回答を得られず、Bloombergの内容を独自に確認できなかったとしている。

Washington Postは、3社が安全基準を作る新しい業界団体の可能性を話し合ったと、匿名の関係者3人を根拠に報じた。団体の設立や基準への合意は未確認だ。会議室の明かりは見えるが、ホワイトボードの中身は見えない段階である。

ここが本題 ​

安全協力が公共のためになるか、競争を妨げる壁になるか。それを分ける最初の質問は、「ライバルが話したか」ではなく「何を共有し、何を一緒に決めるのか」である。

たとえば、AIへの不正アクセスの手口、発見した脆弱性、攻撃を見分ける信号、重大事故の発生情報を共有する。各社はその情報を使いながら、製品の値段、機能、公開時期、開発投資を自分で決める。これは安全情報の共有だ。

米司法省とFTCは2014年、適切に設計されたサイバー脅威情報の共有は、通常は反トラスト上の懸念が小さいとする方針を出した。攻撃の印や警報は技術的な情報で、現在や将来の価格、生産量、費用、事業計画とは性質が違うからだ。近所に空き巣の手口を知らせることと、商店街で値札をそろえることは、同じ「情報共有」でも別の話なのである。

境界を一歩越えるのは、各社が独立して決めるはずの競争条件までそろえ始めるときだ。どの能力のモデルをいつ公開するか。訓練規模をどこまで増やすか。どの安全テストに合格しなければ製品を出さないか。どの企業とは取引しないか。ここまで共同で決めれば、安全だけでなく、市場へ出る速度、製品の種類、供給量にも影響する。

協力が直ちに違法になるとは断定できない。安全上の利益と競争への悪影響を、目的、必要性、範囲、市場での力から個別に調べる。FTCと司法省も2024年、古い競合企業協業ガイドラインを撤回した。

法案は二つの協力を扱う ​

S.5105の原文を読むと、今回の境界線がよく見える。法案が保護しようとする協力には、大きく二つある。

一つ目は、AIの安全リスクに関する情報や支援を、安全目的で交換することだ。対象にはモデルの盗難、サイバー攻撃、危険な兵器への悪用、重要インフラへの被害、人がAIを止められなくなる危険などが入る。

二つ目は、対象リスクを減らすため、複数の企業がAIの公開、配備、利用、開発、訓練、テスト、評価を遅らせたり制限したりする合意だ。こちらは単なる警報の共有ではない。製品をいつ、どこまで出すかという競争の動きそのものをそろえうる。

法案は、共同で遅延や制限をする前に、米司法省の反トラスト局長へ、対象リスクと制限範囲を書面で知らせるよう求める。ただし、役所が先に「合格」と認定する制度ではない。訴訟になった場合に、企業側が善意で安全だけを目的にしたと証明する「積極的抗弁」という仕組みだ。

また、情報共有の保護は価格協定、市場分割、独占化、ボイコット、価格・費用情報の交換を許すものではない。保護範囲外の違反に対する民事訴訟も残る。名前に「安全」と書けば何でも通れるフリーパスではないわけだ。

なお、法案の現在地にも注意したい。S.5105は7月23日に提出され、上院司法委員会へ付託された段階である。同趣旨の修正案SA 6561は、2027会計年度の国防権限法案S.4784へ提出されたが、議会記録には「ordered to lie on the table」とある。採択や国防権限法案への組み込みは確認できないため、「年次国防法案へ入り、成立を待つだけ」とはまだ言えない。

基準が壁になる四つの条件 ​

では、安全基準が参入障壁へ変わる兆候を、四つに絞ろう。

第一は、範囲が必要以上に広いことだ。製品設計、公開時期、計算資源、価格までそろえれば、競争を止める効果が大きくなる。「安全のため」でも手段が無制限に広がってよいわけではない。

第二は、参加が閉じていることだ。大手だけで基準を作り、スタートアップや大学、独立評価機関が意見を出せない。従わない企業がクラウドや販売網を使えないなら、安全委員会は会員制の関所に近づく。

第三は、大手にしか払えない費用を必須にすることだ。巨額の計算資源や非公開の評価設備が前提なら、小さな開発者は安全でも試験を受けられない。安全水準と、大手と同じ設備を持つことは別である。

第四は、独立した判断が残らないことだ。事故情報は共有しても、対策や公開は各社が決めるのか。それとも同じ日程、能力上限、取引停止を強制するのか。共同判断が増えるほど競争の幅は消える。

この四つを見るには、基準の文章だけでなく、誰が議決権を持つか、外部監査があるか、異議申立てができるか、基準が公開されるかも重要だ。ルールの本文が立派でも、玄関の鍵を大手だけが持っていたら困る。

FTC委員長の発言 ​

FTCのFerguson委員長は9月15日、AI企業が規制と反トラスト法の適用除外を同時に求めるなら警戒すべきだとの考えを示した。大手が参入障壁を求め、自社を新しい挑戦者から守る「堀」を掘るように見える、という趣旨だ。

この発言は重要な警報だが、判決ではない。Ferguson氏自身が個人的見解だと断り、Anthropicを名指ししていない。FTCが3社の協議を違法と認定したわけでも、調査開始を発表したわけでもない。

逆の早合点も禁物だ。OpenAIが「適用除外は不要」と言っても、協議内容に問題がないと確認されたわけではない。内容の公開と外部の検証が要る。

日本で読む意味 ​

これは米国だけの法律話ではない。日本の企業や行政も、3社のモデルや、外部サービスからAI機能を呼び出す窓口であるAPI、クラウドを使う。3社の安全基準が事実上の世界標準になれば、日本の利用条件や開発費にも影響しうる。

安全情報の共有には明確な利益がある。ある会社で見つかった攻撃や重大な不具合を他社も早く防げれば、日本の利用者が被害を受ける確率も下げられる。一方で、大手固有の設備や評価法が「安全の世界標準」になれば、日本のスタートアップが対応費用を払えず、市場へ出にくくなる可能性がある。これはまだ起きたと確認された被害ではなく、基準設計から生じうる将来リスクだ。

日本の公正取引委員会も、標準化そのものを悪いとはしていない。ただし、合理的な理由なく競合規格を排除する、必要範囲を超えて製品仕様を共通化する、特定企業の技術提案を不当に退ける、参加を制限して市場から締め出す、といった行為は独占禁止法上の問題になりうるとしている。

米国のAI協議をそのまま日本法で裁けるという意味ではない。それでも、「安全か競争か」の二択ではなく、安全を守りながら参加の開放性と独立した競争を残す、という物差しは共通する。

次に見るもの ​

最初に見るべきは、3社の共同声明や合意文書だ。共有するのは事故情報だけか。公開時期や訓練規模までそろえるのか。協力から抜けても不利益を受けないか。この違いで評価は変わる。

業界団体を作るなら、会員条件、議決権、基準の公開、独立監査、異議申立ても見たい。小規模企業や大学が参加でき、安全試験を複数の方法で満たせるかも重要だ。

そしてS.5105と国防権限法修正案の審議、FTC・司法省による新しい指針や調査を追う。協議中というニュースだけで物語を完成させず、ルールの設計図が出てから、誰を守り、誰を外へ置くのかを確かめる必要がある。

まとめ ​

OpenAI、Anthropic、Google DeepMindがAI安全について協議していることは報じられた。しかし、何を共有し、何を一緒に決めるのかは不明で、合意成立も確認されていない。現段階で違法な談合や、参入排除の実行済みを断定する材料はない。

境界線はこう言い直せる。攻撃や事故の技術情報を限定して共有し、参加が開かれ、各社の価格、製品、公開、開発の判断が独立しているなら、協力は公共の安全を強めやすい。反対に、大手だけで公開時期や能力上限を決め、高価な認証を必須にし、非参加企業を市場から締め出すなら、安全基準は参入障壁へ近づく。

「協力だから善」「ライバル同士だから悪」ではない。共有する情報、共同で決める範囲、参加の扉、外部監督。この四点を見れば、安全という大きな看板の裏側も、ずっと読みやすくなる。

Sources ​