AIを選ぶとき、これまでは性能を見ることが多かった。
文章が自然か？コードを書けるか？画像を理解できるか？エージェントとしてどこまで仕事を任せられるか？
そして、安全性については、開発した会社がテスト結果を出し、「こういう対策をしています」とアナウンスするわけですが、これは少し変な構図とも言えますよね。
作った会社が、自分で試験をして、自分で安全性を説明する。
もちろん、それだけで評価が信用できないというわけではありませんが、AIができることが増えるほど「開発会社自身がそう言っている」だけでは判断材料としてもの足りないのは当然の話。
2026年9月、アメリカではその問題がかなり具体的な制度の話になってきているようです。
AI企業自身が「共通ルールが必要」と言い始めた
OpenAIは9月9日、高度なAIについて、能力水準に応じた義務的な安全規制をアメリカに導入すべきだという立場を示し、これは共通テスト、独立評価、サイバーセキュリティ対策、重大事故の報告などを含む連邦レベルの枠組み。
ポイントとなるのは「各社が自主的に頑張りましょう」ではないことにあり、一定以上の能力を持つAIには、企業ごとの判断とは別に、共通して守るルールを作ろうという話です。
同じ9月9日、カリフォルニア州ではSB 813とAB 1405が成立し、SB 813では、AIシステムやモデルが州法に適合しているかを確認する独立検証組織の枠組みが設けられ、AB 1405ではAI監査人の登録制度や独立性、透明性に関する基準が整備されることに。
AI規制というと、「危険なAIを禁止する」「企業にルールを守らせる」といった話が中心となるのですが、今回出てきているのは、その一歩手前の話であり、企業が安全だと言っているものを、それを誰が確認するのか？
この「確認する人」を制度の中に置こうとしているわけですね。
完成したAIだけ見ても分からないことは多いですし、これに対しさらに踏み込んでいるのがAnthropicのCEO、Dario Amodei氏。
Amodei氏は、9月に公表した「We Must Pace the Frontier」で、第三者の評価チームに継続的な「社員に近いアクセス」を与える構想を示しており、完成したモデルを外部の人に渡してテストしてもらうだけではなく、訓練工程、安全対策、社内で発見された問題、その後どう対応したのか？そうした開発の途中まで、外部の評価者が確認できる状態を作ろうという考え方となっています。
会計監査に近い発想
企業が決算書を作り「数字は正しいです」と言うだけではなく、外部の監査人がその根拠やプロセスを見る。
AIでも、最終的に出てきたモデルだけではなく、「どう作ったのか」まで確認しないと安全性を判断しにくくなってきており、同様のチェックシステムが必須という流れ。
ただし、AI監査は歴史もなく、会計監査ほど成熟していない。
利益や資産なら数字として確認できるのですが、「このAIはどこまで危険なのか」を一つの数字にすることはとても難しいうえ、モデル自体もあっという間に更新される状況の中、使い方も変わっていき、さらには昨日までできなかったことが、新しいモデルではできるようになることもある。
だからこそ、AI監査は、年一回のに監査して、一度ハンコを押して終わりといったスケジューリングは役に立たず、そこが少し厄介な部分でもある。
AIを作る速度そのものが変わっている中、なぜ今、ここまで外部評価の話が出てくるのか。
その背景の一つに、AI開発の中へAI自身が入り始めていることがある。
OpenAIは9月8日、同社の研究組織では、人間の1労働日あたりAIエージェントが3.1「エージェント労働日」分の作業を行っていると公表、あくまでもOpenAIの研究組織における2026年8月中旬時点の指標であり、そのまま一般企業に当てはめることもできないのですが、それでも、AI研究の中でAIがコードを書き、実験を進め、人間がその結果を確認するという形が増えていることは分かります。
以前は人間がコードを書き、実験し、結果を確認し、また次の実験を考えていた。
その途中の作業をAIエージェントが並行して進めるなら、研究のサイクルそのものが短くなる可能性は十分ですし、そうなってくると安全性の問題も少し変わってきます。
「安全対策をしているか」だけではなく、能力が伸びる速度に、安全確認の速度が追いついているかどうか。
Amodei氏が「pacing」という考え方を持ち出しているのも、この時間差を問題にしているからと言えます。
もちろん、ここから「AIが勝手に次のAIを作る時代になった」と考えるのは早計であり、3.1という数字だけでは、まだそこまでは言い切れません。
ただ、AI開発の一部をAI自身に任せる比率が上がり、その変化をAI企業自身が安全政策の論拠として扱い始めたことは、見ておいたほうがいい変化でもあります。
監査が増えれば安心というほど単純でもないが、第三者がチェックするなら、そのほうが少し安心とも言えます。
ただし、制度として考えると別の問題が生まれてきます。
当然ながら、監査にはお金がかかるうえ、技術者も必要、法務対応も増えることでしょう。
開発工程まで見せるなら、企業秘密をどこまで外部に開示するのかという問題もありますし、この負担に耐えうるのは、当然ながら大きな会社だけだろう。
OpenAIによれば、同社製品は週10億人を超えるユーザーと250万社の企業に利用されているとのことで、この規模の企業と、数十人で新しいAIを作っている会社では、同じ監査要求でも、その重さが違う。
ここで、安全規制には二つの顔が出てくる。
一つは、自社採点だけでは見えにくかった問題を外部から確認できるようになること。
もう一つは、監査コストそのものが新規参入の壁になること。
だから「規制が厳しいほど安全」という考えだけでは足りず、どの能力水準から監査するのか？小さな会社にも同じ要求をするのか？監査費用は一体誰が払うのか？そして、監査する会社はAI企業から本当に独立できるのか。
安全性の制度を作っているはずが、結果として数社しか参入できない市場になる可能性もあり、これは安全性とは別の問題として見ておく必要があります。
「どのAIが一番賢いか」だけでは選べなくなる
一般利用者にとって、明日からChatGPTやClaudeの使い方が変わる話ではないのだが、この影響が先に出てきそうなのは、企業のAI導入だろう。
文章の下書きを作るくらいなら、人間が最後に確認できる。
でもAIエージェントがコードを書き換え、社内システムを操作する。
顧客データを扱いながら、外部サービスにアクセスする。
任せる範囲が広がるほど、「性能が高い」というだけでは選びにくくなる。
- そのAIは、誰が安全性を確認したのか
- どこまで確認したのか
- 完成したモデルだけをテストしたのか
- 開発工程まで見たのか
- 問題が起きたときの操作履歴は残るのか
こうした項目が、モデル性能や料金と並び、調達条件に入ってくることは間違いありません。
ただ、ここでも一つ注意したいのが「第三者監査済み」という表示が、新しい安心マークになるだけでは意味が薄いということ。
監査にも範囲があり、ある条件では安全でも、別の使い方では問題が出るかもしれない。
監査会社とAI企業に金銭的な関係があれば、その独立性も問われていくでしょうし「監査を受けたか」より、「何を、どこまで、誰が見たのか」のほうが大事になってくる。
これまでのAI企業の競争というと、その判断基準はとても分かりやすかった。
- より賢いモデル。
- より速いモデル。
- より安いモデル。
- より多くの仕事を任せられるモデル。
そこへ、もう一つ別の評価軸が入り、外部から検証できるAIかどうか。
これはベンチマークの数字ほど派手ではないし、新機能のデモ動画のような分かりやすさもない。
それでも企業がAIへ重要な仕事を任せるほど「この会社を信用してください」だけでは済まなくなり、今後見るべきなのは、
- Anthropicが示したような継続的な第三者評価を、ほかのAI企業も採用するのか
- 米国の連邦制度に独立評価や重大事故報告が実際に組み込まれるのか
- AI監査人の評価基準や責任範囲が揃っていくのか。
- そして、監査コストが大手企業だけに有利な参入障壁にならないか
このあたりを見るほうが、実態はつかみやすい。
AIの性能競争がなくなるわけではないし、むしろ能力が上がるほど、安全性を確認する側も追いかけ続けることになる。
