【カリフォルニア州】AI「キルスイッチ」義務化を検討、ニューサム知事が行政命令

2026年9月18日、カリフォルニア州のギャビン・ニューサム知事によって、AIの「キルスイッチ」導入義務化などを検討する行政命令が発表されました。（プレスリリース）

行政命令は、暴走したAIを強制停止する「キルスイッチ」の導入義務化の検討を州機関に指示している。
州政府運営局は、専門家の意見を踏まえた勧告を11月16日までに知事へ提出するとしている。
ニューサム知事は、連邦政府のAI規制の欠如を批判し、独自に規制強化へ踏み切ったとしている。

カリフォルニア州のギャビン・ニューサム知事は18日、AI規制の強化に向けた行政命令（N-9-26号）に署名し、即日発効させた。同命令は、フロンティアAIモデルの安全性・独立監査に関する既存の州法（SB 813、AB 1405）の実施を前倒しするとともに、AIが制御不能に陥った際に強制停止する「キルスイッチ」の導入義務化に向けた検討を進めるものだとしている。

この命令により、州政府運営局は緊急事態局と協議のうえ、国内の専門家を招集し、遅くとも11月16日までに知事へ勧告を提出することが義務付けられる。勧告では、フロンティアAI企業に独立した第三者監査人を受け入れさせることや、制御不能事案の報告義務化、緊急停止機能（キルスイッチ）の実装など、少なくとも4つの分野について、既存のAI安全・セキュリティ関連州法を改正する際の技術的な実現可能性と有効性を検討するとしている。

ニューサム知事は、連邦政府がAIの監督や説明責任の枠組みを整備してこなかったことを「重大な失敗」だと批判し、トランプ大統領がAIのリスクを「デマ」と一蹴していることにも言及した。知事は声明で、手遅れになる前に責任あるAI監督体制の構築を急ぐ考えを示しているが、こうした政権批判にはトランプ政権側や産業界から異なる見方も示されている。

カリフォルニア州は、フロンティアモデルの安全性や独立監督、子ども・コンパニオンチャットボット、プライバシー、ディープフェイク、詐欺、サイバーセキュリティ、労働者保護、政府によるAI活用など、AI政策のほぼ全領域で法整備を進めてきたとしている。ニューサム知事は、こうした州の枠組みを全米に広げるべきだとも訴えており、2028年の大統領選出馬も取り沙汰される中での今回の対応は、政治的な思惑を指摘する声もある。