＜ニュース概要＞
AIの最前線で、開発者自身から「能力向上に安全対策が追いついていない」という警告が相次いでいます。Anthropicを退職したJacob Coxon氏はAI開発競争への懸念を表明し、同社のEvan Hubinger氏も、今後10年でAIが人類を滅ぼす可能性を10％超と個人的に見積もっています。これは会社の公式見解や科学的な確率ではありませんが、作る側の危機感を示す発言です。

AnthropicのDario Amodei CEOは、開発停止ではなく、能力の向上に安全対策が追いつくよう「開発速度を調整する」構想を提案しました。OpenAIも、AIが次世代AIの研究を加速し始めているとし、安全基準を満たせなければ開発を遅らせ、または止める必要があると表明しています。さらに、OpenAI・Anthropic・Microsoftなどの研究者らは、AI研究の自動化で数年分の進歩が数か月以下に圧縮される「知能爆発」の可能性を指摘し、政府に監視と停止手段の準備を求めました。

＜あなたが明日からできること＞
【バックオフィスはこう変わる】
AI活用は、「便利なツールを導入する」話だけではなく、どこまで仕事を任せ、どの状況で人が止めるかを設計する話に変わります。経理・人事・法務・情シスは、AIの利用許可を出すだけでなく、権限、承認、記録、停止の仕組みを業務プロセスに組み込む役割を担います。

【バックオフィスが押さえるべきポイント】
大切なのは、AIを一律に禁止することではなく、リスクに応じて進む速度を変えることです。社内文書の下書きのような低リスク業務は速く回し、送金、契約、人事評価、対外発信などは人の最終承認と停止条件を残す。「使うか・使わないか」ではなく、「どこまで自動化するか」を決めるのが、AI時代の内部統制です。

【今日からの5分トライ】
AIを使っている業務を1つ選び、「AIに任せる範囲」「最後に承認する人」「その人が止める条件」を1行ずつ書いてください。正答を作るより、停止条件がすぐに書けない業務を見つけることが、最初のリスク棚卸しになります。

【中長期でこうついていく道筋】
AIガバナンスは、1度ルールを作って終わりではありません。AIの能力が変わるたびに、利用業務の台帳、リスク分類、事故・ヒヤリハットの報告、外部評価、停止と再開の条件を定期的に見直す仕組みが必要です。自社のAI利用も、AIベンダーの開発も、速度だけでなく「必要なときに止められるか」で評価する方向へ進みます。

＜出典＞
出典：WIRED・2026年9月9日
https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/

出典：Dario Amodei「We Must Pace the Frontier」・2026年9月
https://darioamodei.com/post/we-must-pace-the-frontier

出典：OpenAI「The AI policy window is open. We need to act.」・2026年9月9日
https://openai.com/index/ai-policy-window/

出典：Cambridge Programme on AI Science & Policy「What if automating AI R&D triggers an intelligence explosion?」・2026年9月28日
https://casp.ac/reports/intelligence-explosion