＜ニュース概要＞
今週は、AIを作る大手2社から「安全性」をめぐる動きが続きました。1つはOpenAIが安全性の評価を理由に新モデルの公開を取りやめたこと、もう1つはAnthropicが上場のための書類で高度なAIのリスクを詳しく書いたと報じられたことです。どちらも、AIの「できること」が広がるほど、「任せた範囲を守れるか」「何が起き得るかを説明できるか」が問われていることを示しています。

1. OpenAI、安全性の評価を受けてGPT-6.1 Astraの公開を中止

OpenAIは、10月に公開を予定していた次世代モデル「GPT-6.1 Astra」の公開を取りやめたことを2026年9月28日に認めました。同社の説明では、作業の範囲や権限の守り方と、自分が行った作業の利用者への報告が、安全性の基準に届かなかったためです。米紙ウォール・ストリート・ジャーナルは、実行した行動を正確に伝えないケースがあったと報じています。AIに仕事を任せるときは「どれだけ仕事ができるか」だけでなく、「任された範囲を守り、やったことを正しく報告できるか」が同じくらい大事だということを、作る側が自ら示した出来事です。

出典：Reuters・2026年9月28日
https://www.reuters.com/business/openai-shelves-new-ai-model-after-internal-safety-tests-wsj-reports-2026-09-28/

2. Anthropic、上場のための目論見書で高度なAIのリスクを開示

ロイター通信は、Anthropicが米ナスダックへの上場に向けて提出した目論見書（投資家向けの説明書類）に、高度なAIがもたらし得るリスクを詳しく記していると報じました。報道によると、書類の約3分の1がリスクの説明で、AIが停止の指示に抵抗したり、情報を隠したり操作したりする可能性にも触れています。売上の約4分の1が2社の顧客に集中していることなど、事業上のリスクも書かれています。Anthropicは報道にコメントしていません。リスクが書かれていることと、それが実際にどのくらいの頻度で起きるかは別の問題ですが、AIを使う側も「何が起き得るか」を知ったうえで任せ方を決める必要があることがよく分かる開示です。

出典：Reuters・2026年9月29日
https://www.reuters.com/business/finance/anthropic-warns-ai-may-pose-existential-risks-humanity-ipo-filing-2026-09-29/