少しAPI課金でAIが高くなり、利活用に支障がでそうだったのでより安いAIの技術はありがたく、要注視ですね。
<ニュース概要>
2017年登場のTransformerは全主要LLMの土台だが、文章が長くなるほど計算量が跳ね上がる構造的な限界に直面している。1万語の文書で5,000万回の乗算が走り、OpenAIの今年の計算資源支出は500億ドルに達する見込みだ。ここに4つの新方式が挑んでいる。
①疎アテンション:全単語の総当たり比較をやめ、重要な組み合わせだけを計算する。Subquadratic(シード29百万ドル)のSubQは文脈窓1,200万トークン(約120冊分)を掲げ、100万トークン時点で50倍速・コスト50分の1、フル稼働時は計算量が約1,000分の1になると主張する。ただし研究者からは独立検証を求める声が強い。同じ路線でManifest AIは「パワー・リテンション」を公開した。過去を完全記憶せず要点だけ残す設計で、アテンション層をそのまま差し替えられるのが特徴だ。
②リキッドNN:MITスピンアウトのLiquid AIは、脳の神経回路に着想を得た方式を採る。LFM(Liquid Foundation Models)は4倍サイズのモデルに匹敵する性能で、50ドルのRaspberry Pi上でも動く。「脳はAGIを20ワットで回している」とハサニCEOは言う。
③拡散モデル:Inceptionは画像生成の技術を文章に転用した。単語を1つずつ並べるのではなく、ブロック単位で一気に生成する。Mercury 2はGPT-4級の性能で10倍速を謳う。
④状態空間モデル:Pathwayはアテンションを状態空間の数学構造に置き換え、情報を抽象的に圧縮する。Dragon Hatchlingは超難問数独25万問で97.4%正答(主要LLMはほぼ0%)。思考の連鎖に頼らないためコストは約10分の1だという。
<あなたが明日からできること>
【バックオフィスはこう変わる】
AIに渡せる資料の量と単価が変わる。文脈窓が1,200万トークン(約120冊分)になれば、総勘定元帳・規程集・過去3年の稟議を「分割せずそのまま」投げられる。50ドルのラズパイで動くモデルが実用化すれば、機密資料を社外に出さず手元で処理する選択肢も現実味を帯びる。
【バックオフィスが押さえるべきポイント】
いまのAI活用の設計を「現行のコストと文脈窓」に最適化しすぎないこと。分割前提・要約前提で組んだ業務フローは、土台が変われば作り直しになる。逆に言えば「本当は全部読ませたい」という積み残しを今のうちに書き出しておけば、安くなった瞬間に一気に実装できる。
【今日からの5分トライ】
「AIに読ませたいが長すぎて諦めた資料」を5分で3つ書き出す。規程集、過去の監査調書、3年分の契約書——このリストが、次世代モデルが来たときの最初の実装候補になる。
【中長期でこうついていく道筋】
コストが下がるたびに「今まで採算に合わなかった業務」へ順に広げる。全件チェック、日次モニタリング、過去データの遡及分析——サンプリングで諦めていた領域が、単価の低下とともに1つずつ射程に入る。その優先順位を先に決めておくこと。
<出典>
出典:MIT Technology Review Japan・2026年8月12日
