AIセキュリティとして語られている話は、そのほとんどが「使うリスク」の話です。入力した情報が学習に使われる、機密が外部に出る、誤った出力をそのまま使ってしまう。だから慎重に、というのが基本の組み立てになっています。

その延長で、多くの会社が同じ結論に着地します。「うちはまだ、AIは使わせない」。一見、いちばん安全な判断に見えます。使わなければ、事故は起きないからです。

ですが、当事務所でAI起因の情報漏洩の事例を集めて内訳を見たところ、7割超が、会社が把握していないアカウントによるもの──いわゆるシャドーAIでした。全体を網羅した統計ではなく、あくまで当事務所が確認できた事例の内訳です。それでも、示している方向ははっきりしています。

漏洩は、許可して使っている会社よりも、禁止している会社のほうで起きている。

だとすると、「使うリスク」と並べて、もう一つ置くべきものがあります。禁止することによって生まれているリスクです。そしてそれは、使うリスクより大きい可能性があります。今回は、その可能性を検討してみたいと思います。

 

1．まず、禁止は実行されていません

いくつか実例を挙げます。いずれも、私が実際に見聞きしたものです。

社外での業務について、かなり細かいところまで禁止事項を定めていた会社がありました。ここまでやっているのですから、当然AIも禁止です。ところが実際には、社員が個人プランのChatGPTを普通に使っていました。やめるように言っても、やめない。

ご本人としては、安全に使えているつもりのようでした。実際、何かが起きたわけでもありません。ですが、そこで使われていたのは会社の統制を受けていないAIです。何を入力したかの記録も残らず、アカウントも会社の管理下にありません。漏洩が起きていてもおかしくなかった、とは申し上げられます。

別の会社では、経営者が「AIは危ないから使うな」と明言していました。その一方で、現場の担当者は自分のスマートフォンで生成AIに資料を読ませ、要約を作っていました。会社としては「使っていない」ことになっています。

さらに別の会社では、禁止しているという認識すら共有されていませんでした。誰も明示的に許可していないので、なんとなくグレーのまま、各自の判断で使っている状態です。

共通しているのは1点だけです。禁止したのに、使われている。

この時点で、会社は「使われていない」と信じているだけで、実態がまったく見えていません。冒頭の7割超という数字は、おそらくこの状態から出てきています。

 

2．禁止した瞬間に、統制が消えます

ここが本題です。禁止と統制は、同じ方向を向いていません。むしろ逆に働きます。

会社として許可し、管理している場合と、禁止した場合を並べてみます。

・どのAIを使っているか　　　許可＝分かる／禁止＝分からない
・何を入力したか　　　　　　許可＝ログが残る／禁止＝残らない
・アカウントは誰のものか　　許可＝会社／禁止＝個人
・退職時に切れるか　　　　　許可＝切れる／禁止＝切れない
・事故が起きたとき　　　　　許可＝追跡できる／禁止＝追跡できない

会計や監査の言葉に置き換えると、はっきりします。統制とは、起きていることを把握し、記録し、是正できる状態のことです。「起きていないことにする」ことではありません。

禁止は、AIのリスクを消す手段とは言い切れません。リスクをゼロにするのではなく、会社の視界の外へ動かしているだけ、という面があります。金額が減るのではなく、帳簿から消える。監査の立場からいえば、これがいちばん困る状態です。

そして、視界の外に出たリスクには、誰も手を打てません。禁止によって起きているリスクのほうが大きいのではないか、と申し上げたのは、この意味においてです。

 

3．これは、20年前に一度やった失敗です

新しい問題に見えますが、そうではありません。まったく同じ構図を、私たちは一度経験しています。

会社が正式なITを整備しない、あるいは使わせない。その結果、社員が自分のアカウントで業務を回す。かつて「シャドーIT」と呼ばれたものです。

ある会社では、会社名を冠した個人向けの無料メールアドレスを作り、役員3名で共有して使っていました。レポートを全員で見るため、という運用上の理由です。ところが各自が、そのアカウントにログインしたままのブラウザで、個人的なサイトの会員登録をしたり、銀行のサイトにログインしたりしていました。

結果、ブラウザに保存されたIDとパスワードが、役員全員から見える状態になっていました。気づいたのは、後から入った若手社員です。悪意のある人間が1人でもいれば、送金までできた状態でした。

別の例では、業務ファイルを個人のクラウドストレージに上げていた社員のアカウントが乗っ取られ、個人情報と会社情報が同時に流出しました。

どちらの背景にもあったのは、「大手のサービスだから安全」という理解です。実際には無料の個人向けサービスであって、権限設定を作り込まなければ、乗っ取りはいくらでも起きました。

いま起きていることと、並べてみます。

 

・20年前「大手のサービスだから安全」　→　いま「有名なAIだから安全」
・20年前 個人のメールアカウントを業務で使う　→　いま 個人プランのAIを業務で使う
・20年前 アカウントを複数人で共有する　→　いま アカウントを複数人で共有する
・20年前 会社は禁止したが、実際は使われていた　→　いま 会社は禁止したが、実際は使われている

 

個人向けプランを業務で使っている時点で、すでにアウトです。そして、そのアカウントを共有した瞬間に、統制は完全に失われます。20年前とまったく同じです。

AIの場合は、ここに固有のリスクが乗ります。会話の共有リンクを外部に公開できてしまうこと、社内向けに作り込んだ指示やプロジェクトの中身から、業務の構造そのものが読み取れてしまうこと。誤って公開された情報を探して回っている人間が、すでにいると考えたほうが自然です。

高度な攻撃を受けて漏れているわけではありません。管理されていないものを、リテラシーの高くない人が使っている。冒頭の7割超の中身は、ほぼこれです。

 

4．では、どうすれば使えるのか

ここまで読んで、「では許可すればいいのか」と思われたかもしれません。順番としては、そのとおりです。ただし、丸ごと開放するという意味ではありません。

現実的な一歩は、この順番になります。

 

（1）会社のアカウントで使わせる
最優先はこれです。個人プランを業務で使わせないだけで、入力内容の扱いも、アカウントの管理も、退職時の遮断も、会社の側に戻ってきます。費用としても、いちばん安い対策です。

（2）アカウントを共有させない
共有した瞬間に、誰が何をしたか分からなくなります。1人1アカウントが原則です。

（3）入れてよい情報とだめな情報の線を、1本だけ引く
細かいルールは守られません。「顧客から預かったデータは入れない」など、覚えられる線を1本だけ決めるほうが機能します。

（4）禁止リストではなく、許可リストから始める
「これはやってよい」を先に決めます。議事録の要約、社内文書のたたき台、調べもの。ここから始めて、運用しながら広げていくほうが、現場も動けます。

（5）見えるようにする
誰がどう使っているかが分かる状態を作る。ここまで来て、はじめて統制と呼べます。

（1）から（3）までは、費用も工数もほとんどかかりません。禁止し続けるより、はるかに軽い対応です。

 

5．おわりに

20年前にオンプレミスのファイルサーバーを置いた会社のうち、いくつかは、いまも同じ機械をそのまま使っています。ファームウェアも更新されないまま、事務所の隅に置かれている。当時「クラウドのほうが怖い」と判断した結果が、そのまま残っています。

同じことが、これから20年かけて起きる可能性が高いと考えています。いま「AIは使わせない」と決めた会社の一部は、20年後も使っていないでしょう。

繰り返しになりますが、禁止はAIのリスクを消す手段とは言い切れません。むしろ、リスクを見えなくしている可能性があります。そして見えないリスクは、監査でも、決算でも、事故が起きた後でも、いちばん高くつきます。

まずは、いま社内で誰かがAIを使っているとして、それが会社のアカウントかどうかを確認するところから始めてみてください。禁止しているはずの会社ほど、確認する価値があります。

 

ISAO国際公認会計士事務所　加藤 勲
生成AIの利用ルール設計、権限・アカウント設計、監査証跡の整備をご支援しています。