ChatGPTなどの生成AI、業務でも使う機会が増えています。
ただ、こんな認識になっていませんか？
- 法人版なら安全
- 学習されなければ問題ない
- 便利だから多少はOK
実はこれ、どれも不十分です。
AI利用で本当に問題になるのは「学習」ではなく「統制できるかどうか」です。
結論：問題は「学習」ではなく「統制」
多くの人は、
「学習に使われるかどうか」
を気にします。
しかし企業にとって重要なのはそこではありません。
本質的な問題は、
- 誰が使ったか分からない
- 何を入力したか分からない
- 利用状況を把握できない
つまり、会社の管理下でコントロールできるかどうかです。
多くの人が誤解しているポイント
- 学習されなければ安全
- 法人版なら何を入れてもOK
- 便利なら現場判断で使ってよい
実際には、
「学習されるか」ではなく「管理できるか」が重要です。
例えば、学習に使われない設定でも、
- 誰がどの情報を入力したか分からない
- 利用履歴が取得できない
- 問題発生時に追跡できない
場合、企業としては重大なリスクになります。
セキュリティは「保存されるか」ではなく「統制できるか」で考える必要があります。
AIに入力された情報はどう扱われるのか
AIに入力したデータは、
- 外部のサーバに送信される
- 処理のため一時的に保持される
- ログとして記録される可能性がある
ここまではよく知られています。
問題はその先です。
企業側からその情報を追跡・管理できないケースがあることです。
つまり、
「送信されること」より「その後どう扱われるかを企業が制御できないこと」が本質的なリスクです。
個人版・法人版・社内基盤連携型の違い（ここが最重要）
AIはすべて同じではありません。
「機能」ではなく「統制のしやすさ」で比較することが重要です。
① 個人アカウント利用（最もリスクが高い）
- 会社が利用状況を把握できない
- ログ取得ができない
- アカウント停止や制御ができない
完全に管理外となり、統制が効きません。
例えば、
- 退職者が使い続ける
- 個人メールで業務データを入力する
- 事故が起きても発覚しない
といったケースが現実に起きます。
企業としては「使っているかどうかすら分からない状態」です。
② 法人契約AI（一定のコントロールあり）
- 学習利用の制限が可能
- 契約によるデータ保護
- アカウントの一元管理が可能
一見安全に見えますが、落とし穴があります。
例えば、
- 利用ルールがない
- 入力禁止データが定義されていない
- ログを見ていない
場合、
「安全なツールを使って危険な使い方をしている状態」になります。
つまり、ツールだけでは安全になりません。
③ 社内基盤連携型（例：M365 Copilot）
- ID管理（Azure ADなど）と連携
- ログ・監査が可能
- 既存の権限範囲で動作
これにより、
- 誰が使ったか分かる
- 何をしたか追跡できる
- アクセス範囲を制御できる
企業の統制の中でAIを使える状態になります。
ただし、
元の権限設計が甘いと、そのままリスクになります。
（例：誰でも見れるSharePoint → AI経由でも見れてしまう）
何を入れてはいけないのか（より具体的に）
ここを曖昧にすると現場判断で事故が起きます。
▼ 絶対にNGな情報
- 顧客情報（氏名・連絡先）
- 契約内容・価格情報
- 未公開情報
- 認証情報（ID・パスワード）
- ソースコード
- 障害・インシデント情報
- 顧客とのメール本文
特にメール本文は、そのまま攻撃に悪用される可能性があります。
（実在するやり取りをベースに攻撃メールが作られるため）
▼ 条件付きでOKな情報
- 公開済みの情報
- ダミーデータ
- 個人・企業を特定できない内容
「外に出しても問題ないか」で判断するのが基本です。
企業が本当に困るのは「事故後」
AI利用のリスクは、発生した後に顕在化します。
- 誰が入力したか分からない
- 何が送信されたか分からない
- 影響範囲が特定できない
この状態では、
- 顧客への説明ができない
- 再発防止策が作れない
- 監査対応ができない
つまり「事故を防ぐ」だけでなく「事故後に対応できない」ことが問題です。
実務で使える判断基準
AI利用は「禁止 or 自由」の二択ではありません。
以下の観点で判断することが重要です。
- 管理下にあるAIか
- ログが取得できるか
- 利用ルールが明確か
- 代替手段があるか
この4つを満たせない場合は利用方法を見直すべきです。
まとめ
AIのリスクは「情報漏洩」だけではありません。
本質は、
- 企業として管理できない状態になること
- 統制が効かなくなること
「どのAIを使うか」ではなく「どう管理するか」が最も重要です。
コメント