「ちょっとした文章の修正なら、ChatGPTに頼めば一瞬で終わる」——
そう感じて、つい顧客名や案件の詳細をそのまま貼り付けていませんか?
実はその一手間が、後から取り返しのつかないトラブルにつながることがあります。本記事では、業務でChatGPTを使うときに「顧客情報を入れてはいけない3つの理由」を、なるべく専門用語を使わずに整理してお伝えします。
この記事は、士業・医療・製造業・小売など、お客様の情報を預かる立場の方を想定して書いています。
結論:なぜ「入れてはいけない」のか
先に結論をお伝えします。理由は次の3つです。
- 入力した情報が、AIの学習に使われる可能性がある
- 情報漏えいが起きたとき、法的責任を問われる立場にある
- 「自分は大丈夫」と思っている人ほど、すでに漏らしている
ひとつずつ見ていきます。
理由1:入力した情報が、AIの学習に使われる可能性がある
ChatGPTをはじめとするクラウドAIは、無料版・個人向け有料版では、入力した内容がAIの学習データとして使われる設定になっていることがあります。
つまり、
- 顧客の氏名
- 取引金額
- 病名や処方内容
- 図面や仕様書
- 契約書のドラフト
——こうした情報を貼り付けると、AIの提供事業者のサーバーに保存され、将来のAIモデルを賢くするための材料になる可能性があるのです。
「学習しない設定」もあるけれど
たしかに、設定画面から「履歴とトレーニング」をオフにすれば学習対象から外せます。法人向けプランやAPI経由なら、初期状態で学習されない設計になっているサービスも多くあります。
ただし、現場のリアルとしては——
- 設定をオフにしている人は、感覚的に1割もいない
- そもそも「設定をいじる必要がある」と知らない方が圧倒的多数
- 部下や同僚が同じ設定にしているかは、見えない
「会社全体でちゃんと管理する」のは、想像以上に難しいのです。
理由2:情報漏えいが起きたとき、法的責任を問われる立場にある
「学習されるかもしれない」というのは、技術的な話です。
本当に怖いのは、その先にある法的・社会的な責任です。
個人情報保護法の観点
日本の個人情報保護法では、
- 個人情報を取得した目的の範囲内で利用すること
- 第三者に提供する場合は、原則として本人の同意を得ること
- 安全管理措置を講じること
が求められています。
顧客情報を海外のAIサービスに送信することは、「第三者(しかも国外)への提供」に該当する可能性があります。お客様から「AIに入れていいですよ」という同意を取った覚えがないなら、それはすでにグレーゾーンです。
業界ごとの上乗せルール
業種によっては、さらに厳しい規律があります。
- 税理士・社労士・弁護士:守秘義務(各士業法)
- 医療機関:医療情報システムの安全管理ガイドライン
- 金融機関:FISC安全対策基準
- 製造業:取引先との秘密保持契約(NDA)
「うっかりChatGPTに貼り付けた」では、済まされない場面が確実に存在します。
漏れたときに失うもの
実害が起きると、失うのはお金だけではありません。
- 顧客からの信頼
- 同業者・取引先からの評判
- 場合によっては資格・許可
築き上げるのに10年かかったものが、たった1回の貼り付けで崩れることもあります。
理由3:「自分は大丈夫」と思っている人ほど、すでに漏らしている
これが、実はいちばんお伝えしたいことです。
ChatGPTを業務に使い始めると、ほぼ全員が、ある段階で「これくらいなら大丈夫だろう」という線引きを自分なりに作ります。
- 「名前は伏せて、A社・B社にしているから大丈夫」
- 「メールの下書きを直してもらうだけだから大丈夫」
- 「ちょっとした相談だから大丈夫」
——本当にそうでしょうか?
よくある「うっかり」のパターン
実際に多いのは、こんなケースです。
- メールの引用部分に、相手の本名や会社名が残っている
返信文の体裁を整えてもらうとき、引用符の中身を消し忘れる - 添付ファイルの中身をコピペして、ヘッダーごと貼ってしまう
見積書・請求書・診療記録などのフォーマットに、名前や番号が残っている - 「A社」と書いたつもりが、文脈から特定できてしまう
業種・所在地・規模・取引内容を組み合わせると、知っている人には一発でわかる - 過去の会話履歴が、別の質問に紛れ込む
ChatGPTは前の会話を覚えているため、無関係な質問にも顧客名が混ざる
「匿名化」は思っているより難しい
研究の世界では、データから個人を特定できないようにする「匿名化」という技術があります。これが実はとても難しいことが、専門家の間ではよく知られています。
たとえば、
- 「埼玉県の60代男性、糖尿病、年収500万円台、自営業」
この程度の組み合わせでも、地域を絞れば本人が特定できることがあります。
ましてや業務メールに残る情報は、これよりはるかに濃密です。
では、どうすればいいのか
「怖い話ばかりで、結局AIは使うなということか?」——いえ、そうではありません。
AIは正しく使えば、間違いなく業務の質とスピードを上げてくれます。問題は使い方の設計です。
選択肢は、大きく3つあります。
選択肢1:法人向けプラン・APIを利用する
ChatGPT Team / Enterprise や、API経由での利用は、原則として入力データが学習に使われない設計です。社内ルールと組み合わせれば、一定のリスクは下げられます。
ただし、
- 月額コストが個人プランの数倍
- それでもデータは海外サーバーを経由する
- 社員全員が同じ設定で使っているかの管理は必要
という前提があります。
選択肢2:入力する情報を、徹底的に「無害化」してから使う
顧客名・固有名詞・数字を、すべて記号や仮名に置き換えてから入力する方法です。手間はかかりますが、コストはかかりません。
ただし——前章の「うっかり」を、毎日、全社員が、ミスなく続けられるかという問題が残ります。
選択肢3:ローカルAIを導入する
社内の自分のパソコンやサーバーの中だけで動くAI(ローカルAI)を使う方法です。
- 入力した情報は、外に一切出ません
- インターネットに繋がっていなくても動きます
- 自社のデータを学ばせれば、「うちの場合は?」に答えてくれます
最近は、日本語が得意なローカルAIモデル(Qwen3、Gemma 3、Llama系など)が公開されており、中小企業でも導入できる現実的なコストで構築できるようになりました。
まとめ
3つの理由を、もう一度。
- クラウドAIに入力した情報は、学習に使われる可能性がある
- 漏えいすれば、法的・社会的な責任を問われる
- 「大丈夫」と思っている人ほど、気づかぬうちに漏らしている
「AIをやめる」ではなく、「外に出してはいけない情報は、外に出ない場所で扱う」——これが、これからの当たり前になっていきます。
ご相談を承っています
「うちの業務では、どこまでクラウドAIを使ってよくて、どこからローカルAIにすべきか?」——この線引きは、業種や扱う情報によって変わります。
ヤギヌマ企画では、ローカルAIの導入から、現場で使いこなすところまで、伴走するサポートを行っています。
「うちの場合は?」を、一度お話しに来てください。
コメント