ChatGPT・Claude業務利用の情報漏えい対策と注意点5つ

【画像：①】

「この内容、ChatGPTに聞いてもいいのかな」「取引先の名前が入った文章をそのままAIに貼り付けてしまったけど大丈夫だろうか」——生成AIを仕事で使い始めた方から、こうした不安の声をよく耳にします。会議の議事録やお客様とのやり取り、社内資料の要約など、生成AIは便利な反面、使い方を誤ると情報漏えいにつながるリスクがあります。実際、ある調査では、企業が生成AI活用で感じる課題として「情報漏洩のリスク」を挙げた割合が3割を超えているというデータもあります。とはいえ、正しい知識を持って使えば、過度に恐れる必要はありません。この記事では、ChatGPTやClaudeなどの生成AIを業務で安全に使うための注意点を、初心者の方にも分かりやすく解説します。

まず知っておきたい生成AIの情報漏えいリスク

入力したデータが「学習」に使われることがある

生成AIの多くは、ユーザーが入力した文章を「学習データ」（AIの回答精度を上げるために使われる元データ）として利用する場合があります。特にChatGPTの無料版・個人向けプランでは、初期設定のままだと入力内容がモデルの改善に使われる設定になっていることがあります。一方Claudeは、通常のチャット利用において初期設定でデータを学習に使わない方針を取っています。ただし設定はサービスやプランによって変わることがあるため、「今使っているプランはどうなっているか」を都度、公式のヘルプページやプライバシー設定画面で確認する習慣をつけることが大切です。

プロンプトインジェクションという攻撃手法もある

「プロンプトインジェクション」とは、悪意のある指示文をAIへの入力に紛れ込ませることで、AIに本来意図しない動作をさせたり、内部情報を引き出そうとしたりする攻撃手法です。たとえば外部から受け取ったメール文面や資料をそのままAIに読み込ませる際、その中に不正な指示が仕込まれているケースも報告されています。「AIだから安全」と思い込まず、出所の分からないテキストをAIに読み込ませるときは特に注意が必要です。

【画像：②】

今日からできる具体的な対策

①入力前に「これは他人に見せられる内容か」を確認する

もっともシンプルで効果的なのは、AIに入力する前に一呼吸置いて「この文章を無関係な第三者が見ても問題ないか」を自分に問いかける習慣です。顧客名・電話番号・契約金額・社外秘の企画内容などは、入力前に伏字にする、仮の名称に置き換えるといったひと手間で、リスクを大きく減らせます。たとえば議事録の要約をAIに頼みたいときは、社名や個人名を「A社」「Bさん」のように仮名に置き換えてから入力し、AIが出力した要約文の該当箇所を後から自分で正しい名称に戻す、という順番にするだけでも安全性は大きく変わります。

②社内で使えるAI利用ルールのたたき台を作る

個人の注意力だけに頼らず、チームや会社全体で「入力してよい情報・悪い情報」の線引きをルール化しておくと安心です。ゼロから作るのが大変な場合は、生成AI自身にたたき台を作らせるという方法もあります。以下は、そのためのプロンプト例です。

あなたは中小企業の情報セキュリティ担当者です。
従業員が生成AI(ChatGPTやClaudeなど)を業務で利用する際の
社内ルールのたたき台を作成してください。

条件:
・箇条書きで10項目以内
・「入力してはいけない情報の例」を必ず含める
・専門用語には簡単な説明を添える
・IT専門でない社員にも分かる言葉で書く

出力された内容はあくまで「たたき台」です。実際に社内ルールとして採用する場合は、自社の業種や取り扱う情報の性質に合わせて、法務担当者や情報システム部門と内容を確認しながら調整してください。

③プランごとのセキュリティ機能を確認して活用する

ChatGPTにもClaudeにも、法人・チーム向けのプランでは、入力データを学習に利用しない設定や、管理者がメンバーの利用状況を管理できる機能が用意されていることが一般的です。個人向けプランをそのまま業務に使うのではなく、自社の利用規模や扱う情報の重要度に応じて、法人向けプランの導入を検討するのも一つの方法です。プランごとの機能や料金は変更されることがあるため、導入を検討する際は必ず各サービスの公式サイトで最新情報を確認しましょう。

④アカウントとログイン方法を定期的に見直す

意外と見落とされがちなのが、生成AIサービス自体のアカウント管理です。パスワードを使い回していないか、退職した従業員のアカウントがそのまま残っていないかなど、定期的な棚卸しをおすすめします。可能であれば「多要素認証」（パスワードに加えて、スマートフォンへの通知確認など複数の方法で本人確認を行う仕組み）を有効にしておくと、万が一パスワードが漏れてしまった場合でも、不正ログインのリスクを大きく下げられます。チームで生成AIを使う場合は、誰がどのアカウントで何を利用しているかを管理者側で把握できる状態にしておくことも大切です。

注意点：AIの回答も無条件に信用しない

情報漏えい対策とあわせて意識したいのが、AIの回答を鵜呑みにしないことです。生成AIは、もっともらしいが事実と異なる内容を出力する「ハルシネーション」と呼ばれる現象を起こすことがあります。社外に出す資料や顧客への回答にAIの出力をそのまま使うのではなく、必ず人の目で事実確認を行ってから使用することをおすすめします。セキュリティと正確性は、どちらも「AIを信頼しすぎない」という同じ姿勢から生まれます。

まとめ

生成AIは業務効率化の強力な味方ですが、便利さの裏には情報漏えいなどのリスクも存在します。今回紹介した「入力前に確認する習慣」「社内ルールのたたき台作り」「プランごとの機能確認」「アカウントの定期的な見直し」「AIの回答を鵜呑みにしない」という5つのポイントを押さえておけば、過度に恐れることなく、安心して生成AIを業務に取り入れていけます。AIビジネスナビでは、今後も生成AIを安全かつ効果的に活用するための情報を発信していきます。次回の更新もぜひチェックしてみてください。