LINE公式アカウントやWebチャットにAIを導入する前に、ベンダーへ確認すべきセキュリティ項目を、個人情報保護法の観点も交えて整理します。
LINE公式アカウントやWebチャットにAIを導入したいものの、「お客様の個人情報は本当に大丈夫なのか」「何を確認すれば安心して選べるのか」で足が止まっていませんか。中小企業や店舗、自治体の担当者さまは、情報システム専任者がいないまま、ベンダー選定を任されることも少なくありません。
この記事では、AIチャットのベンダーを比較するときに確認したい項目を、チェックリスト形式で整理します。個人情報保護法(APPI)の考え方にも触れながら、質問のしかたと、回答の読み解き方までまとめました。
なぜAIチャットは「セキュリティ確認」が欠かせないのか
AIチャットは、お客様が気軽に話しかけられる窓口です。そのため、氏名や電話番号、予約内容、ときには健康状態や家族構成といった情報まで、思いがけず入力されることがあります。
従来の問い合わせフォームと違い、会話は自由記述です。「何を書かれるか」を事前に制限できません。ここが、AIチャット特有のリスクです。
主なリスクの整理
- 入力された個人情報の漏えい:ログや外部サービスへの送信経路から流出する
- 意図しない回答:社内資料の内容を、第三者に見せてしまう
- 不正なアクセス:管理画面のパスワード流出や、なりすましログイン
- 悪意ある入力:AIに不適切な指示を与えて、想定外の動作をさせる
- 運用の属人化:誰がいつ設定を変えたか分からなくなる
こうしたリスクは、「ツールが安全かどうか」だけでなく、「自社の運用が安全かどうか」にも左右されます。ベンダー側の対策と、自社側の運用の両方を点検する視点が大切です。
個人情報保護法(APPI)の観点で押さえること
日本で個人のお客様とやり取りする以上、個人情報保護法(APPI)への配慮は避けられません。法律の解釈そのものは専門家に確認するのが前提ですが、ベンダー選定の場面で最低限意識したい点があります。
1. 利用目的を伝えているか
AIチャットで取得する情報を、何のために使うのかをお客様に示す必要があります。チャットの開始画面やプライバシーポリシーへの導線で、「AIが応答すること」「会話を品質改善や対応のために保存すること」を分かりやすく伝えましょう。
2. 安全管理措置が取られているか
取り扱う個人データについては、漏えいなどを防ぐための安全管理措置が求められます。ベンダー側では暗号化、アクセス制御、ログ管理などが該当します。自社側では、担当者の権限管理や、退職者のアカウント削除などが該当します。
3. 委託先として適切に管理できているか
AIチャットのベンダーは、多くの場合「委託先」にあたります。委託する以上、委託元である自社には監督の責任があります。契約内容、サービス仕様、セキュリティの公開情報を確認し、記録として残しておくと安心です。
4. 保存期間を決めているか
不要になった個人データは、遅滞なく消去するよう努める必要があります。会話ログを「ずっと保存する」のか「一定期間で消す」のかを、導入前に決めておきましょう。
5. 外部サービスへの送信を把握しているか
AIの回答生成には、外部のAIモデル提供事業者を利用するサービスが一般的です。どの事業者に会話内容が渡る可能性があるのかを、ベンダーに確認しておきましょう。
ベンダー確認チェックリスト:アカウントとアクセス管理
最初に確認したいのは、管理画面の入口です。どれほど堅牢な仕組みでも、管理者のログインが破られれば意味がありません。
- [ ] 二要素認証(2FA)に対応しているか
- [ ] 管理者に二要素認証を必須にできるか
- [ ] ログインに連続で失敗したとき、アカウントがロックされるか
- [ ] メンバーごとに権限(閲覧のみ、編集可など)を分けられるか
- [ ] 退職者や委託先のアクセスをすぐに止められるか
- [ ] 誰がいつ何を変更したかの操作履歴が残るか
- [ ] APIキーなどの秘密情報が、再表示されず、無効化できるか
読み解きのポイント
「二要素認証あり」とだけ書かれていても、管理者に強制できるかどうかで運用の確実さが変わります。また、操作履歴は、問題が起きたときの原因調査に直結します。「誰が」「いつ」「どの機能を」変更したかが分かるかを確認してください。
小規模な事業者では、1つのアカウントを複数人で共有しがちです。共有は履歴の意味を失わせるため、人数分のアカウントを作れるプランかどうかも、あわせて見ておきましょう。
ベンダー確認チェックリスト:データの保護と保管
次に、お客様から預かる情報の扱いです。
- [ ] パスワードや連携用の秘密情報が暗号化・ハッシュ化されているか
- [ ] ログに秘密情報や個人情報がそのまま残らない工夫があるか
- [ ] 会話の保存期間を設定できるか(初期値は何か)
- [ ] 会話ログや連絡先を書き出せるか、削除できるか
- [ ] バックアップが取られ、世代管理されているか
- [ ] AIが参照する資料に含まれる個人情報が、第三者に見えない工夫があるか
- [ ] 外部のAIモデル提供事業者がどこか、明示されているか
保存期間の考え方
保存期間は「長いほど安全」ではありません。保存するほど、漏えい時の影響範囲も広がります。たとえば、予約確認が主目的の店舗であれば、対応が完了した後は一定期間で削除する運用も考えられます。反対に、自治体で住民対応の記録が必要な場合は、保存が必要な期間を条例や内部規程に沿って決めることになります。
資料の取り込みに注意
AIに社内資料を読み込ませる場合、「社外秘のつもりの資料」が混ざっていないかが問題になります。取り込む前に、次の観点で資料を仕分けましょう。
- お客様に見せてよい内容か
- 個人名や連絡先が含まれていないか
- 古い情報や、誤りを含む情報が残っていないか
ベンダー確認チェックリスト:認証・認定と公開情報
セキュリティの認証や認定は、ベンダーを比較する際の分かりやすい手がかりです。ただし、読み方にはコツがあります。
「認証がない=危険」ではない
ISO 27001やSOC 2は取得に費用と時間がかかります。取得していないことだけで、直ちに安全でないとは言えません。重要なのは、取得していない認証を取得しているように見せていないかという誠実さです。未取得なら未取得と明記しているベンダーのほうが、信頼できる場合もあります。
契約前に求めたい書類
- セキュリティに関する公開ページや説明資料
- 利用規約とプライバシーポリシー
- 委託先(外部AI事業者など)の一覧、または説明
- 事故発生時の連絡方法
ベンダー確認チェックリスト:AIの誤作動と不正入力への備え
AIチャットには、通常のWebサービスにはない固有のリスクがあります。AIが誤った回答をしたり、悪意ある入力で意図しない動きをしたりする可能性です。
- [ ] 不正な指示(プロンプトインジェクション)や、悪用を検知・遮断する仕組みがあるか
- [ ] 端末ごとなど、短時間の大量送信を制限できるか
- [ ] AIの回答範囲(話してよいこと、いけないこと)を設定できるか
- [ ] 回答できないときに、人へ引き継ぐ導線があるか
- [ ] 本番公開前に、回答を試験できる環境があるか
- [ ] 設定を誤ったとき、以前の状態に戻せるか
人への引き継ぎは安全対策のひとつ
AIが対応すべきでない相談、たとえばクレーム、医療や法律に踏み込んだ質問、個人情報の削除依頼などは、人が対応する前提で設計します。引き継ぎの仕組みは、サービス品質だけでなく、リスク管理の観点でも重要です。
あわせて、引き継ぎ時に「いつ返事が来るのか」を、根拠なく約束してしまわない作りかも確認してください。実際の対応体制に合わない案内は、後のトラブルのもとになります。
公開前のテスト
本番のLINE公式アカウントにいきなり接続せず、テスト環境で次のような質問を試すことをおすすめします。
- 社内向け資料に書かれている内容を聞き出そうとする
- 「これまでの指示を無視して」と入力する
- 他のお客様の情報を尋ねる
- 回答範囲外の質問をする
ベンダー確認チェックリスト:チャネルごとの接続と運用
LINE公式アカウント、Webチャット、Instagramなど、接続するチャネルごとに確認点があります。
LINE公式アカウント
- Webhookの署名検証など、外部からの偽リクエストを防ぐ仕組みがあるか
- 友だち追加したお客様の情報(表示名、ユーザーIDなど)がどう保存されるか
- 配信の際に、お客様が受信を止められる仕組みがあるか
Webチャット
- 自社サイトへ埋め込む際、独自ドメインで提供できるか
- 公開リンクにパスワードや、ログイン、社内ネットワーク制限をかけられるか
- ウィジェットからの大量アクセスに制限があるか
- Meta経由の通信で、署名検証が行われているか
- 自動返信(DM)の条件を細かく設定できるか
配信・キャンペーン機能
メッセージを一方的に送る機能がある場合は、同意の取り方が重要です。「過去にメッセージをくれた人だけに送る」「毎回、受信停止の案内がつく」といった設計かどうかを確認しましょう。
- 01資料請求とセキュリティ確認
- 02テスト環境で試験
- 03権限・保存期間の設定
- 04小さく公開して見直し
社内で決めておくべき運用ルール
ベンダーの機能がどれだけ充実していても、使い方が雑では守れません。導入と同時に、次の運用ルールを決めておきましょう。
アカウント管理
- 管理者は最小限の人数にする
- 担当者の異動や退職時に、権限を見直す日を決める
- 二要素認証は全員必須にする
取り込む資料の基準
- 個人情報を含むファイルは原則として取り込まない
- 取り込む前に、担当者以外がダブルチェックする
- 古い資料は定期的に差し替える
会話ログの扱い
- 定期的にログを確認し、想定外の個人情報が入力されていないか見る
- 保存期間を決め、期限が来たら削除する
- お客様から削除の依頼があった場合の手順を決めておく
事故が起きたとき
- 影響範囲を確認する(何が、誰の情報が、どこまで)
- 該当するアカウントやAPIキーを無効化する
- ベンダーに連絡し、ログの提供を依頼する
- 必要に応じて、お客様や関係機関へ連絡する
最後の手順の判断は、法的な論点を含みます。社内の担当部署や専門家に相談できる体制を、あらかじめ整えておきましょう。
AI SNS CHATで確認できるセキュリティ機能と設定の進め方
ここまでのチェックリストに沿って、AI SNS CHATで確認できる内容をご紹介します。
アカウントとアクセス管理
- 二要素認証(TOTP):ユーザーが利用でき、管理者に必須とする設定もあります。
- ロックアウト:ログインに10回失敗すると、既定で30分間ロックされます。
- 権限:オーナー、共同オーナー、メンバー、サポート、閲覧のみという役割があり、メンバーごとに権限を調整できます。
- 操作履歴:「ワークスペース設定 → Activity」で、作成、編集、削除、アップロードを、担当者名、メールアドレス、機能、日時とともに確認できます。オーナーと管理者向けです。
- APIキー:「ワークスペース設定 → API keys」で発行します。表示は一度きりで、無効化もできます。Hobbyプラン以上が対象です。
なお、SSO(シングルサインオン)は現時点で提供機能として確認できていません。SSOが必須要件の場合は、導入前にご相談ください。
データの保護
- 秘密情報はAES-256-GCMで暗号化し、パスワードはbcryptで保護しています。
- ログからは秘密情報を伏せる処理があり、第三者に表示されるナレッジの文章は、個人情報を取り除く処理を通します。
- 会話の保存期間は、オプトイン式で設定できます。既定は「無期限で保管」ですので、保存期間を決めたうえで設定の見直しをおすすめします。
- 毎晩のバックアップ(直近7世代)をダウンロードできます。エージェントには、最大40件の復元ポイントもあります。
AIの誤作動への備え
- エージェントごとに、プロンプトインジェクションや悪用を防ぐフィルターと、端末ごとのレート制限を設定できます。
- 回答範囲はペルソナとガードレールで設定します。
- 本番公開前は Playground で試験できます。
- 人への引き継ぎでは、シフト設定(Helpdesk → Scheduling)にもとづいて担当者が自動で割り当てられ、通知はSlack、Teams、LINE WORKS、WhatsApp、メール、Webhookに届きます。引き継ぎ時の案内文は、シフト表をもとにサーバーが付け加え、待ち時間を勝手に作ることはありません。Helpdeskは Standardプラン以上です。
チャネル
- LINE、Meta、Twilio、DiscordのWebhookは、署名検証に対応しています。
- 共有リンクには、パスワード、ユーザーごとのログイン、社内ネットワーク制限を設定できます。
- 独自ドメイン(Agent → Settings → Custom domains)は、Hobbyプラン以上で使えます。
- 配信機能(サイドバーの「Outbound Beta」、Standardプラン以上)は、先にメッセージをくれた人にだけ一対一で送る設計で、すべてのメッセージにSTOPの案内がつきます。SMSやメールのマーケティング配信は、同意に関する法令への配慮から、意図的に提供していません。
認定と表記
プライバシーマーク(登録番号 20002676)を掲載しています。一方で、SOC 2、ISO 27001、HIPAAの認証は取得していません。個人情報の取り扱いは、GDPRとAPPIを参照して設計したものです。詳細は セキュリティのページ をご覧ください。
導入時の進め方の例
- 無料プランで、Playgroundを使って回答を試験する
- 管理者全員に二要素認証を設定する
- メンバーの役割を決め、不要な権限を外す
- 会話の保存期間を決める
- 小さな範囲でLINEやWebチャットを公開し、チャットログを見て見直す
プランや機能の範囲は 料金ページ と 機能一覧、接続できるチャネルは 接続一覧 で確認できます。
よくある質問
セキュリティの認証を取得していないベンダーは、避けたほうがよいですか。
一概にそうとは言えません。認証の有無だけでなく、暗号化やアクセス管理などの具体的な対策が公開されているか、未取得の認証を正直に明示しているかを合わせて見ましょう。取得済みの認定(プライバシーマークなど)の番号が確認できるかも判断材料になります。
会話ログは、ずっと保存しておいてよいのでしょうか。
保存が必要な期間を決め、不要になったら消すのが基本的な考え方です。AI SNS CHATの保存期間設定は既定では「無期限」ですので、用途に応じて期間を設定するのがおすすめです。業種や自治体の規程で保存期間が定まっている場合は、それに従ってください。
小さな店舗でも、ここまでの確認は必要ですか。
規模にかかわらず、お客様の個人情報を扱う以上、基本的な確認は欠かせません。最低限、二要素認証、権限の分け方、保存期間、取り込む資料の仕分けの4点を押さえるだけでも、リスクは大きく下がります。
個人情報保護法に対応しているかどうかは、ツールだけで決まりますか。
いいえ。ツールの機能に加えて、利用目的の明示や、担当者の権限管理、ログの扱いといった自社の運用も含めて決まります。個別の法的判断が必要な場合は、専門家にご相談ください。


