生成AIセキュリティ対策｜費用・選び方

生成AIを安全に導入するには、入力禁止事項を決めるだけでは不十分です。扱うデータを分類し、サービスの契約条件、認証、アクセス権、保存期間、操作ログ、人による出力確認までを一体で設計します。一般的な対策費用は、リスク評価で30万〜100万円、導入整備で50万〜500万円程度が目安です。

• 生成AI導入で確認すべきセキュリティリスク
  • セキュリティ対策の責任範囲を分ける
• 導入前セキュリティチェックリスト
  • 1. 利用目的とデータを整理する
  • 2. サービスと契約条件を確認する
  • 3. アカウントとアクセス権を設計する
  • 4. 技術的な制御とログを確認する
  • 5. 運用と教育を準備する
• 方式別の費用相場と期間
  • 見積もりに含めるべき費目
  • 導入方式を選ぶ基準
• 安全な導入手順と外注先の選び方
  • ステップ1：対象業務を一つに絞る
  • ステップ2：データの流れを図にする
  • ステップ3：候補サービスを同じ条件で比較する
  • ステップ4：本番データを使わずに試す
  • ステップ5：限定公開して運用を確認する
  • ステップ6：全社展開と定期点検を行う
  • 外注前に用意する情報
  • 支援会社を見極めるポイント
  • よくある失敗と回避策
• まとめ
• よくある質問
  • 会社契約なら入力データは学習に使われませんか？
  • 生成AIへ個人情報を入力してもよいですか？
  • 小規模な導入でもSSOや操作ログは必要ですか？
  • 生成AIのセキュリティ対策にはどのくらいの費用と期間が必要ですか？

生成AI導入で確認すべきセキュリティリスク

結論からいえば、生成AIのセキュリティ対策は「入力情報の漏えい防止」だけではありません。アカウントの不正利用、権限を超えた社内情報の参照、不正確な回答の業務利用、外部サービスとの意図しないデータ連携まで含めて考える必要があります。

生成AIとは、文章・画像・プログラムなどを入力内容に応じて作り出すAIです。便利である一方、従来の業務システムとは異なり、利用者が自由な文章を入力できるため、管理者が想定していない情報を送信しやすい特徴があります。

主なリスクは次のとおりです。

SSO（＝会社の共通アカウントでログインする仕組み）を導入しても、生成AIが参照するファイルの共有範囲が広すぎれば情報は漏れます。反対に、入力を全面禁止しても、業務上の需要が高ければ未承認サービスの利用を招く可能性があります。

発注のご相談を受ける開発会社の立場から見ると、「法人プランを契約すれば自動的に安全になる」という誤解が少なくありません。法人契約は重要ですが、実際の安全性は契約条件と管理設定、社内データの状態、運用ルールによって決まります。

セキュリティ対策の責任範囲を分ける

導入時は、誰が何を管理するかを明確にします。少なくとも次の担当が必要です。

• 事業責任者：生成AIを使う目的と許容できるリスクを決める
• 業務部門：利用場面、入力データ、出力後の確認方法を整理する
• 情報システム・セキュリティ担当：認証、権限、端末、ログを管理する
• 法務・個人情報管理担当：契約条件、個人情報、著作権上の論点を確認する
• 開発会社・導入支援会社：設定、連携、試験、運用設計を支援する

生成AI導入を情報システム部門だけに任せると、実際の業務でどの情報を扱うのかが見えません。反対に、業務部門だけで進めると、認証や契約の確認が抜けやすくなります。小規模な企業では一人が複数の役割を兼ねても構いませんが、承認者と実務担当者は明確にしてください。

導入前セキュリティチェックリスト

導入前には、サービス名だけでなく「誰が、どの端末から、何を入力し、どこへ保存し、回答を何に使うか」を確認します。以下のチェックリストを、候補サービスや利用業務ごとに埋めると比較しやすくなります。

1. 利用目的とデータを整理する

最初に、扱うデータを機密度で分類します。分類名は自社規程に合わせて構いません。

確認項目は次のとおりです。

• 生成AIを使う具体的な業務が決まっている
• 入力する可能性があるデータを洗い出している
• 個人情報、顧客秘密、未公開情報の有無を確認した
• 匿名化やダミーデータで代替できるか検討した
• AIの回答をそのまま利用してよい業務と、人の確認が必要な業務を分けた
• 採用、審査、契約、医療など、誤りの影響が大きい用途を識別した

特に重要なのは「入力してよい情報」だけでなく、「生成された内容をどこまで信用してよいか」を決めることです。生成AIは自然な文章で誤った内容を出すことがあるため、正確性が必要な業務では根拠資料との照合が欠かせません。

2. サービスと契約条件を確認する

無料版、個人向けプラン、法人向けプランでは、管理機能やデータの扱いが異なる場合があります。サービス名が同じでも、契約プランや設定によって条件が変わるため、営業資料だけで判断しないことが大切です。

• 入力・出力データがAIの学習や品質改善に使われる条件を確認した
• データの保存期間と削除方法を確認した
• データの保存場所や国外移転に関する条件を確認した
• 再委託先や外部のAI基盤が明示されている
• 契約終了時にデータを削除できる
• セキュリティ事故時の連絡方法が決まっている
• サービス提供者と自社の責任範囲を確認した
• 管理者が利用者、共有、外部連携を制御できる
• 契約条件や仕様変更を把握する方法がある

「入力データを学習に使わない」という説明だけで契約を決めるのは不十分です。一定期間保存されるのか、障害調査のために人が確認する可能性があるのか、接続した外部サービスには何が送られるのかも確認します。

3. アカウントとアクセス権を設計する

• 個人アカウントではなく会社管理のアカウントを使う
• SSOを利用できるか確認した
• MFA（＝パスワードに加えて別の方法でも本人確認する多要素認証）を設定した
• 利用者、管理者、監査担当者の権限を分けた
• 退職・異動時に権限を停止する手順がある
• 部署やプロジェクト単位で参照範囲を制御できる
• 共有リンクを社外へ公開できない設定にした
• 外部アプリや追加機能の導入を管理者が承認する

社内文書を検索できる生成AIでは、文書側のアクセス権も重要です。全社員がAIを使えるとしても、経営資料や人事資料まで全員が検索できる状態にしてはいけません。連携前に、共有フォルダやクラウドストレージの権限を棚卸ししてください。

4. 技術的な制御とログを確認する

• 通信が暗号化されている
• 管理者が利用状況を確認できる
• 誰が、いつ、どの機能を使ったか記録できる
• ログの保存期間と閲覧権限が決まっている
• API（＝システム同士がデータを受け渡す接続口）の認証情報を安全に保管する
• APIの利用上限と予算アラートを設定する
• DLP（＝機密情報の外部送信を検知・制御する仕組み）の必要性を検討した
• 外部Webサイトやファイルを読み込ませる場合の検査方法がある
• AIがメール送信やデータ更新を行う場合、実行前に人が承認する

ログには入力内容そのものが保存される場合があります。監査のためにログを増やした結果、機密情報の複製が広がることもあるため、保存対象、閲覧者、保存期間をセットで設計します。

5. 運用と教育を準備する

• 利用開始時に短時間でも教育を実施する
• 入力してはいけない情報を具体例で示す
• 誤回答、差別的表現、著作権、個人情報に関する注意点を伝える
• 問題を発見した際の報告窓口がある
• 新機能や規約変更を定期的に確認する担当者がいる
• 利用されていないアカウントや外部連携を定期的に削除する
• 半年または年1回など、定期的な見直し時期を決めた

技術的な制御だけでは、生成物の誤用を防げません。利用者教育を外注する場合は、一般論だけでなく自社の利用サービス、業務、禁止事項を教材へ反映させることが重要です。研修内容や費用の考え方は、生成AI研修の費用相場｜法人向け選び方でも解説しています。

方式別の費用相場と期間

生成AIのセキュリティ対策費用は、利用する製品よりも、扱うデータ、認証方式、既存システムとの連携、監査要件によって大きく変わります。一般的な目安は次のとおりです。

SaaS（＝インターネット経由で利用する既製のクラウドサービス）をそのまま利用する場合は、初期費用を抑えやすい一方、サービス提供者が用意した管理機能の範囲内で運用します。APIを使った専用システムは制御を追加しやすいものの、開発費と保守費が必要です。

上記は一般的な目安であり、製品のライセンス料、利用量に応じたAI利用料、法務専門家への相談費用などは別途かかる場合があります。また、業界固有の規制や厳格な監査対応が必要なら、期間と費用は増えます。

見積もりに含めるべき費目

生成AIの導入見積もりは「初期設定一式」だけでは比較できません。次の項目を分けて提示してもらいます。

• 現状調査とリスク評価
• 利用業務とデータの整理
• サービス・プランの選定支援
• 契約条件とセキュリティ資料の確認
• アカウント、SSO、MFAの設定
• 権限と共有範囲の設計
• 操作ログと監視の設定
• 既存システムやストレージとの連携
• テスト用データの作成
• セキュリティテストと受入確認
• 利用ルール、管理者手順書の作成
• 利用者向け教育
• 導入後の問い合わせ対応
• 規約変更や新機能を踏まえた定期見直し

月額費用については、ライセンス数だけでなく、API利用量、ログ保存、監視、問い合わせ対応、定期点検も確認します。初期費用が安くても、従量課金や運用支援が高ければ年間総額は逆転します。

導入方式を選ぶ基準

専用開発にすれば必ず安全になるわけではありません。設計や保守が不十分なら、既製サービスよりリスクが高くなることもあります。まず法人向けサービスで要件を満たせない理由を整理し、その差分に開発費をかける考え方が現実的です。

安全な導入手順と外注先の選び方

安全な導入は、製品を先に契約するのではなく、対象業務とデータを限定して検証するところから始めます。全社展開までの一般的な手順は次のとおりです。

ステップ1：対象業務を一つに絞る

最初は、議事録の要約、公開情報を使った文章案の作成、社内FAQの下書きなど、影響範囲を管理しやすい業務を選びます。複数業務を同時に始めると、必要なデータや確認基準が混ざり、セキュリティ評価が曖昧になります。

対象業務について、次を1枚に整理してください。

• 現在の作業内容と担当者
• 生成AIへ入力する情報
• 期待する出力
• 出力を受け取る人
• 誤回答が起きた場合の影響
• 人が確認する箇所
• 成功・中止を判断する基準

ステップ2：データの流れを図にする

入力元から生成AI、保存先、出力後の利用先までを矢印でつなぎます。専門的な設計図でなくても構いません。

たとえば「利用者の端末→生成AIサービス→会話履歴→社内ストレージ→顧客へのメール」という流れが見えれば、どこに機密情報が残る可能性があるかを確認できます。外部連携がある場合は、連携先のサービス名と送信項目も記載します。

ステップ3：候補サービスを同じ条件で比較する

各社へ同じ質問を送り、回答を表にまとめます。最低限、次の質問を含めてください。

• 入力・出力データを何に利用するか
• データをどこに、何日間保存するか
• 契約終了時に削除できるか
• 管理者が利用者と外部共有を制限できるか
• SSO、MFA、操作ログへ対応しているか
• 社内ストレージのアクセス権を引き継げるか
• セキュリティ事故時の連絡時間と方法
• サービス仕様や規約変更の通知方法

機能数ではなく、自社のデータと業務に必要な管理機能があるかで比較します。

ステップ4：本番データを使わずに試す

初期の試行では、公開情報、ダミーデータ、匿名化したデータを使います。匿名化とは、氏名や連絡先など、個人を識別できる情報を削除・置換することです。

試行中は精度だけでなく、次の点も確認します。

• 利用者以外が会話や生成物を閲覧できないか
• 権限の異なる利用者へ同じ情報が表示されないか
• 削除したデータが検索結果に残らないか
• 外部ファイルに不正な指示が含まれても危険な操作をしないか
• 操作ログから問題の経緯を追えるか
• 利用停止時にアカウントと連携を解除できるか

ステップ5：限定公開して運用を確認する

部署、利用者、期間を限定して公開します。開始後は、問い合わせ、誤回答、禁止情報の入力、外部共有、利用量を確認します。

AIがメール送信、申請承認、データ更新などを行う場合、最初から完全自動化しないことが重要です。まずはAIが案を作り、人が確認して実行する形にします。問題の種類と頻度を把握してから、自動化の範囲を段階的に広げます。

ステップ6：全社展開と定期点検を行う

限定公開で問題がないことを確認したら、部署を増やします。ただし、サービスの新機能追加や規約変更、社内データの増加によりリスクは変化します。

少なくとも次の項目を定期的に確認してください。

• 登録利用者と退職者アカウント
• 管理者権限を持つ人
• 接続中の外部サービス
• 公開・共有されているAIや会話
• 操作ログとセキュリティ警告
• データ保存期間と削除状況
• 利用規約、セキュリティ仕様の変更
• インシデント対応手順の連絡先

外注前に用意する情報

開発会社や導入支援会社へ相談する前に、次の情報をまとめると、提案と見積もりの精度が上がります。

• 導入目的と対象業務
• 想定利用者数と部署
• 入力予定のデータと機密度
• 利用中の認証、ストレージ、業務システム
• 個人情報や顧客秘密を扱う可能性
• 必要なログと保存期間
• 希望する導入時期
• 初期費用と月額費用の予算
• 社内の承認者と実務担当者
• 将来的に自動化したい範囲

要件がまだ決まっていない場合は、「導入設定」ではなく「現状調査と要件整理」から見積もりを依頼します。内容が曖昧なまま固定金額で一括発注すると、後から認証やログが追加費用になりやすいためです。

支援会社を見極めるポイント

生成AIのセキュリティ対策を外注する場合、AIの開発実績だけでなく、認証、権限、クラウド、運用設計まで確認します。

• データの流れを図で説明できる
• サービス提供者と発注者の責任範囲を分けられる
• 契約条件と技術設定を別々に確認できる
• 権限、ログ、退職者管理まで提案に含める
• 生成精度だけでなく、誤回答時の業務影響を評価する
• 不要な専用開発を勧めず、既製サービスも比較する
• 試行の成功基準と中止基準を設定できる
• 管理者アカウントや設定情報を発注者へ引き渡す
• 導入後の規約変更や新機能への対応範囲を明示する

提案書では、対策の名称だけでなく「どのリスクを、どの設定や運用で抑えるのか」を確認してください。SSOやログを導入すること自体が目的ではありません。

生成AIの導入方式やセキュリティ要件を整理したうえで外注範囲を検討したい場合は、開発のご相談はこちらからご相談ください。

よくある失敗と回避策

まとめ

• 生成AIのセキュリティ対策は、入力制限だけでなく、契約、認証、権限、ログ、人による確認まで含めて設計します。
• 最初に対象業務とデータを一つに絞り、公開情報やダミーデータで試すことが重要です。
• 法人向けプランでも、学習利用、保存期間、外部連携、管理機能を個別に確認する必要があります。
• 一般的な費用目安は、リスク評価で30万〜100万円、法人向けサービスの導入整備で50万〜500万円、API連携を含む専用システムで300万〜1,500万円以上です。
• 見積もりは、初期設定だけでなく、SSO、権限、ログ、教育、運用、定期点検を分けて比較します。
• 専用開発が必ず安全とは限りません。既製サービスで不足する要件を明確にしてから開発範囲を決めます。
• 全面禁止ではなく、承認済みの利用環境と具体的なルールを用意することが、シャドーAIの抑制につながります。

よくある質問

会社契約なら入力データは学習に使われませんか？

一律には判断できません。法人向けプランでも、データの学習利用、保存期間、管理者設定、外部連携の扱いはサービスや契約条件によって異なります。利用規約、データ処理条件、管理画面の設定を確認してください。

生成AIへ個人情報を入力してもよいですか？

契約、利用目的、本人への説明、保存先、アクセス権、委託先管理などを確認せずに入力すべきではありません。まず匿名化や仮名化で代替できないかを検討し、必要な場合は法務・セキュリティ担当者を含めて判断してください。

小規模な導入でもSSOや操作ログは必要ですか？

利用人数だけでなく、扱う情報と業務への影響で判断します。機密情報を扱う場合は、小規模でもSSOや多要素認証、操作ログが重要です。公開情報だけを使う短期試行なら、対象者と用途を限定した簡易な管理から始める方法もあります。

生成AIのセキュリティ対策にはどのくらいの費用と期間が必要ですか？

一般的な目安として、リスク評価のみなら30万〜100万円・2〜6週間、法人向けサービスの導入整備なら50万〜500万円・1〜4か月、既存システムとのAPI連携を含む場合は300万〜1,500万円以上・3〜8か月程度です。利用範囲や認証、ログ、データ連携の要件で変動します。