AI導入で失敗しないために。情報漏えい・間違い・丸投げを防ぐ7つの決めごと

AIを仕事に使ってみたい。でも、お客さまの情報が漏れないか、AIの間違いをそのまま出してしまわないか、心配でなかなか踏み出せない。そう感じている社長は少なくないはずです。

中小機構（中小企業基盤整備機構）が2025年12月に全国の中小企業の経営者・経営幹部1,000社に聞いた調査でも、同じ傾向が出ています。情報漏洩やサイバー攻撃などの情報セキュリティに関する懸念がDXの推進に「影響している」「ある程度影響している」企業は24.6%でした¹。

心配の中身は、大きく3つに分けられます。情報漏えい（入れてはいけない情報を入れてしまう）、間違い（AIのもっともらしい誤りをそのまま使ってしまう）、丸投げ（AIや外の会社に任せきりで、社内に分かる人がいない）です。どれも、使い始める前に会社として「決めごと」を作っておけば、かなり防げます。

国の「AI事業者ガイドライン」（総務省・経済産業省）では、事業活動でAIシステムやAIサービスを利用する事業者を「AI利用者」と呼んでいます²。AIを仕事に使う一般の会社は、ここにあたります。この記事では、国の注意喚起やガイドラインをもとに、AI利用者として最初に決めておきたい7つのことをまとめました。

決めごと1　AIに入れてよい情報を、3つに分けて決める

個人情報保護委員会は令和5年6月に、生成AIサービスの利用について注意喚起を出しています。その中で、会社などが生成AIに個人情報を含むプロンプト（AIへの指示文）を入力する場合は、特定された利用目的を達成するために必要な範囲内であることを十分に確認するよう求めています³。

さらに、本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答の出力以外の目的で扱われる場合は、個人情報保護法に違反することとなる可能性があるとしています³。そのため、サービスの提供事業者が、その個人データを機械学習に利用しないことなどを十分に確認するよう求めています³。生成AIでは、入力された個人情報が機械学習に利用され、正確または不正確な内容で出力されるリスクがある、とも指摘しています³。

AI事業者ガイドラインでも、AI利用者が気をつけることとして、個人情報や機密情報などを不適切に入力しないよう注意を払うことが挙げられています²。

そこで、社内では入れる情報を3つに分けて決めておきます。

士業の事務所や医療機関など、守秘義務や業界のルールがある仕事では、さらに厳しく決めます（士業の事務所での使い方、クリニックの電話対応での使い方もご覧ください）。

決めごと2　AIの答えは「下書き」。人が確かめてから外に出す

生成AIは、もっともらしい間違いをすることがあります。デジタル庁が行政向けにまとめたガイドブックでも、AIの学習データにない情報を聞いた場合に、根拠のない事実と異なる回答をすることがあり、これは幻覚（ハルシネーション）と呼ばれる現象だと説明されています⁴。

AIの出したものは、すべて「下書き」として扱います。決めておくことは3つです。

• 誰が確かめるか：書類の種類ごとに、確認する人を決めます。お客さまに出す文書は、最後に人の名前で出します。
• 何を確かめるか：数字、日付、人や会社の名前、商品の名前、法令や制度の説明は、特に間違いやすいところです。元の資料と見比べます。
• 確かめた記録を残すか：大事な書類は、誰がいつ確認したかを残しておくと、あとで困りません。

決めごと3　計算・法令・医療・人の評価は、AIに任せない

AIが得意なのは、文章を整える、要点をまとめる、似た例を探す、たたき台を並べる、といった仕事です。一方で、次のような判断はAIに任せず、人が行います。

• 金額の計算：見積や請求の合計は、表計算ソフトの計算式で出します。AIに計算させない仕組みにしておくのが安全です（工務店の見積での例）。
• 法令や制度の判断：運送の点呼、不動産の広告表示、医療の相談、外国人雇用の在留資格など、法令がからむ判断は、資格者や担当者が行います。AIは書類の下書きや説明文づくりの補助にとどめます。
• 医療・健康の判断：症状の相談に答えさせることはしません。急ぎの症状は人や救急につなぎます。
• 人の評価や採用の合否：AI事業者ガイドラインは、公平性の観点から、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討するよう求めています²。応募者の選考や社員の評価に使う場合は、AIの結果をそのまま使わず、人が判断します。

決めごと4　外に出す文章・画像は、著作権を確かめる

チラシ、ホームページ、SNS、求人原稿など、AIで作ったものを外に出すときは著作権に気をつけます。

文化庁の整理では、AIで生成した画像などに、既存の著作物との類似性（創作的な表現が共通していること）と依拠性（既存の著作物をもとに創作したこと）が認められ、権利制限規定の対象外である場合は、既存の著作物の著作権侵害になるとされています⁵。また、人が思想や感情を創作的に表現するための「道具」としてAIを使ったと認められれば、その生成物は著作物にあたり、AIを使った人が著作者になると考えられる、としています⁵。なお、この文化庁の「考え方」そのものは法的な拘束力を持つものではなく、特定の生成AIについて確定的な法的評価をするものでもない、と書かれています⁵。

社内では、次のことを決めておくと安心です。

• 特定の作家やキャラクター、他社の商品名を指示に入れて「〇〇風に」と頼まない
• 他社のチラシや文章をそのまま貼りつけて「似せて」と頼まない
• 外に出す前に、似たものがないか検索で確かめる
• ロゴや商品パッケージなど、長く使う大事なものは専門家に相談する

決めごと5　使うサービスとプランは会社で決める

社員がそれぞれ、個人のアカウントや無料版で仕事の情報を入れていると、会社として設定を管理できません。使うサービスとプランは会社で決め、仕事ではそれだけを使うようにします。

選ぶときに確かめたいのは、入力した内容が学習に使われないかです。先に紹介した個人情報保護委員会の注意喚起も、提供事業者が個人データを機械学習に利用しないことなどを十分に確認するよう求めています³。

たとえば、Anthropic（Claudeの提供元）は、商用製品での入力や出力を、初期設定ではモデルの学習に使わないと説明しています（利用者がフィードバックや不具合を明示的に報告した場合や、データの利用を許可した場合などの例外があります）⁶。どのプランが商用製品にあたるかは、同社の案内で確かめます。Googleは、Google Workspaceの顧客データを、基盤となる生成AIや大規模言語モデルの学習・改善に使わないと説明しています⁷。

ChatGPT（OpenAI）など、ほかのサービスも、各社の法人向けプランの規約で確認してください。どのサービスがよいという話ではなく、「使うプランの規約に、学習に使わないと書かれているか」を確かめる、ということです。無料版や個人向けのプランは扱いが違うことがあるので、必ず使うプランの規約で確かめます。

決めごと6　1つのツールに頼り切らない

AIのサービスは、料金や機能、使える範囲がよく変わります。1つのサービスの中にしかやり方が残っていないと、乗り換えたいときや、サービスが使えなくなったときに困ります。

• AIへの指示文と手順書を、会社の共有フォルダに残す：誰が作った指示文で、どの業務に使うかを書いておきます。
• データは、ほかでも使える形で持つ：Excel、Word、テキストなど、ほかのサービスに移しても読める形で残します。
• AIが止まっても仕事が止まらないようにする：AIを使わない場合の手順も残しておきます。

外の会社に仕組みを作ってもらう場合も、作ったものが会社の手元に残る契約かどうかを確かめておきます。

決めごと7　社内に「分かる人」を1人決める

最後に、いちばん大事なのが「丸投げしない」ことです。AIの使い方を外の会社に頼むとしても、社内に1人、全体が分かる担当者を決めておきます。パソコンにくわしい人である必要はありません。現場の仕事が分かり、困ったことを集められる人が向いています。

担当者の役割は、次の3つです。

• 決めごとを管理し、数ヶ月ごとに見直す
• 「これは入れていいの？」と迷ったときの相談先になる
• 外の会社とのやりとりの窓口になり、判断は社内に残す

外の力の借り方は、AI活用は外注か、伴走かでくわしく紹介しています。

7つの決めごとを1枚にまとめる

最初は、次のような1枚から始めれば十分です。自社の言葉に直して使ってください。

わが社のAI利用ルール（　年　月　日 決定）

1. 入れる情報：入れてよい／置き換えて入れる／入れない、の表のとおり
2. 確認：AIの出したものは下書き。外に出す文書は〇〇が最終確認する
3. 任せないこと：金額の計算、法令・医療・人の評価にかかわる判断
4. 著作権：〇〇風に、と頼まない。外に出す前に似たものがないか確かめる
5. 使うサービス：〇〇（法人向けプラン）だけを使う。個人のアカウントや無料版で仕事の情報を扱わない
6. 残し方：指示文と手順書は共有フォルダ〇〇に保存する
7. 担当：〇〇。迷ったらまず相談する。ルールは〇ヶ月ごとに見直す

完璧なルールを先に作ろうとするより、最初の業務を1つ決めて、その業務に必要なところから作るほうが進みます。使い始めて困ったことが出てきたら、書き足していきます。

なお、ここで紹介したのは一般的な考え方です。業種ごとの法令や、具体的な契約・個人情報の扱いについては、所管の窓口や専門家にご確認ください。