中小企業が生成AIを導入するときに先に決めること

社内で生成AIの話が最初に出てくるのは、たいてい導入の検討会議ではありません。営業担当が提案書のたたき台を作らせていた、事務担当が議事録を要約させていた、という話が雑談の中で出てきて、そこで初めて社内での利用を知ります。決めることは「導入するかどうか」ではなく、すでに起きている利用をどう扱うかです。

ここで多くの会社が最初に手をつけるのはツールの比較です。ところが、どのサービスを選んでも社内で起きる問題は変わりません。問題になるのは、何を入力したかと、出てきたものを誰が確認したかの2点で、どちらも会社側の運用で決まるからです。

運用担当を決めないまま入れて定着しない、といったIT導入全般の失敗の構造はITツールの導入で失敗する会社に共通することで扱っています。ここでは生成AI特有の論点に絞ります。

社員がすでに使っている前提から始める

生成AIは、会社が契約しなくても使えます。インストールも稟議も要らず、ブラウザとメールアドレスがあれば個人で始められます。「まだ導入していないので関係ない」という状態は、実際にはほとんど存在しません。

そこで、検討より先に社内の利用実態を集めます。ただし、先に禁止をほのめかしてから聞くと何も出てきません。過去の利用の責任を問わないと明示したうえで、次の3点を聞きます。

• どの業務で使ったか
• そのとき画面に何を貼り付けたか（要約ではなく、入力した文章そのもの）
• 出てきたものをそのまま使ったか、直してから使ったか

2つ目の答えが判断を分けます。「顧客対応に使った」だけでは何も決められません。問い合わせメールの本文をそのまま貼り付けたのか、自分の言葉に書き直してから相談したのかで、起きたことの意味が変わります。

集まった業務の一覧が、そのままルールを作る対象になります。想定で網羅的な規程を書くより、実際に使われている5つか6つの業務に線を引くほうが早く配れます。あわせて誰のアカウントで使っているかも確認します。個人のアカウントのままだと、その人が辞めたときに履歴も作りかけの文章も会社に残りません。無料のメールアカウントで会社のメールを運用したときに起きる問題と同じ構造です。

ツールを選ぶ前に決める3点

決めるのは次の3つです。

1. 入力してよい情報の範囲
2. 使ってよい業務と、確認を挟む業務
3. 出てきたものを確認する責任を誰が持つか

この3つを先に置く理由は、ツールが入れ替わっても3つは残るからです。サービスを先に決めると、その画面や設定に合わせて文書を書くことになり、乗り換えのたびに作り直しになります。

順番にも理由があります。入力を最初に置くのは、3つのうち入力だけが取り返しのつかない項目だからです。出力の誤りは送信前に直せます。業務の範囲を広く取りすぎても後から狭められます。しかし、入力した情報は取り消せません。

決めるのは経営側です。現場に「常識の範囲で」と任せると、常識の位置が人によって違うため、線は引かれません。任せてよいのは、線の内側での使い方だけです。

入力してよい情報は種類ごとに扱いを決める

「機密情報は入力しない」では機能しません。何が機密かの判断を各自に委ねることになるからです。情報の種類を挙げて、扱いを先に決めます。

情報の種類	扱い	そう決める理由
自社サイトなど公開済みの文章	そのまま入力してよい	すでに社外に出ており、入力で新たに失うものがない
社内の業務手順や会議メモ	社名・個人名を外して入力する	手順より、混ざっている取引先名やシステム名が問題になる
取引先から受け取った資料（見積・仕様書・提供データ）	入力しない	秘密保持の取り決めがあり、可否を自社だけで判断できない
個人情報（氏名・連絡先・応募書類・顧客名簿）	入力しない	取得時に示した利用目的を超える。一部を伏せても組み合わせで特定できる
ID・パスワード・APIキー・口座情報	入力しない	入力する場面がそもそもない。貼り付けた時点で管理外に出る
開示前の経営情報（数値・人事・価格改定の計画）	入力しない	影響が大きく、どこから漏れたかを後から追えない

線を引く軸は「漏れたときに自社だけで収拾がつくか」です。自社の情報なら、対応の範囲を自社で決められます。取引先から預かった情報と個人情報は、漏れた時点で相手方への報告が必要になり、収拾のしかたを自社では決められません。この差が線の位置になります。

入力した内容が学習に使われるか、履歴がどれくらい残るかは、サービスや契約プランによって異なります。ただし、設定を根拠に線を緩めるのは勧めません。設定が意図どおり効いていることを自社で検証できず、担当者が別のサービスを開いた瞬間に前提が崩れるからです。設定は、線を引いたうえでの上乗せとして扱います。

全面禁止にすると、利用ではなく報告が止まる

禁止は決めるのが早く、説明もしやすいので選ばれがちです。ただ、生成AIの場合、禁止で止まるのは利用ではありません。

会社の端末で特定のサイトを開けないようにしても、手元には私物のスマートフォンがあります。文章をコピーして別の端末に貼り付けるだけなので、社内のログには何も残りません。禁止の後に起きるのは、使わなくなることではなく、使ったと言わなくなることです。何かが起きたときに気づくのが遅れます。禁止のまま1年が過ぎれば、解禁しても使い方を知る人がいないところから始めることになります。

期間を区切って止めるのは別です。「一覧を出すまでの2週間は使わない」は終わりが決まっているので保留であり、禁止とは違います。止めるなら、いつまでかを同時に決めます。

現実的な設計は、禁止する対象を行為から情報に置き換えることです。「生成AIを使ってはいけない」ではなく、「この情報は入力しない」「この業務は確認を挟む」と書きます。行為を禁じても守られたかどうかを会社は確認できませんが、情報を禁じれば、何を守るべきかが全員に共有されます。

業務ごとに向き不向きが分かれる

使ってよい業務を決めるときは、業務の難しさではなく、間違いに気づけるかどうかで分けます。

業務のタイプ	正しさを確認できるか	気づかずに進むと何が起きるか	扱い
案内文・募集要項・掲載文の下書き	読めば分かる	公開前なら直せる	そのまま使ってよい
長い資料や議事録の要約	元の文書と照らせば分かるが、抜けには気づきにくい	決定事項の解釈がずれたまま共有される	元の文書を残し、要約だけで判断しない
表計算の数式や定型作業のスクリプト	実行結果で確認できる	誤った処理でデータを上書きする	本番データでは試さない
顧客への回答文の作成	送信前に読めば分かる	送った後は取り消せない	送信前の確認を必須にする
数値の集計・計算	体裁が整うため誤りに気づきにくい	誤った数字が資料に載る	計算は計算用のツールで行う
法令・制度や契約条項の解釈	判定できる人が社内にいなければ確認できない	誤った前提のまま契約や申請が進む	出てきた内容を根拠にしない

分かれ目は、出てきたものの正誤を、その業務の中にいる人が判定できるかどうかです。判定できる業務では、AIが間違えても業務の外に出ません。判定できない業務では、間違いがそのまま成果物になります。ただし、それをAIの問題として片づけるのは早すぎます。人がやっていた頃も、その出来ばえを誰も確認していなかった可能性があります。

出力の確認責任は、使った担当者に残す

「AIが作ったものなので」という説明は、社外にも社内にも通りません。取引先に渡した資料の数字が違っていたとき、作成方法は相手にとって関係ありません。ルールに書くのは一行で足ります。出てきたものを業務に使った時点で、その内容の責任は使った担当者にあります。

これを書くと現場が萎縮する、という懸念が出ます。実際には逆で、責任の所在が曖昧なほど使いにくくなります。線がなければ、後で叱られるかもしれないという理由で、使ったこと自体を隠すからです。

あわせて決めておくのは2点です。

• 確認した記録をどこに残すか。既存の承認フローに乗る文書は、そのフローのままで構いません。生成AI用の承認経路を別に作ると、承認者が増えるだけで確認の中身は変わりません。
• 自分では判定できない内容が混ざったときの扱い。法令の解釈や契約条項のように、担当者が正誤を判断できないものが出てきます。「消して人が書き直す」ではなく、判定できる人に回す扱いにします。社内に判定できる人がいない領域は、AIの有無に関係なく外部に確認すべき業務です。

最初のルールはA4一枚に収める

詳細な規程を作ろうとすると、完成しないまま時間が過ぎます。その間も社員は使い続けるので、半年かけた規程は、半年分の運用を守れていません。最初はA4一枚で足ります。

書くのは4項目です。

• 入力してはいけない情報の一覧。具体的に列挙します。「機密情報」とだけ書くと判断が各自に戻ります
• 業務の3分類（そのまま使ってよい／確認を挟む／使わない）。社内で実際に使われている業務名で書きます
• 出てきたものに対する責任の所在
• 判断に迷ったときの相談先。個人名ではなく役割で書きます

書かないほうがよいものもあります。サービス名の指定は乗り換えのたびに改訂が要ります。操作手順は数か月で合わなくなります。罰則は、最初の版に入れると報告が上がらなくなるため、運用が回ってから検討します。見直しの時期を入れておけば、完璧でなくても暫定のまま配れます。

情報の取り扱いは、就業規則や秘密保持の誓約書にすでに書かれていることが多く、生成AI用に別の基準を立てると矛盾します。新しい基準を作るのではなく、既存の基準を生成AIの画面に当てはめるとどうなるか、という形で書くほうが安全です。社内の情報の扱いをまだ整理していない場合は、小さな会社の情報セキュリティはどこから手をつけるかで優先順位を決めてから戻るほうが早く進みます。

編集部としては、規程の体裁を整えるより先に、入力してはいけない情報の一覧だけを配ることを勧めます。この一覧は他の検討結果を待たずに確定でき、事故の大半はここで防げます。

次にやることと、詰まりやすい場所

進める順番は次のとおりです。

1. 1週間かけて、実際に使われている業務を集める。禁止や制限の告知より先に行う
2. 入力してはいけない情報の一覧を確定させ、配る
3. 集まった業務を3分類に振り分ける
4. 4項目をA4一枚にまとめ、見直しの時期を明記して配る
5. そのうえでツールの契約を検討する

契約を最後に置くのは、線引きが決まっていないと何を確認すべきかが決まらないからです。確認するのは、管理者が利用状況を把握できるか、退職者のアカウントをどう止めるか、入力データの保存期間と削除方法、課金がアカウント単位か使用量か、最低利用期間の5つです。生成AIに限らない確認なので、小規模企業のITツールの選び方の契約前チェックとあわせて使ってください。

社員が数人しかおらず、規程を作るほどではない

人数が少ないほど、一人の判断がそのまま会社の判断になります。規程の形式は不要ですが、入力してはいけない情報の一覧だけは共有します。列挙するだけならA4の半分で済みます。

現場から「制限が多くて使えない」と言われる

入力できない情報が多い場合、原因はルールではなく業務の性質です。取引先の資料と個人情報に密着した業務が中心なら、AIを挟む余地はもともと小さくなります。自社で書く文章の下書きなど、入力する情報が自社のものだけで済む業務から始めます。

取引先から「AIを使っていますか」と聞かれた

まず契約書に成果物の作成方法に関する条項がないかを確認します。条項がない場合でも、預かった資料を入力していないことを自社の一覧で示せる状態にしておくと、その場の説明で話が終わります。