AIの事故というと「入力した情報が学習に使われる」話になりがちです。実務で起きるのはもっと手前で、APIキーがコードに書かれたまま共有される、AIに渡した権限が広すぎて消してはいけないものが消える、公開のつもりがないURLが開ける、といった設定と置き場所の問題です。
この記事は、事故の類型と、設定・鍵の置き場所・権限で防ぐ技術的な対策だけを扱います。
→ 入れてよい情報の線引きと社内ルールは教科書 3章 生成AIの社内ルール → 出してはいけない出力と、事故が起きたときの初動は教科書 10章 生成AIでやってはいけないこと
事故の5つの類型
| 類型 | 起きる場面 | 外に出るもの | 防ぐ場所 |
|---|---|---|---|
| 1. 貼り付け | チャットに顧客名簿や契約書を貼る | 入力した情報 | 社内ルール（3章）＋アカウントの設定 |
| 2. 鍵の漏れ | APIキーをコードや共有ファイルに書く。チャットに貼る | 認証情報。持った人がシステムを操作できる | 鍵の置き場所 |
| 3. 権限の広すぎ | AIや連携ツールに管理者の権限を渡す | データそのもの（誤った更新・削除） | 権限 |
| 4. 読ませた文書に従う | 外部のWebページやメールをAIに読ませたら、中に書かれた指示に従って動いた | 手元の情報、実行された操作 | 権限＋人の承認 |
| 5. 公開設定の誤り | 共有リンクや、AIで作った画面が「URLを知っていれば開ける」状態 | 画面に出る情報すべて | 設定 |
1は人の判断の問題なので教科書3章に譲ります。2〜5は、ルールを読ませるより設定で止めたほうが確実な種類です。以下、この4つの対策を順に書きます。
対策1：アカウントと共有の設定を確かめる
契約しているAIの管理画面で、次の項目を確かめます。画面名は製品と時期で変わるので、最新は各社の公式ドキュメントで確認してください（2026年9月確認）。
| 確かめる設定 | 見ること | 望ましい状態 |
|---|---|---|
| 会話の共有リンク | 誰でも開けるリンクを作れるか | 作れない、または社内の人だけ |
| 外部サービスとの連携 | メール・ストレージ・カレンダーなどとつないでよいのは誰か | 管理者が許可したものだけ |
| 利用者の一覧 | 退職者・外部の人が残っていないか | 在籍者だけ |
| 利用状況の記録 | 管理者が誰が何を使ったか見られるか | 見られる |
AIで作った社内向けの画面やアプリにも同じことが言えます。「URLを知っている人だけが開ける」は、URLが知られたら誰でも開けるという意味です。社内の情報が出る画面には、ログインを付けてください。
対策2：鍵（APIキー・トークン）の置き場所を決める
AIを業務システムとつなぐと、APIキーやトークンを扱う場面が必ず出てきます。鍵を持った人は、そのシステムを操作できます。
| 置いてはいけない場所 | 理由 |
|---|---|
| コードの中（直書き） | コードを共有・公開した時点で一緒に出る |
| AIに毎回読ませる指示ファイル（CLAUDE.md など） | 共有される前提のファイル。書いた内容はAIとの会話にも毎回載る |
| チャットの本文 | 会話の履歴に残り続ける |
| 共有フォルダのメモ・表計算 | 閲覧できる人が増えても気づけない |
置く場所は次の形にします。
- アプリが読む設定ファイル（
.envなど）をコードの横に置き、バージョン管理の対象外にする - 対象外になっているかを確かめる（下の手順）
- 設定ファイルの場所だけを手順書に書く。中身は書かない
- 本番の鍵と試験用の鍵を分ける
.gitignore に書く行の例です。
.env
.env.*
_secrets/
すでに書いてしまっていないかは、AIに点検させると速く済みます。
このリポジトリの中から、APIキー・トークン・パスワード・接続文字列が
直接書かれている箇所を探して、ファイル名と行番号の一覧にしてください。
値そのものは出力に書かず、先頭4文字だけにしてください。
見つけても書き換えないでください。一覧を出すところまでで止めてください。
見つかった鍵は、消すより先に失効させて再発行します。 一度でも共有・公開された鍵は、ファイルから消しても履歴に残っています。失効と再発行は発行元の管理画面で行います。
対策3：権限を絞る
AIに渡す権限は、業務に要る一番小さいものから始めます。
| 権限の段階 | 渡してよい場面 | 当社の扱い |
|---|---|---|
| 読む | 集計・レポート・点検 | 最初はここだけ |
| 下書きを作る | 人が見てから反映する業務 | 差分を人が見る |
| 書き込む | 検証環境で試したあと | 本番は人が反映 |
| 削除する | 渡さない | 人が行う |
多くのシステムは、APIキーやトークンを作るときに権限を選べます。たとえば kintone のAPIトークンは、アプリごとに「閲覧」「追加」「編集」「削除」などを選んで発行できます。集計に使うトークンなら、閲覧だけにして発行してください。
AIにパソコン上でコマンドやファイル操作をさせる道具（Claude Code など）には、実行や書き換えの前に確認を求める設定があります。許可するコマンドを絞れるものもあります。最初は確認を求める設定のまま使い、繰り返し承認している安全な操作だけを許可に回します。
類型4（読ませた文書の中の指示に従ってしまう）への対策も、ここに入ります。外部から来た文書を読ませる作業では、同じ作業の中で送信・書き込み・削除をさせないようにします。読む作業と、外に出す作業を分けておけば、文書に何が書いてあっても外には出ません。
当社でのやり方
当社は開発・執筆・社内業務の自動化を、Claude Code で日常的に回しています。鍵と権限はこう決めています。
| 決めごと | 中身 |
|---|---|
| 鍵の置き場所 | トークンや接続文字列の実値は案件フォルダの _secrets/ か、ホームディレクトリの設定ファイル。git に入れない |
| 指示ファイルとの分け方 | AIが毎回読む CLAUDE.md には鍵を書かない。接続先の一覧（_env.md）にも、どこにあるかだけを書く |
| 会計の連携 | freee のAPIから決算書類を出すスクリプトは読み取りだけ。仕訳の登録はさせていない |
| 開発の試験 | kintone の開発・検証は開発者向けの検証環境で行い、顧客の本番環境で試さない |
| 反映 | AIが書いたコードは、人が差分を見てから反映する |
フォルダの形はCLAUDE.mdとは？AIに仕事を覚えさせる方法に書いています。
失敗例と、人が確かめる場所
| 失敗例 | 起きること | 人が確かめる場所 |
|---|---|---|
| 動作確認のためにコードへ鍵を直書きし、そのまま共有 | 鍵を持った人がシステムを操作できる | 共有・公開の前に上の点検をかける |
| 「とりあえず全部の権限」でトークンを発行 | AIの誤操作でデータが消える | 発行画面で選んだ権限を、手順書に書き残す |
| 本番環境でAIに試させる | 顧客のデータが書き換わる | 試す場所がどこかを作業前に確認する |
| 社内向けに作った画面にログインが無い | URLが転送された先で開ける | 公開前に、ログアウトした状態で開いてみる |
| 退職者のアカウントが残る | 辞めた人が会話履歴や連携先を見られる | 月1回、利用者の一覧を在籍者と突き合わせる |
| 漏れた鍵をファイルから消して終わり | 履歴から拾われる | 失効させたかを発行元の画面で確認する |
まとめ
- AIの事故は「貼り付け・鍵の漏れ・権限の広すぎ・読ませた文書に従う・公開設定の誤り」の5つに分けて考える
- 鍵の漏れ以降の4つは、ルールより設定で止めるほうが確実
- 鍵はコードにも指示ファイルにも書かない。設定ファイルに分け、バージョン管理から外す
- 漏れた鍵は、消す前に失効させて再発行する
- 権限は「読む」から始め、書き込みは検証環境で試してから。削除は人が行う
- 外部の文書を読ませる作業と、送信・書き込みの作業を分ける
鍵の置き場所や権限の設計を含めた環境整備は、インハウス化支援でお手伝いしています（環境整備15万円〜・税別）。
→ AI活用支援 → CLAUDE.mdとは？AIに仕事を覚えさせる方法 → MCP連携とは？AIと外部ツールを繋ぐ新しい方法 → 中小企業のサイバーセキュリティ対策｜最低限やるべきこと → 教科書 3章 生成AIの社内ルール → 教科書 10章 生成AIでやってはいけないこと
よくある質問
AIを業務で使うとき、いちばん起きやすい事故は何ですか
チャットに情報を貼り付けてしまう事故と、APIキーなどの認証情報がコードや共有ファイルに書かれたまま外に出る事故です。前者は社内ルールで、後者は置き場所と権限の設定で防ぎます。この記事は後者の技術的な対策を扱います。
APIキーはどこに置けばいいですか
コードの中や、AIに毎回読ませる指示ファイルには書きません。アプリが読む設定ファイル（.env など）をコードの横に置き、バージョン管理の対象外にします。当社は実値を案件フォルダの _secrets/ かホームディレクトリの設定ファイルに置き、git には入れていません。
AIに社内システムを操作させても大丈夫ですか
権限を絞れば使えます。最初は読み取りだけの権限で始め、書き込みは検証環境で試してから、削除は人が行う形にします。当社も会計の連携は読み取りだけにしており、仕訳の登録はAIにさせていません。
