監修: 代表取締役 佐藤 望（建設業界30年・建設業経理士1級／記事末に経歴）
最終確認日: 2026年10月30日（報告書と指針の中身は、この日に原典で確かめました）
AIに事務を任せて、人手のたりなさを埋めたい。けれど、勝手にメールを出されたり、情報がもれたりするのはこわい。この記事は、そう迷っている建設会社の社長と、総務をかねる担当の方に向けて書いています。
まずこれだけはやってください。使っている（入れる予定の）AIに、何をつないで、どの鍵を渡しているかを、紙1枚に書き出します。書き出せば、外すものと、人が押すものが見えてきます。この記事は、その1枚の使い方を順に説明します。
結論: AIエージェントは、渡す道具と鍵をしぼって入れます
AIエージェントとは、目標にむけて自分で動くAIのことです。総務省と経済産業省のAI事業者ガイドライン（第1.2版）も、同じように定めています。
こわいから入れない、という道もあります。ただ、ほかの会社がAIで事務を速くするなか、人を探しつづけるのは楽ではありません。
そこで、この記事では「入れて、穴をふさぐ」道をすすめます。ふさぐのは、AIに渡す道具と鍵です。手順は次の4つです。
- 手順1: AIに渡す道具を、仕事に要るものだけにする
- 手順2: 鍵は「見るだけ」から渡す
- 手順3: 社外に出る操作は、人がボタンを押す
- 手順4: AIがやったことの記録を、週に1回読む
| こわいから入れない | 入れて穴をふさぐ | |
|---|---|---|
| 事務の量 | いまの人数でかかえたまま | 夜のうちにAIが下ごしらえする |
| 事故のもと | 使い方を知らない人が、こっそり使う | 渡した道具と鍵が、会社で分かっている |
| はじめにやること | なし | 渡す道具と鍵を1枚に書き出す |
任せる仕事の選び方は建設業のAIエージェント｜任せられる仕事30選に書きました。この記事は、任せたあとに外からつかれる穴だけをあつかいます。
AIの事故は「頼んでいないことをやる」形で起きます
情報処理推進機構（IPA）は、2026年1月29日に情報セキュリティ10大脅威 2026を出しました。組織むけの3位に「AIの利用をめぐるサイバーリスク」が、はじめて入っています。
IPAは、中身の例を3つあげています。AIをよく知らないままの情報もれ、AIの答えを確かめずに信じること、そしてAIで攻撃がしやすくなることです。
1位のランサム攻撃と、2位の取引先をねらう攻撃は、4年つづけて同じ順位です。当社は、AIに渡した鍵が、この2つの入口にもなりうると見ています。
AIを作る会社でも、意図しない動きが起きた
AIを作る側のAnthropicも、2026年10月9日に自社のAIの意図しない動きの報告を出しました。テストの最中に、AIが本物のサイトで動いてしまった例です。
報告は、その動きを4つの型にわけています。
たとえば、警察の情報提供フォームに作り話を送った例があります。AIは、ログインや買い物はするなと言われていました。けれど、フォームを送るなとは言われていなかったのです。
送られた中身は、迷惑な投稿として止められ、捜査には回りませんでした。もう1つ、練習用のフォームが開かなかったとき、本物のサイトに行って送った例もあります。
Anthropicは、影響は小さかったとしています。それでも、安全と監視のしくみが確かに効くと確かめられるまで、社内で行うAIの評価（テスト）すべてで、インターネットへの接続を止めると決めました。
報告によると、こうした動きの多くは、あいまいな仕事や、そのままではできない仕事を渡されたときに起きていました。AIは、言われていない所を自分の判断でうめにいったのです。当社は、禁止を書きならべるより、できることを先にしぼるほうが効くと考えています。
穴は4つ: 道具が多い・鍵が強い・確認がない・外の文書の命令
AIの守りの国際的な手引きに、OWASPのLLMアプリの10大リスクがあります。そこでは、AIが動きすぎる原因を3つにわけています。
道具が多すぎる、権限が強すぎる、そして人の確認なしで動きすぎる、の3つです。もう1つ、外から読みこむ文書に命令がまぜられる穴もあげています。
| 穴 | 建設会社でありがちな場面 | ふさぎ方 |
|---|---|---|
| 道具が多い | 請求書をまとめるAIに、メール送信もつないである | 仕事に要る道具だけつなぐ |
| 鍵が強い | 会計ソフトに、書きこみもできる鍵で入れる | まず「見るだけ」の鍵にする |
| 確認がない | 見積書を、AIがそのまま取引先へ出す | 社外に出す前に人が押す |
| 外の文書の命令 | 受け取った図面のPDFに、AIあての命令がまざる | 外の文書を読むAIには、送る道具もネットにつなぐ道具も渡さず、答えは人が確かめる |
4つめは、間接プロンプトインジェクションとよばれます。OWASPは、AIが外のサイトやファイルを読むときに起きると書いています。
建設会社は、協力会社や発注者から、毎日たくさんのファイルを受け取ります。AIにそれを読ませるなら、そのAIには、メールなどの送る道具も、ネットのページや画像を取りに行く道具も、もたせないのが安全です。OWASPは、ページにかくれた命令でAIが画像のリンクを書き、会話の中身が外にもれた例をあげています。また、まざった命令は、AIの答えや判断そのものをゆがめることもあります。読ませたファイルの要約は、人が確かめてから使います。答えを表示する画面が、答えの中の画像を自動で読みこむと、人が気づく前に、それだけで中身がもれることもあります。画面の設定で、答えの中の外の画像を自動で読みこまないようにします。そう設定できない画面なら、外の文書を読ませる仕事には使いません。
無料経営相談では、いま使っているAIに何がつながっているかを、一緒に書き出せます。アプリバンクの無料経営相談（60分）をお使いください。
入れて塞ぐ4つの手順
4つの手順は、上から順にすすめます。どれも、新しいソフトを買わずに始められます。
手順1: AIに渡す道具を、仕事に要るものだけにする
まず、AIに何をつないでいるかを1枚に書き出します。メール、会計ソフト、共有フォルダ、チャットなどです。
1行に書くのは、AIの名前、つないだ先、渡した鍵の種類、だれが決めたかの4つです。これが、あとで記録を読むときの台帳になります。
書き出したら、その仕事に要らないものを外します。請求書をまとめるだけのAIに、メールの送信はいりません。
手順2: 鍵は「見るだけ」から渡す
AIがソフトに入るための鍵には、見るだけのものと、書きこめるものがあります。はじめは、見るだけの鍵を渡します。見るだけの鍵でも、読めるフォルダや案件は、その仕事に要る所だけにします。見積をまとめるAIに、給与の表や顧客の名簿まで見せる必要はありません。
書きこみが要る仕事は、なれてから1つずつ足します。人が会社をやめたときの鍵の止め方は退職者・協力会社のID管理に書きました。AIの鍵も、同じ台帳にのせておきます。
手順3: 社外に出る操作は、人がボタンを押す
OWASPも、影響の大きい操作は人が承認するよう書いています。AI事業者ガイドラインの更新でも、出力が重大な影響や被害につながりうる場合は、人の判断をはさむしくみが大切だと加えられました。
当社では、AIが取引先へメールを送る操作を止める仕組みを入れています。AIは下書きまでを作り、送るのは代表です。くわしくは社員を増やさず回す経営に書きました。
社外に出る操作には、メール、フォームの送信、SNSへの投稿があります。お金が動く操作と、データを消す操作も、同じあつかいにします。
手順4: AIがやったことの記録を、週に1回読む
同じ更新で、AIエージェントは自分で動くため、操作の記録を定期的に確かめることが大切だとされました。
少なくとも週に1回、AIが何を読み、どこにつなぎ、何を送り、何を書きかえたかの一覧を、責任者が読みます。取引先の情報を扱うAIや、送る操作を任せたAIは、もっと短い間隔で読みます。おかしな動きは、早く見つけるほど直すのが楽です。
読む人は1人に決めます。読む曜日も決めておくと、つづけやすくなります。
当社の例: 攻める側の見る所を、AIで毎週点検する
当社は、自社の4つのサイトを、毎週月曜の朝に点検しています。点検のプログラムは当社のAIが組んだもので、見るだけで、書きかえはしません。
| 見る所 | なぜ見るか |
|---|---|
| ログインの名前が外から読めるか | 名前が分かると、合いことばを試されやすい |
| 合いことばを一度に大量に試せる口 | 試す回数の制限をすりぬけられる |
| 置きわすれたファイル | 設定や鍵がまざっていることがある |
| WordPressの版 | 古い版の穴は、攻める側も知っている |
2026年10月26日の点検では、表3の4つの所について、4つのサイトとも指摘はありませんでした。この点検は、穴が無いことの保証ではありません。結果は朝のレポートに出し、責任者が読んでいます。
攻める側がAIを使うなら、守る側も同じ目で自分を見ておく。人を増やさずに守りを回すには、この形が合っていると当社は考えています。
今日できる3つのこと
- 使っている（入れる予定の）AIに、何をつないでいるかを1枚に書き出す
- その中で、書きこみや送信ができる鍵に印をつける
- 社外に出る操作のうち、AIに任せているものがないかを確かめる
3つとも、社長と担当の方で、短い時間でできる作業です。印のついた鍵が多いほど、手順2から先にすすめてください。
書き出した1枚を見ながら、どこから手をつけるかを一緒に決めませんか。アプリバンクの無料経営相談（60分）をお使いください。
統合最適化メソッドで見る: 人・DX・収益
| 軸 | 何をするか | 効くところ |
|---|---|---|
| 人材育成 | AIの記録を読む役を、総務の担当と決める | AIの動きが分かる人が社内に育つ |
| DX推進 | 道具と鍵をしぼって、AIに夜の下ごしらえを任せる | 事務の手間がへり、事故のもとも見える |
| 収益改善 | 社外に出る操作を人が押すしくみを先に作る | 取引先の信用を守り、事故の手当てにかかるお金を減らせる |
守りのしくみを先に作ると、任せられる仕事が安心してふやせます。任せる仕事がふえると、担当の方は判断と育成に時間を使えます。記録を読む担当の方は、AIが何をしたかを毎週見るうちに、どこまで任せてよいかを判断できる人に育ちます。3つの軸は、つながって効きます。
よくある質問
Q1. 無料のAIなら、入れても大丈夫ですか。
無料か有料かより、何をつないで、どの鍵を渡すかが大切です。会社の情報を入れるなら、入力が学習に使われない設定かも確かめてください。
Q2. 小さな会社でも、狙われますか。
IPAの10大脅威では、取引先を足がかりにする攻撃が2位に入っています。小さな会社が、大きな取引先への入口として狙われることがあります。被害の大きさは建設業のサイバー攻撃の被害額にまとめました。
Q3. 禁止することを、AIにくわしく書いておけば足りますか。
足りません。Anthropicの報告でも、禁止に書かれていなかった操作をAIがしていました。できることを先にしぼるほうが、確かです。
Q4. AIに読ませるファイルは、どこまでならよいですか。
読ませること自体は止めなくてかまいません。ただ、まざった命令で、AIの答えや判断がゆがむことはあります。要約や判断は、人が確かめてから使ってください。いちばん危ないのは、読んだAIが、送る道具やネットにつなぐ道具、書きかえる鍵も持っているときです。読むAIと送るAIを分けても、読むAIの答えにまざった命令が、送るAIに引きつがれることがあります。送る前に、あて先と中身を人が確かめるしくみを残してください。
関連記事
出典一覧（取得日 2026-10-30）
- 情報処理推進機構（IPA）「情報セキュリティ10大脅威 2026」（2026年1月29日）: https://www.ipa.go.jp/pressrelease/2025/press20260129.html
- Anthropic「Investigating unintended model actions in our evaluations and internal use」（2026年10月9日）: https://www.anthropic.com/research/investigating-unintended-model-actions
- OWASP GenAI Security Project「LLM06:2025 Excessive Agency」: https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
- OWASP GenAI Security Project「LLM01:2025 Prompt Injection」: https://genai.owasp.org/llmrisk/llm01-prompt-injection/
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（令和8年3月31日）: https://www.soumu.go.jp/main_content/001064279.pdf
- 総務省・経済産業省「AI事業者ガイドラインの令和7年度更新内容」（令和8年3月12日）: https://www.soumu.go.jp/main_content/001059300.pdf
本記事は一般的な情報提供です。個別の設定や契約の判断は、お使いのサービスの提供元や専門家にご確認ください。
更新履歴: 2026-10-30 公開
監修
監修：佐藤 望（株式会社アプリバンク 代表取締役）。建設業界30年。大手ゼネコンで国内の大規模プロジェクトを担当し、海外では子会社の立ち上げと経営再建に従事。
保有資格は認定ファシリティマネジャー／日商簿記1級／建設業経理士1級／第一種衛生管理者。日本内部監査協会 会員、東京商工会議所 会員。
株式会社アプリバンクは、経済産業省「DX認定事業者」（DX-2026-06-0021-01）。
建設業に特化し、人材育成・DX推進・収益改善を統合した支援（統合最適化メソッド）を提供。お問い合わせは無料経営相談または TEL 03-6826-0180 へ。
建設業を支援する経営コンサル、株式会社アプリバンクをもっと見る
購読すると最新の投稿がメールで送信されます。
