中学生にもわかるAI経営
AI社員に任せてはいけない仕事｜中小企業が最初に決める安全ルール
AI社員やAIエージェントを仕事で使う前に、中小企業の経営者が決めておくべき権限設計を解説。契約、支払い、外部送信、削除など「人間確認で止める仕事」をAGENTS.md / CLAUDE.mdにどう書くかを整理します。
合同会社Leadfive 山下です。
さて、
AI社員やAIエージェントを使えば、業務はかなり前に進みます。
ただし、最初から何でも任せていいわけではありません。
たとえば、新入社員に入社初日から契約書の送付、支払い処理、顧客への一斉メール送信を任せる会社はほとんどないはずです。
それは、その人の能力が低いからではありません。会社の方針、判断基準、やってはいけないこと、止めるべき場所をまだ共有できていないからです。
AI社員も同じです。
この記事でわかること
- AI社員に最初から任せない方がいい仕事
- AIが危険になる原因は、性能不足ではなく権限設計不足であること
- Codex の
AGENTS.mdや Claude Code のCLAUDE.mdに書くべき停止条件 - 経営者がAIを怖がりすぎず、安全に使うための考え方
AIが危険なのは、能力が低いからではない
AIエージェントは、文章作成、調査、資料作成、コード生成、分析など、かなり高い能力を持っています。
問題は、能力ではありません。
問題は、会社の意図や止めるべき条件を知らないまま、優秀なスピードで進んでしまうことです。
人間なら「これは送っていいですか？」と聞く場面でも、AIにルールがなければ、そのまま実行してしまう可能性があります。
最初に任せてはいけない仕事
AI社員を仕事で使う場合、最初から任せない方がいい仕事があります。
- 外部へのメール、DM、フォーム送信
- 支払い、返金、請求、広告予算変更
- 顧客情報や未公開情報の外部投入
- ファイル削除、DB変更、本番公開
- 契約、法務、税務、採用など会社リスクのある判断
これらは、AIに一切使わせないという意味ではありません。
人間確認で止まる仕組みを先に作る、という意味です。
AGENTS.md / CLAUDE.md に停止条件を書く
Codexであれば AGENTS.md、Claude Codeであれば CLAUDE.md に、AIが守るべき会社のルールを書いておきます。
特に重要なのは、次のような指示です。
外部送信、課金、削除、公開、設定変更など、戻しにくい操作は実行前に必ず人間へ確認してください。
該当する場合は、実行内容、影響範囲、リスク、代替案を短く説明し、承認を待ってください。
承認がないまま実行しないでください。
この一文があるだけでも、AI社員の使い方は大きく変わります。
怖いから使わない、も機会損失
もちろん、AI社員にはリスクがあります。
しかし、リスクだけを見て使わないのも機会損失です。
大事なのは、AIに任せるか、任せないかではありません。
どこまで自律的に進めてよくて、どこから人間確認で止めるのかを決めることです。
動画で詳しく解説しています
今回のYouTubeでは、AI社員を新入社員に例えながら、経営者が最初に決めるべき安全ルールについて話しています。
AI社員を仕事で使うなら、ツール選びより先に、停止条件を決めておくことをおすすめします。