社内データを検索・要約する
利用者の権限を超えた情報が、検索結果や回答に含まれないかを確認したい。
AI AGENT SECURITY
AIに任せる操作を、
権限と承認で制御する。
AIが外部システムを操作する前に、実行できる範囲を明確に。参照・更新・送信の権限、重要操作の承認、想定外の動作への備えを確認します。
対象：AI開発・情報システム・業務システムの責任者
AIが「読む」から「操作する」へ進むときに
顧客へ送信・返金する
AIが作った提案と、実際に実行される内容が一致しているか確かめたい。
業務データを更新する
大量変更、削除、外部APIの呼び出しに、承認と停止の条件を設けたい。
対象は、LLMを使った業務ツール、AIエージェント、外部APIやMCP等との連携を想定しています。対応可能な環境は、構成と検証条件を確認して判断します。
出力の内容と、実行できる範囲を分けて確認
読める情報・使える機能を絞る
利用者とAIに必要な権限を整理し、参照だけの業務に変更・削除権限が残っていないかを確認します。
外部の文章を実行の許可にしない
検索結果、メール、添付文書に含まれる指示が、利用者の依頼や権限を上書きしない設計を検討します。指示の出所と実行許可を分けます。
重要な操作は実行直前に確認する
金額、宛先、対象件数などを承認内容に含め、承認後の変更は再確認へ。AIの文章上の約束だけに依存せず、接続先や実行処理でも条件を確かめます。
停止と記録を運用に組み込む
想定外の連続操作や失敗時に停止できるか、誰が何を実行したかを追えるかを確認。ログ自体に機密情報を残しすぎないことも検討します。
業務上の影響を起点に、検証範囲を決める
設計・権限のレビュー
ユースケース、接続先、権限一覧、承認条件を確認。外部送信、返金、データ更新など、影響の大きい操作から検証候補を整理します。
業務リスクレビューは1業務・2週間、30万円（税別の参考価格）を起点に、対象に応じて見積もります。
合意したシナリオの技術検証
検証環境とテストデータを使い、権限を超えた参照・操作や、承認条件の迂回につながる動作を確認します。正常な利用の妨げも合わせて確認します。
1業務・1システム、最大3シナリオの技術検証は90万円（税別の参考価格）。対象と実施条件は事前に合意します。
「AI全体の安全認証」とは異なります
モデル全体の安全性、すべての攻撃への耐性、公平性や法令適合性を包括的に保証する評価ではありません。合意した業務・シナリオ・環境で確認した結果と、未検証の範囲を報告します。
開発チームへ渡せる、具体的な改善材料
権限と操作の一覧
利用者、AI、接続先ごとの参照・変更範囲と、重要な操作を整理します。
検証条件と結果
技術検証では、確認した条件、再現の有無、影響、未確認事項を記録します。
対策設計と再確認項目
権限の縮小、承認の追加、実行条件の固定、停止処理などの対応案を提示します。
必要な改修は別途合意のうえで実装します。組み込みはAPI連携・個別開発として相談でき、汎用SDK/APIの標準提供は準備段階です。
金融領域の関連支援経験を見る →AI・開発部門からのご質問
本番環境に対して攻撃テストを行いますか？
掲載プランでは検証環境を前提にしています。権限、テストデータ、実施範囲、停止条件、第三者サービスへの影響を事前に合意します。
特定のLLMや開発フレームワークに対応していますか？
一律に対応済みとはしていません。接続方式、権限の仕組み、コード・設定の確認可能範囲、テスト環境を確認して、実施可否と見積もりを提示します。
既存のAIガードレール製品があれば不要ですか？
製品の対象範囲と設定によります。内容のフィルタリングに加えて、業務システム側の権限・承認・実行条件がどう制御されるかを確認します。
設計を考える際の参考情報
OWASPは、AIに過剰な機能・権限・自律性を与えるリスクと、その制限を整理しています。Japan AISIもAIエージェントの「観測と制御」を評価観点に追加しています。これらを参考に、対象業務で確かめる条件を具体化します。
参照：2026年10月4日。これらの団体によるセキュリーの認定・包括的な準拠を示すものではありません。
編集：セキュリー / Tempura technologies株式会社 更新：
まずは、対象にしたい業務から。
要件書や機密データは不要です。現在の業務と気になる点を伺い、支援できる範囲を確認します。
30分の無料相談を予約（外部サイト・新しいタブ）外部の予約サービス Cal.com が新しいタブで開きます。
予約サービス Cal.com のプライバシーポリシー ↗