AIと情報管理
資料内の指示とAIへの操作命令を区別する理由
AIが読むメールに「この内容を外へ送って」と書かれていたら、その通りに送ってよいでしょうか。読むための資料と、操作を許可する指示は分けます。外部の文章でAIの動きが変わる問題は、プロンプトインジェクションと呼ばれます。OWASPのプロンプトインジェクションの説明
資料を読めることと、操作できること
例えば検索資料に「前の指示を無視する」とあれば、回答だけの用途と送信・登録まで行う用途では影響が違います。受付票の下書き試験に、メール送信や台帳変更の権限まで付ける必要はありません。必要な操作に絞り、重要な変更には所定の承認を残します。
送る内容と相手を、資料から決めない
宛先、本文、添付を担当者が確認し、承認したものを送ります。資料で見つかったアドレスを、そのまま送信先にしません。社内資料でも、書いた人の文がAIの操作命令として信頼できるとは限りません。文書の更新者とAIの動作管理者を分けます。
注意書きだけに頼らず、練習で確かめる
入力、検索、操作権限、出力を合わせて管理します。指示文の注意だけで全入力を防げるとは説明しません。意図しない命令を含む架空資料で動きを試し、実機密を使って漏れるか試さないようにします。試験に通った範囲でも、すべての安全を保証するわけではありません。
参考情報
- OWASPのプロンプトインジェクションの説明(確認日:2026-10-08)