行動ガイドラインを計画する
AIエージェント は、ルールベースのシステムとは異なる動作をします。実装を確実に成功させるには、それらの動作がどのように異なるか、制御できるものと制御できないもの、および適切な境界を定義する方法を理解します。
次のセクションでは、主な考慮事項について説明します。
予測可能性に関する考慮事項
ルールベースのシステム:
- 事前定義され、予測可能
- 完全制御
- すべてのシナリオでシステムがどのように応答するかを正確に把握している
これらのシステムは、事前定義されたとおりに動作します。エンドユーザーが意図した対話パスから逸脱した場合、システムは適応できません。
AIエージェント:
- 確率的および適応的
- コンテキスト駆動型
- エージェントは状況を解釈し、持っている情報に基づいて適切な応答を選択します
ルールベースのシステムとは異なり、AI エージェントは予期しない入力を解釈し、リアルタイムで調整できます。この適応性により、エージェントはエンドユーザーと進行中の会話に動的に調整することで、予測できないシナリオを効果的に管理できます。ただし、この動的な調整により、エージェントの動作の一部の側面を事前に予測または制御することはできません。
次のセクションでは、制御できないエージェントの動作の特定の側面について詳しく説明します。
制御できないエージェントの動作
-
正確なフレージング制御は限られています
エージェントは、コンテキストに基づいて動的に応答を生成します。法的免責事項やコンプライアンスに関する声明など、正確な文言が必要な場合は、エージェントが生成するのではなく、申請書に書き込む必要があります。
-
同義語と言い換えが行われます
エージェントは意図を理解します。例: 「注文をキャンセルしたい」と「発送を停止してもらえますか?」も同じ方法で管理できます。
正確な応答をスクリプト化することはできません。
-
エージェントは意図した範囲を超える可能性があります
行動を明確に制限しない場合、エージェントはそれが合理的と思われる場合にそれを試す可能性があります。
-
個々のメッセージをすべて制御することはできません
考えられるすべての応答を確認して承認できるルールベースのチャットボットとは異なり、AI エージェント システムは応答を動的に生成します。ガイドライン、境界、および動作は定義できますが、正確な応答は定義できません。
動作ルールとガードレール
これらの制御制限内で作業するには、明示的な行動ガイドラインを定義します。
能力の境界: エージェントができることとできないことについて明確な制限を定義します。
- エージェントができること: 具体的かつ詳細に
- できないこと: 包括的で明確であること
- 禁止されている行為: 使用できない機能を約束しない
必須の制限:
-
使用できない tools または機能に依存するアクションを提供しないでください
例: システムプロンプトで 返金ツール を記述しても、エージェントに tool を追加しない場合、エージェントは「今すぐ返金を処理できます」と言う可能性があります。
-
エンドユーザーデータを変更する前に必ず確認してください
-
個人を特定できる情報を決して共有しないでください
コミュニケーションスタイル:
- 声のトーン。例: プロフェッショナル、フレンドリー、カジュアル
- ブランドボイス
- 言語設定
- 形式のレベル
安全性とコンプライアンス:
- 法的免責事項
- プライバシー要件
- 業界固有の規制
- 人間のエージェントにエスカレーションする場合
これらの制約を明示的に定義しない場合、エージェントは仮定を行います。持っていない機能を主張したり、意図しないアクションを実行したり、ガイドラインに違反する応答を生成したりする可能性があります。
制御と適応性のバランス
AI エージェントを使用すると、厳密な一語一語の制御を適応性とインテリジェンスと交換します。エージェントは予期しない状況をより効果的に管理できますが、意図した範囲内に収まるようにするために、明確に定義された境界と動作ルールも必要です。
エージェントを実装するときは、システムプロンプトに次のガイドラインを含めてください。例とベストプラクティスについては、AIエージェントのプロンプトの作成を参照してください。
次のステップ
行動ガイドラインを定義した後:
- エージェントのビルド: 作成と公開ワークフローに従って、次のガイドラインでエージェントを構成します
- プロンプトのベストプラクティスを学ぶ: 行動ガイドラインの実装に関する詳細なガイダンスについては、AIエージェントのプロンプトを書くを参照してください