AIエージェントのユースケースを分析および追跡する

最終更新日:

エージェント分析のユースケース機能は、類似したプロンプトや会話をユースケースとしてグループ化することで、訪問者がAIエージェントをどのように利用しているかを理解するのに役立ちます。これらを見つけるには、[プロダクト]>[エージェントアナリティクス]に移動し、AIエージェントまたは保存済みレポートを選択し、[ユースケース]タブを選択します。このタブには2種類のタイプが含まれています。

  • 新規ユースケースは自動的に生成され、最近のインタラクションに基づいて動的に更新されます。
  • 追跡中ユースケースは持続的で、特定のトピックを時間をかけて監視できます。

ユースケースは、次のような場合に特に役立ちます。

  • 訪問者が最も頻繁に尋ねる質問の種類を理解したい場合。
  • レイジプロンプト率が高いことに気づき、何がユーザーを苛立たせているのかを調査したい場合。
  • エージェントのプロンプト、ガードレール、またはカバレッジを改善する機会を特定したい場合。

[ユースケース]タブには、新規ユースケースと追跡中ユースケースの2つのビューがあります。[新規]タブがデフォルトで開きます。[追跡中]タブを選択すると、手動で作成して経時的に監視するように設定したユースケースが表示されます。

新たなユースケースを理解する

同様の意味を持つプロンプトや会話をグループ化することで、新たなユースケースが自動的に生成されます。これらのグループは、ページ上部で適用したフィルターに基づいて更新され、新しいデータが入ると変更されます。

注: 選択したエージェントとフィルターに対して、訪問者からのプロンプトが25件以上ある場合にのみデータが表示されます。10,000件を超えるプロンプトまたは会話が含まれる場合、パフォーマンス向上のためにデータがサンプリングされることがあります。サンプリングが有効な場合、[プロンプト]または[会話]フィールドの横にツールチップが表示されます。

新たなユースケーステーブルには以下の列が含まれています。

  • 新規のユースケース。グループ化されたプロンプトまたは会話のトピックを要約したタイトルと説明。サブスクリプションでLeoが有効になっている場合は、ユースケース名の横にある[Leoに質問]アイコンを選択して、ユースケースをさらに詳しく調べることができます。[Leoに質問]オプションは、ユースケースに 1 つ以上の会話またはプロンプトがある場合に使用できます。
  • 会話またはプロンプト。一致したインタラクションの数。エージェントがデータを収集するように設定されている方法によって異なります。
  • 訪問者。そのインタラクションを送信した一意の訪問者の数。
  • アカウント。やり取り中に訪問者に関連付けられた一意のアカウント数。
  • リテンション。選択した日付範囲内で少なくとも2つの異なる週にこのユースケースのプロンプトまたは会話を提出したリピーター訪問者の割合。リピーター数を、同じ期間にユースケースに一致したすべての訪問者数で割って計算されます。
  • レイジプロンプト率。大文字のテキスト、罵りの表現、繰り返しの試行などのフラストレーションシグナルを含むインタラクションの割合。この指標は会話でより一般的に利用されています。

AgentAnalytics_EmergentUseCases.png

新たなユースケースに対して詳細レベルを調整する

詳細レベルスライダーを使って、新たなユースケースをどの程度広くまたは狭くグループ化するかを制御できます。これにより、高レベルのテーマから非常に具体的で実用的なクラスターまで、調査の目的に合わせてクラスタリングをカスタマイズできます。

すべてのユーザーは、テーブルの上部にあるこのコントロールにアクセスできます。

AgentAnalytics_UseCases_LevelOfDetail.png

スライダーを使って、以下のいずれかの詳細レベルを選択してください:

  • 広範(Broad):一般的なテーマや目標ごとに会話をグループ化します。高レベルのトレンドを特定するのに最適です。
  • 一般(General):会話を大まかなカテゴリに整理します。主要な分野におけるユーザーのニーズを理解するのに最適です。
  • バランス(Balanced):明確で異なるユースケースが示されています。詳細にこだわらずにパターンを識別するのに最適です。
  • 詳細(Focused):特定の質問やタスクを主に表示します。既知のユースケースを洗練したり、ギャップを特定するのに役立ちます。
  • 詳細(Granular):会話を非常に詳細なユースケースに細分化します。深い分析やエッジケースのレビューに最適です。

表示されるユースケースは、選択内容に応じて自動的に更新されます。

エージェント分析レポートを保存または更新すると、選択した詳細レベルはレポート設定に保持されます。

ユースケースを追跡する

ユースケースを追跡することで、特定のトピックのパフォーマンスを時間の経過とともに監視することができます。新たなユースケースはフィルターや最近のアクティビティによって変化しますが、追跡されたユースケースはエージェントの分析に名前付きトピックとして残り、継続的な影響を測定しやすくなります。

必要に応じて追跡可能なユースケースを作成できます。

  • 重要なユースケースやユーザーインテントの長期的なパフォーマンスを測定する。
  • プロンプト、エージェントの行動、またはプロダクト体験の変更の影響を監視する。
  • 保存したレポートやダッシュボードを使用して、他のチームと一貫したインサイトを共有する。

追跡されたユースケースを作成する方法は3つあります:

  • [新規]タブから、任意の行の右端にある[+ ユースケースを追跡]を選択します。
  • [追跡中]タブで、[+ 追跡中のユースケースを作成]を選択します。
  • 会話またはプロンプトのサイドパネルから、訪問者プロンプトにカーソルを合わせて「ユースケースに追加」アイコンを選択します。

次に、以下の手順を実行します。

  1. ユースケースの名前を入力してください。新規のユースケースから開始した場合、フィールドはあらかじめ入力されており、編集可能です。
  2. このユースケースが対象とするリクエストについて説明してください。ユーザーが使用する可能性のある特定のキーワード、関連トピック、一般的なバリエーションを含めてください。より具体的な説明は、意味的なマッチングの精度を向上させます。
  3. このユースケースに含めたいリクエストの種類を表すサンプルプロンプトを最大10個追加してください。
    • [+例を追加]を選択します。
    • プロンプトを入力するには[手動で入力]を選択し、次に[追加]を選択します。手動で追加したいプロンプトごとに、この手順を繰り返してください。
    • [プロンプトを選択]を選択して、既存のプロンプトから選択します。追加したいプロンプトの横にあるチェックボックスを選択し、[選択したプロンプトを追加]を選択します。
    • すべての例を削除して最初からやり直すには、[すべての例をクリア]を選択します。
  4. [ユースケースを作成]を選択します。

    AgentAnalytics_TrackUseCase_CreateUseCase.png

作成後、追跡されたユースケースは追跡されたユースケーステーブルで「処理中」と表示されます。処理は毎時開始され、最大15分かかる場合があります。

例示プロンプトは、新しいデータを追加した後にのみ適用されます。過去のプロンプトのグループ化方法は変更されません。

追跡されたユースケースの表示と管理

追跡されたユースケースは常に追跡されたユースケーステーブルに一覧表示されますが、各ユースケースに表示されるデータはページ上部の現在のフィルターを反映しています。これらのユースケースは、特定のトピックまたは施策におけるエージェントの長期的なパフォーマンスを測定するのに有用です。

ここでは以下が可能です。

  • 最初の列の星アイコンを使用してユースケースをお気に入りに追加します。その後、テーブルの上部にある星フィルターを使用して、お気に入りでフィルタリングできます。
  • 表の上にあるフィルターを使ってお気に入りで絞り込むか、表のヘッダーにあるドロップダウンメニューを使って作成者で絞り込むことができます。
  • 作成したユースケース(サブスクリプション管理者の場合は任意のユースケース)を編集または削除します。
  • 追跡されたユースケースを、エージェント分析の[概要][ユースケース][会話]タブでフィルターとして使用します。

追跡されたユースケーステーブルには以下の列が含まれています。

  • 星のアイコン。お気に入りのユースケースを示します。テーブルの上にあるフィルターを使用して、お気に入りのみを表示します。
  • 追跡されたユースケース。グループ化されたプロンプトや会話のトピックを要約するために、作成時に入力されたタイトルと説明。サブスクリプションでLeoが有効になっている場合は、ユースケース名の横にある[Leoに質問]アイコンを選択して、ユースケースをさらに詳しく調べることができます。[Leoに質問]オプションは、ユースケースに 1 つ以上の会話またはプロンプトがある場合に使用できます。
  • 会話またはプロンプト。一致したインタラクションの数。エージェントがデータを収集するように設定されている方法によって異なります。
  • 訪問者。そのインタラクションを送信した一意の訪問者の数。
  • アカウント。やり取り中に訪問者に関連付けられた一意のアカウント数。
  • リテンション。選択した日付範囲内で少なくとも2つの異なる週にこのユースケースのプロンプトまたは会話を提出したリピーター訪問者の割合。リピーター数を、同じ期間にユースケースに一致したすべての訪問者数で割って計算されます。
  • レイジプロンプト率。大文字のテキスト、罵りの表現、繰り返しの試行などのフラストレーションシグナルを含むインタラクションの割合。この指標は会話でより一般的に利用されています。
  • 作成者。追跡されたユースケースを作成したPendoユーザー。
  • 作成日時。追跡されたユースケースが最初に作成された日時。
  • 最終更新者。追跡されたユースケースの名前または説明を最も最近更新したPendoユーザー。
  • 最終更新日時。追跡されたユースケースの名前または説明が最も最近更新された日付と時刻。

AgentAnalytics_TrackedUseCases.png

ユースケーステーブルを操作する

新規のユースケースと追跡されたユースケースをそれぞれ調査するには、以下のいずれかを順番に選択します。

  • [Leoに質問]アイコン。 ご利用のサブスクリプションでLeoが有効になっている場合は、ユースケース名の横にある[Leoに質問]アイコンを選択して、ガイド付きプロンプトを起動し、ユースケースに関する質問をします。
  • 会話またはプロンプト。一致するインタラクションのリストを含むサイドパネルを開きます。任意の数量を選択すると完全な会話またはプロンプトが開き、レイジプロンプトのラベル(該当する場合)が表示され、Pendoリプレイが有効になっている場合は関連するPendoリプレイを視聴できます。
  • 訪問者またはアカウント。関連するIDを一覧表示するサイドパネルが開きます。セグメントを検索、作成、CSVをダウンロードしたり、IDを選択して詳細ページを表示したりできます。
  • レイジプロンプト率。一致した会話内のすべてのレイジプロンプトを会話ごとの数と理由とともに表示するサイドパネルが開きます。レイジプロンプトがある会話については、プレビューで何回発生したかが表示されます。会話を開くと、最初のレイジプロンプトが表示されます。

サブスクリプション設定でLeoをオンにしていれば、ユースケース名の横にある[Leoに質問]ボタンを選択して質問したりパターンを特定したりできます。

また、テーブルの右上にあるアイコンを使用して、テーブルをダッシュボードに追加したり、テーブルの列を調整したりすることもできます。

AgentAnalytics_UseCases_TableActions.png

テーブルビューをカスタマイズする

次のオプションを使用して、いずれかのテーブルレイアウトを調整できます。

  • 列を管理。表の右上隅にある[列を管理]アイコンを選択して、特定の列を表示または非表示にします。
  • サイズ変更と並べ替え。列ヘッダー間にカーソルを移動して列のサイズを変更するか、ヘッダーを選択してテーブルを並べ替えます。
  • 詳細なデータを表示。ページ間を移動するには、表の下のページ区切りコントロールを使用します。ページあたりのアイテム数(10、20、50、または100)を調整し、現在の位置(1~10/48など)を確認し、ナビゲーション矢印を使用して最初、前、次、または最後のページに移動できます。

サブスクリプション管理者またはAIエージェント管理者の役割が割り当てられている場合は、プロンプト数量のいずれかを選択して、関連付けられているプロンプト、訪問者、またはアカウントをリストするサイドパネルを開けます。これらのプロンプトにアクセスできる場合は、キーワードで検索することもできます。

注:トピックレベルの指標は、エージェントの合計プロンプト数に合計されない場合があります。この表には、Pendoがプロンプトの類似性に基づいてラベル付けおよび説明できる最も一般的なユースケースのみが含まれています。これらの値は、正確な合計ではなく、方向性の傾向を示すことを目的としています。特定のユースケースを調べるには、検索バーを使用して独自のトピッククエリを実行してください。

レポートを保存して共有する

特定のセグメント、期間、または質問のユースケースを表示している場合、そのビューをレポートとして保存できます。

  1. ページの右上隅にある[レポートとして保存]を選択します。
  2. レポートに名前を付け、説明を追加します。
  3. 他の人にアクセスや編集を許可したい場合は、[可視性]全員を選択してください。
  4. [レポートを保存]を選択します。

保存されたレポートは、[プロダクト]>[エージェント分析]レポートリストに表示され、ダッシュボードに追加できます。

この記事は役に立ちましたか?
1人中1人がこの記事が役に立ったと言っています