データ統合ジョブの監視 > データ統合ジョブの監視 > 詳細クラスタのサブタスクの監視
  

詳細クラスタのサブタスクの監視

詳細クラスタで実行されるサブタスクに関する詳細情報を表示するには、詳細モードのマッピングの個々のタスク結果からサブタスクに移動します。
注: ジョブの実行中に、詳細クラスタで実行されるサブタスクを監視するとき、ジョブのプロパティ、ジョブの結果、およびSparkタスクの詳細に対する更新を表示するには、ページを更新する必要があります。

ジョブのプロパティ

詳細クラスタで実行される各サブタスクのジョブのプロパティは、インスタンスに関する一般的なプロパティを表示します。
次の表に、詳細クラスタで実行されるサブタスクのジョブのプロパティを示します。
プロパティ
説明
タスク名
タスクの名前。
インスタンスID
タスクのインスタンス番号。例えば、タスクの3番目の実行を見ている場合、このフィールドには「3」と表示されます。
タスクタイプ
、この場合はマッピングタスク。
開始したユーザー名
ジョブを開始したユーザーまたはスケジュールの名前。
開始時刻
ジョブが開始された日時。
終了時刻
ジョブが完了または停止した日時。
継続時間
完了または停止するまでにジョブが実行された時間。
ランタイム環境
ジョブが実行されたランタイム環境。
詳細設定
詳細クラスタの作成に使用された詳細設定
クラスタ
ジョブが実行される詳細クラスタ
クラスタ名をクリックして、クラスタの監視の詳細に直接移動できます。

ジョブの結果

詳細クラスタで実行される各サブタスクのジョブ結果には、ジョブのステータス、Spark実行プランのダウンロードリンク、およびエラーメッセージ(ある場合)が表示されます。
ジョブの結果には次のプロパティが含まれます。
プロパティ
説明
ステータス
ジョブステータス。ジョブは、次のいずれかの状態になります。
  • - 起動。ジョブが開始されました。
  • - 実行中。ジョブはキューに入れられているか、実行中です。
  • - 成功。ジョブが正常に完了しました。
  • - 失敗しました。エラーが発生したため、ジョブは完了しませんでした。
ジョブを実行したときに詳細クラスタが実行されていない場合、ジョブはクラスタが開始されるまで待機します。この間、ジョブのステータスは「開始中」です。
ジョブの実行中にSecure Agentで障害が発生した場合、ジョブのステータスは「実行中」という表示のままになります。ジョブをキャンセルして、実行し直す必要があります。
キューに入れられたジョブのステータスは「実行中」と表示されます。ジョブがキューに入れられているか、実行中であるかどうかを確認するには、セッションログを確認してください。
実行プラン
詳細クラスタがマッピングでデータロジックを実行するために使用するランタイムScalaコードを示すSpark実行プランをダウンロードできます。マッピングでスカラコードを使用して問題をデバッグできます。
エラーメッセージ
ジョブに関連付けられているエラーメッセージ(ある場合)。

ジョブの結果(チューニング用)

詳細クラスタで実行されるマッピングタスクをチューニングする場合、ジョブの結果には、チューニングジョブのステータスとサブタスクへのリンクが表示されます。
ジョブの結果には次のプロパティが含まれます。
プロパティ
説明
ステータス
ジョブステータス。ジョブは、次のいずれかの状態になります。
  • - 実行中。ジョブはキューに入れられているか、実行中です。
  • - 成功。ジョブが正常に完了しました。
  • - 停止。ジョブは停止されました。
  • - 失敗しました。エラーが発生したため、ジョブは完了しませんでした。
SecureAgentがいずれかのサブタスクの実行中に失敗した場合、サブタスクとチューニングジョブのステータスは[実行中]と表示されます。チューニングジョブを停止し、マッピングタスクの詳細から再度チューニングを設定する必要があります。
キューに入れられたジョブのステータスは「実行中」と表示されます。ジョブがキューに入れられているか、実行中であるかどうかを確認するには、セッションログを確認してください。
サブタスク
チューニングジョブを構成するサブタスクの数。各サブタスクは、マッピングタスクの実行を表します。
リンクが利用可能な場合は、リンクをクリックして各マッピングタスクを監視します。
要求された1時間あたりのコンピューティングユニット
1時間あたりのタスクが要求したサーバーレスコンピューティングユニット数。
タスクがサーバーレスランタイム環境で実行される場合、要求されたコンピューティングユニット数を表示できます。
使用されたコンピューティングユニットの合計
タスクが使用したサーバーレスコンピューティングユニットの合計数。
タスクがサーバーレスランタイム環境で実行される場合、使用されたコンピューティングユニット数を表示できます。
エラーメッセージ
ジョブに関連付けられているエラーメッセージ(ある場合)。

Sparkタスクの詳細

詳細クラスタで実行されるサブタスクでは、マッピングは、データロジックを同時に処理するSparkタスクに変換されます。[<Sparkタスク名>タスクの結果]の下にリストされている各Sparkタスクの詳細を表示できます。
次の表に、各Sparkタスクの詳細を示します。
プロパティ
説明
ステータス
Sparkタスクのステータス。Sparkタスクのステータスは次のいずれかです。
  • - 実行中。タスクは実行中です。
  • - 成功しました。タスクが正常に完了しました。
  • - 失敗しました。エラーが発生したため、タスクは完了しませんでした。
  • - 停止。タスクは停止しました。
  • - 不明。タスクのステータスは不明です。
ジョブの実行中にSecure Agentで障害が発生した場合、Sparkタスクのステータスは「実行中」という表示のままになります。ジョブをキャンセルして、実行し直す必要があります。
開始時刻
Sparkタスクの開始日時。
終了時刻
Sparkタスクの終了日時。
継続時間
Sparkタスクが実行された時間。
Executorあたりのメモリ
各Spark Executorが使用するメモリの量。
Executorあたりのコア数
各Spark Executorが使用するコアの数。
ドライバおよびエージェントジョブログ
[ダウンロード]を選択して、Sparkドライバとエージェントジョブログをダウンロードします。
詳細ログの場所
詳細クラスタについて、詳細設定で設定されているログの場所。詳細ログの場所に移動して、エージェントジョブログ、Sparkドライバログ、およびSpark Executorログを表示およびダウンロードできます。
それぞれのSparkタスクはSparkジョブに変換され、さらにステージに分割されます。Sparkジョブおよびステージごとに次の詳細を表示できます。
プロパティ
説明
ジョブ名
Sparkジョブまたはステージの名前。
開始時刻
Sparkジョブまたはステージが開始された日時。強制終了されたタスクの開始時間は「NA」となる可能性があります。
終了時刻
Sparkジョブまたはステージが終了した日時。強制終了されたタスクの終了時間は「NA」となる可能性があります。
継続時間
Sparkジョブまたはステージが実行された時間。
タスクの合計
Sparkジョブまたはステージが試行したタスクの数。
成功したタスク
Sparkジョブまたはステージが正常に完了したタスクの数。
失敗したタスク
Sparkジョブまたはステージが完了できなかったタスクの数。
実行中のタスク
Sparkジョブまたはステージが現在実行しているタスクの数。
入力サイズ/レコード数
Sparkジョブまたはステージによって入力されたファイルのサイズとレコードの数。
出力サイズ/レコード数
Sparkジョブまたはステージによって出力されたファイルのサイズとレコードの数。
ステータス
Sparkジョブまたはステージのステータス。ステータスは、次のいずれかの値になります。
  • - 実行中。ジョブまたはステージが実行中。
  • - 成功。ジョブまたはステージが正常に完了。
  • - 失敗しました。エラーが発生したため、ジョブまたはステージは完了しませんでした。
  • - 強制終了。ユーザーがマッピングタスクを強制終了したため、ジョブまたはステージは完了しませんでした。
注: マッピングタスクを強制終了した後に、Monitorサービスにステータスが強制終了と表示されるまでに多少の遅延時間が発生する場合があります。