メインコンテンツまでスキップ

2 つの snapshot のデータを比較する

データの比較では、2 つの snapshot の間で追加、削除、変更された行を正確に一覧表示します。誤った書き込みの後にインシデントレポートを作成したり、再読み込みで何が変わったかを確認したりする場面で利用できます。

データの比較は大量のデータを読み取る場合があります。そのため Time Machine は、2 つのステップで実行します。まずリクエストを確認し、読み取る量を見積もります。見積もりを確認した後にのみ、比較を実行します。

前提条件​

  • role に time_machine:data_diff が含まれていること。portal_admin、data_engineer、data_analyst role には含まれています。
  • Data Security でテーブルを読み取れること。
  • テーブルに 2 件以上の snapshot があること。

比較キーを選ぶ​

比較キーは、行を識別する 1 つ以上のカラムです。たとえば order_id です。Time Machine は、このキーで 2 つの snapshot の行を対応付けます。

キーは次の条件を満たす必要があります。

  • 一意であること: 同じ snapshot 内で、同じキーを持つ行が 2 つ以上ないこと。
  • 空でないこと: キーのカラムに NULL を持つ行がないこと。
  • 出力に含まれること: カスタム SELECT を書く場合は、キーのカラムを含める必要があります。

比較が成功すると、Time Machine はそのテーブルのキーを保存します。次回以降は、同じキーが候補として表示されます。保存されたキーは個人用で、他のユーザーには表示されません。

データを比較する​

  1. テーブルの Time Machine タブを開きます。
  2. Snapshot A で古い snapshot を選択します。
  3. Snapshot B で新しい snapshot を選択します。A が「前」、B が「後」であることは、2 つの snapshot の構造を比較すると同じです。
  4. Data Diff を選択します。
  5. Comparison key に表示されたキーの候補を確認するか、キーのカラムを入力します。
  6. 任意: 一部のカラムや行だけを比較するには、SELECT を入力します。ルールはプレビューと同じです。カスタム SELECT を書くを参照してください。
  7. Prepare を選択します。Time Machine がリクエストを確認し、見積もりを表示します。
  8. 見積もられたデータサイズと行数、および確認の有効期限を確認します。
  9. 確認の有効期限が切れる前に Execute を選択します。

データサイズ、行数、確認の有効期限を表示したデータ比較の見積もり

Prepare は行を比較せず、キーも保存しません。見積もりが制限(デフォルトは 10 GB のデータ)を超える場合は、続行できません。読み取るデータを減らすには、SELECT に WHERE フィルターを追加し、もう一度 Prepare を選択してください。

確認の有効期限は、デフォルトで 5 分です。期限が切れた場合は、もう一度 Prepare を選択してください。Prepare の後は、snapshot、キー、SELECT を変更できません。変更するには、前の手順に戻って、もう一度 Prepare を選択してください。

結果の見方​

件数と変更された行の一覧を表示したデータ比較の結果

サマリーでは、行を 4 つのグループに分けて件数を表示します。一覧には、差分のある行のみが表示されます。

変更の種類意味表示される値
ADDEDキーが B にあり、A にはありません。後
REMOVEDキーが A にあり、B にはありません。前
CHANGEDキーは両方にありますが、一部の値が異なります。前と後
UNCHANGEDキーが両方にあり、値も同じです。件数のみで、一覧には表示されません。—

2 つの snapshot でカラムが異なる場合(たとえば、その間にカラムが追加された場合)、キーが両方の snapshot にある行は CHANGED と表示されます。

比較では、デフォルトで最大 10,000 件の差分が返されます。それを超える場合は、一覧の一部だけを表示するのではなく、失敗として扱われます。そのため、不完全なレポートを受け取ることはありません。

問題が発生した場合​

状況意味対処
比較キーが必要キーを入力しておらず、このテーブルに保存されたキーもありません。キーのカラムを入力してください。
比較キーが無効キーのカラムが出力に含まれていないか、重複して指定されています。または、キーが空または重複している行があります。一意で空にならないカラムを選び、SELECT に含めてください。
見積もりが制限を超えている比較が許可された量を超えるデータを読み取ることになります。WHERE フィルターを追加し、もう一度 Prepare を選択してください。
確認の有効期限が切れた5 分を超えたか、Prepare の後にテーブルまたは制限が変更されました。もう一度 Prepare を選択してください。
差分が多すぎる差分のある行が 10,000 行を超えています。WHERE フィルターを追加して、より小さい範囲(たとえば 1 日分)を比較してください。
実行中の比較が多すぎるすでに 1 件のデータ比較を実行中か、Lakehouse が混み合っています。完了するまで待ってから、もう一度実行してください。
リクエストがタイムアウトした比較が制限時間(デフォルトは 5 分)を超えました。WHERE フィルターを追加するか、カラム数を減らしてください。
アクセスが拒否されたrole またはデータアクセス権限で許可されていません。管理者に time_machine:data_diff またはテーブルへのアクセス権限を依頼してください。

次のステップ​