Google Data Fusion で Azure Table に連携した ETL プロセスを作成

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
CData JDBC Driver を Google Data Fusion にロードし、Azure Table のデータ にリアルタイムでアクセスできる ETL プロセスを作成します。

Google Data Fusion を使用すると、セルフサービス型のデータ連携を行い、異なるデータソースを統合できます。CData JDBC Driver for Azure をアップロードすることで、Google Data Fusion のパイプライン内から Azure Table のデータ にリアルタイムでアクセスできるようになります。CData JDBC Driver を使用すると、Azure Table のデータ を Google Data Fusion でネイティブにサポートされている任意のデータソースにパイプできますが、この記事では、Azure Table から Google BigQuery へデータをパイプする方法を説明します。

CData JDBC Driver for Azure を Google Data Fusion にアップロード

CData JDBC Driver for Azure を Google Data Fusion インスタンスにアップロードして、Azure Table のデータ にリアルタイムでアクセスしましょう。Google Data Fusion では JDBC ドライバーの命名規則に制限があるため、JAR ファイルを driver-version.jar という形式に合わせてコピーまたはリネームしてください。例:cdataazuretables-2020.jar

  1. Google Data Fusion インスタンスを開きます
  2. をクリックしてエンティティを追加し、ドライバーをアップロードします
  3. "Upload driver" タブで、リネームした JAR ファイルをドラッグまたは参照します。
  4. "Driver configuration" タブで以下を設定します:
    • Name: ドライバーの名前(cdata.jdbc.azuretables)を作成し、メモしておきます
    • Class name: JDBC クラス名を設定します:(cdata.jdbc.azuretables.AzureTablesDriver)
  5. "Finish" をクリックします

Google Data Fusion で Azure Table のデータ に接続

JDBC Driver をアップロードしたら、Google Data Fusion のパイプラインで Azure Table のデータ にリアルタイムでアクセスできます。

  1. Pipeline Studio に移動して、新しいパイプラインを作成します
  2. "Source" オプションから "Database" をクリックして、JDBC Driver 用のソースを追加します
  3. Database ソースの "Properties" をクリックしてプロパティを編集します

    NOTE:Google Data Fusion で JDBC Driver を使用するには、ライセンス(製品版またはトライアル)とランタイムキー(RTK)が必要です。ライセンス(またはトライアル)の取得については、CData までお問い合わせください。

    • Label を設定します
    • Reference Name を将来の参照用の値に設定します(例:cdata-azuretables)
    • Plugin Type を "jdbc" に設定します
    • Connection String を Azure Table の JDBC URL に設定します。例:

      jdbc:azuretables:RTK=5246...;AccessKey=myAccessKey;Account=myAccountName;

      Account プロパティをストレージアカウント名に設定し、ストレージアカウントのAccessKey を設定して接続します。これらの値を取得する方法は次のとおりです。

      ストレージをBackend として使用している場合(デフォルト)

      • Azure ポータルにログインし、左側の「サービス」メニューで「ストレージアカウント」を選択します。
      • ストレージアカウントがない場合は、「追加」ボタンをクリックしてアカウントを作成します。
      • 使用するストレージアカウントのリンクをクリックし、「設定」の「アクセスキー」を選択します。 「アクセスキー」ウィンドウには、ストレージアカウント名とCData 製品で使用するキー(接続にはkey1またはkey2のどちらかを使用できます)が含まれています。これらのプロパティは、それぞれAccount とAccessKey 接続プロパティにマッピングされます。

      Azure SQL への接続

      • Azure ポータルにログインし、左側の「サービス」メニューで「Azure Cosmos DB」を選択します。
      • 使用するCosmos DB アカウントのリンクをクリックし、「設定」の「接続文字列」を選択します。 「接続文字列」ウィンドウには、Cosmos DB アカウント名とCData 製品で使用する主キーが含まれています。これらのプロパティは、それぞれAccount とAccessKey 接続プロパティにマッピングされます。

      ビルトイン接続文字列デザイナー

      JDBC URL の作成には、Azure Table JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。

            java -jar cdata.jdbc.azuretables.jar
            

      接続プロパティを入力し、接続文字列をクリップボードにコピーします。

    • Import Query を Azure Table から取得したいデータを抽出する SQL クエリに設定します。例:
      SELECT * FROM NorthwindProducts
  4. "Sink" タブから、同期先シンクを追加します(この例では Google BigQuery を使用します)
  5. BigQuery シンクの "Properties" をクリックしてプロパティを編集します
    • Label を設定します
    • Reference Name を azuretables-bigquery のような値に設定します
    • Project ID を特定の Google BigQuery プロジェクト ID に設定します(またはデフォルトの "auto-detect" のままにします)
    • Dataset を特定の Google BigQuery データセットに設定します
    • Table を Azure Table のデータ を挿入するテーブル名に設定します

Source と Sink を設定すると、Azure Table のデータ を Google BigQuery にパイプする準備が整います。パイプラインを保存してデプロイしてください。パイプラインを実行すると、Google Data Fusion が Azure Table からリアルタイムデータをリクエストし、Google BigQuery にインポートします。

これはシンプルなパイプラインの例ですが、変換、分析、条件などを使用してより複雑な Azure Table パイプラインを作成できます。CData JDBC Driver for Azure の 30日間の無償トライアルをダウンロードして、今すぐ Google Data Fusion で Azure Table のデータ をリアルタイムで活用しましょう。

はじめる準備はできましたか?

Azure Driver の無料トライアルをダウンロードしてお試しください:

 ダウンロード

詳細:

Azure Storage Icon Azure JDBC Driver お問い合わせ

リアルタイムなAzure テーブルストレージデータを組み込んだパワフルなJava アプリケーションを短時間・低コストで作成して配布できます。