SnapLogic を使用して Azure Data Lake Storage を外部サービスと連携

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
CData JDBC Driver を SnapLogic で使用して、Azure Data Lake Storage を外部サービスと連携する方法を説明します。

SnapLogic は、ノーコードでデータ連携フローを作成できる iPaaS(Integration Platform as a Service)です。CData JDBC Driver と組み合わせることで、Azure Data Lake Storage を含む250を超える SaaS、ビッグデータ、NoSQL ソースのリアルタイムデータに SnapLogic ワークフローからアクセスできます。

CData JDBC Driver は、最適化されたデータ処理機能を内蔵しており、リアルタイム Azure Data Lake Storage のデータ とのやり取りにおいて比類ないパフォーマンスを発揮します。外部ツールから複雑な SQL クエリが発行されると、ドライバーはフィルタや集計などのサポートされている SQL 操作を Azure Data Lake Storage に直接プッシュし、サポートされていない操作(多くの場合、SQL 関数や JOIN 操作)は内蔵の SQL エンジンを使用してクライアント側で処理します。動的なメタデータクエリ機能により、ネイティブデータ型を使用して Azure Data Lake Storage のデータ を操作できます。

SnapLogic から Azure Data Lake Storage に接続

SnapLogic から Azure Data Lake Storage のデータ に接続するには、CData Azure Data Lake Storage JDBC Driver をダウンロードしてインストールします。インストールウィザードに従って進めてください。インストールが完了すると、JAR ファイルはインストールディレクトリ(デフォルトでは C:/Program Files/CData/CData JDBC Driver for Azure Data Lake Storage/lib)に配置されます。

Azure Data Lake Storage JDBC Driver のアップロード

インストール後、Manager タブから SnapLogic 内の場所(例:projects/Jerod Johnson)に JDBC JAR ファイルをアップロードします。

接続の設定

JDBC Driver をアップロードしたら、Azure Data Lake Storage への接続を作成します。

  1. Designer タブに移動します
  2. Snaps から「JDBC」を展開し、「Generic JDBC - Select」snap をデザイナーにドラッグします
  3. Add Account をクリック(または既存のアカウントを選択)し、「Continue」をクリックします
  4. 次のフォームで、JDBC 接続プロパティを設定します:
    • JDBC JARs に、先ほどアップロードした JAR ファイルを追加します
    • JDBC Driver Classcdata.jdbc.adls.ADLSDriver に設定します
    • JDBC URL を Azure Data Lake Storage JDBC Driver の JDBC 接続文字列に設定します。例:

      jdbc:adls:Schema=ADLSGen2;Account=myAccount;FileSystem=myFileSystem;AccessKey=myAccessKey;RTK=XXXXXX;

      注意:RTK はトライアルキーまたは製品キーです。詳細についてはサポートチームまでお問い合わせください。

      組み込みの接続文字列デザイナー

      JDBC URL の構築には、Azure Data Lake Storage JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。

      java -jar cdata.jdbc.adls.jar

      接続プロパティを入力し、接続文字列をクリップボードにコピーします。

      Azure Data Lake Storage 接続プロパティの取得・設定方法

      Azure Data Lake Storage Gen2 への接続

      それでは、Gen2 Data Lake Storage アカウントに接続していきましょう。接続するには、以下のプロパティを設定します。

      • Account:ストレージアカウントの名前
      • FileSystem:このアカウントに使用されるファイルシステム名。例えば、Azure Blob コンテナの名前
      • Directory(オプション):レプリケートされたファイルが保存される場所へのパス。パスが指定されない場合、ファイルはルートディレクトリに保存されます

      Azure Data Lake Storage Gen2への認証

      続いて、認証方法を設定しましょう。CData 製品では、5つの認証方法をサポートしています:アクセスキー(AccessKey)の使用、共有アクセス署名(SAS)の使用、Azure Active Directory OAuth(AzureAD)経由、Azure サービスプリンシパル(AzureServicePrincipal またはAzureServicePrincipalCert)経由、およびManaged Service Identity(AzureMSI)経由です。

      アクセスキー

      アクセスキーを使用して接続するには、まずADLS Gen2ストレージアカウントで利用可能なアクセスキーを取得する必要があります。

      Azure ポータルでの手順は以下のとおりです:

      1. ADLS Gen2ストレージアカウントにアクセスします
      2. 設定でアクセスキーを選択します
      3. 利用可能なアクセスキーの1つの値をAccessKey 接続プロパティにコピーします

      接続の準備ができたら、以下のプロパティを設定してください。

      • AuthSchemeAccessKey
      • AccessKey:先ほどAzure ポータルで取得したアクセスキーの値

      共有アクセス署名(SAS)

      共有アクセス署名を使用して接続するには、まずAzure Storage Explorer ツールを使用して署名を生成する必要があります。

      接続の準備ができたら、以下のプロパティを設定してください。

      • AuthSchemeSAS
      • SharedAccessSignature:先ほど生成した共有アクセス署名の値

      その他の認証方法については、 href="/kb/help/" target="_blank">ヘルプドキュメントの「Azure Data Lake Storage Gen2への認証」セクションをご確認ください。

  5. 接続プロパティを入力したら、「Validate」をクリックし、「Apply」をクリックします

Azure Data Lake Storage のデータ の読み取り

接続の検証と適用後に開くフォームで、クエリを設定します。

  • Schema name を「ADLS」に設定します
  • Table name を Azure Data Lake Storage のテーブルに設定します。スキーマ名を使用して、例:「ADLS」.「Resources」(ドロップダウンで利用可能なテーブルの一覧を確認できます)
  • テーブルから使用する各項目の Output fields を追加します

Generic JDBC - Select snap を保存します。

接続とクエリを設定したら、snap の末尾をクリックしてデータをプレビューします(下図でハイライト表示)。

結果が期待通りであることを確認したら、追加の snap を使用して Azure Data Lake Storage のデータ を別のエンドポイントに送信できます。

Azure Data Lake Storage のデータ を外部サービスにパイプ

この記事では、データを Google スプレッドシートに読み込みます。サポートされている任意の snap を使用するか、別の CData JDBC Driver と Generic JDBC snap を使用して、外部サービスにデータを移動できます。

  1. 「Worksheet Writer」snap を「Generic JDBC - Select」snap の末尾にドロップします。
  2. Google Sheets に接続するためのアカウントを追加します
  3. Worksheet Writer snap を設定して、Azure Data Lake Storage のデータ を Google スプレッドシートに書き込みます

これで、完全に設定されたパイプラインを実行して、Azure Data Lake Storage からデータを抽出し、Google スプレッドシートにプッシュできます。

詳細情報と無料トライアル

CData JDBC Driver for Azure Data Lake Storage を使用することで、SnapLogic で Azure Data Lake Storage のデータ を外部サービスと連携するパイプラインを作成できます。Azure Data Lake Storage への接続の詳細については、CData JDBC Driver for Azure Data Lake Storage ページをご覧ください。CData JDBC Driver for Azure Data Lake Storage の30日間無料トライアルをダウンロードして、今すぐお試しください。

はじめる準備はできましたか?

Azure Data Lake Storage Driver の無料トライアルをダウンロードしてお試しください:

 ダウンロード

詳細:

Azure Data Lake Storage Icon Azure Data Lake Storage JDBC Driver お問い合わせ

Azure Data Lake Storage データに連携するJava アプリケーションを素早く、簡単に開発できる便利なドライバー。