Talend Cloud Data Management Platform で Databricks のデータ を連携

Qlik 社の Talend Cloud Data Management Platform は多様なデータ環境をサポートし、スマートな意思決定のための分析、業務データの共有、データおよびアプリケーションのモダナイゼーション、リスク低減のためのデータエクセレンスの確立を実現します。CData JDBC Driver for Databricks と組み合わせると、Databricks のデータ のデータ連携、品質管理、ガバナンスを向上できます。この記事では、Talend Cloud Data Management で CData JDBC Driver を使用して Databricks に接続し、ワークフロー内でデータを同時に利用できるようにする方法を説明します。

はじめに

---

前提条件

CData JDBC Driver を使用して Talend Cloud Data Management Platform でデータを表示・操作する前に、システムに最新バージョンの Talend Studio をダウンロードしてインストールしてください。また、以下の前提条件を満たしていることを確認してください。

1. 適切な権限を持つ Talend Cloud Data Management アカウント
2. CData Web サイトからダウンロード可能な CData JDBC Driver for Databricks

Talend で Databricks に JDBC データソースとして接続

Talend Data Management Cloud へのアクセス

1. ローカルシステムにインストールされている Talend Cloud Data Management Platform を起動し、Other Login Mode をクリックします。
2. Manage Connections をクリックします。Repository を「Local」に設定し、Name、Description、User E-mail を入力します。Workspace のパスを設定して OK をクリックします。
3. Create a new project ラジオボタンを選択して新しいプロジェクト名を追加し、Create をクリックします。
4. 新しいプロジェクトが Select an existing project セクションに表示されます。Open をクリックします。Talend Cloud Data Management Platform ワークスペースが開きます。

新しい接続の作成

1. ナビゲーションペインで Metadata ドロップダウンを展開します。Db Connections を右クリックし、Create Connection を選択します。
2. Database Connection ウィンドウの Find セクションで「JDBC」を検索して選択します。次に、Finish をクリックします。
3. Databricks のデータ をロードする Talend の新しいデータベースの Name、Purpose、Description を入力します。Next をクリックします。

4. Databricks に接続するための JDBC URL を生成します。jdbc:databricks: で始まり、セミコロンで区切られた一連の接続文字列プロパティを続けます。

   Databricks 接続プロパティの取得・設定方法

   Databricks クラスターに接続するには、以下のプロパティを設定します。

   • Database：Databricks データベース名。
   • Server：Databricks クラスターのサーバーのホスト名。
   • HTTPPath：Databricks クラスターのHTTP パス。
   • Token：個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
   Databricks インスタンスで必要な値は、クラスターに移動して目的のクラスターを選択し、Advanced Options の下にあるJDBC/ODBC タブを選択することで見つけることができます。

   Databricks への認証

   CData は、次の認証スキームをサポートしています。

   • 個人用アクセストークン
   • Microsoft Entra ID（Azure AD）
   • Azure サービスプリンシパル
   • OAuthU2M
   • OAuthM2M

   個人用アクセストークン

   認証するには、次を設定します。

   • AuthScheme：PersonalAccessToken。
   • Token：Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。

   その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。

   組み込みの接続文字列デザイナー

   JDBC URL の構築には、Databricks JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

   java -jar cdata.jdbc.databricks.jar
   

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   

   一般的な JDBC URL は次のようになります。

   jdbc:databricks:Server=127.0.0.1;HTTPPath=MyHTTPPath;User=MyUser;Token=MyToken;
   

5. CData JDBC Driver for Databricks からコピーした JDBC URL を Edit new database に入力します。

6. Drivers の下にある「(+) Add」ボタンをクリックします。Drivers ボードに「newLine」が表示されます。新しい行の末尾にある (...) をクリックし、Install a new module ラジオボタンを選択して、(...) をクリックしてインストールディレクトリの「lib」サブフォルダにある JAR ファイルへのパスを追加します。OK をクリックします。
7. Driver Class として cdata.jdbc.databricks（前のステップで指定したインストールディレクトリから取得した JAR ファイル）を選択します。

新しい接続のテスト

1. Check Connection をクリックします。入力した詳細が正しければ、「Connection successful」という確認プロンプトが表示されます。「OK」と「Finish」をクリックします。
2. 接続が確立されたら、新しく作成した接続を右クリックし、Retrieve Schema を選択します。フィルターを使用して必要なデータを取得することもできます。Next をクリックします。
3. Schema ウィンドウで「CData」カタログを展開し、Databricks スキーマからインポートするテーブルを選択します。Next をクリックします。
4. 次のステップで、テーブルから表示するカラムを選択し、Finish をクリックします。
5. Databricks スキーマから選択したすべてのテーブルが、JDBC 接続の Table Schemas セクションに表示されます。
6. 選択したテーブルのいずれかを右クリックし、Data Viewer をクリックしてデータソースからのデータをプレビューします。

おわりに

CData JDBC Driver for Databricks の30日間無償トライアルをダウンロードして、Talend Cloud Data Management Platform で Databricks データを連携しましょう。ご不明な点があれば、サポートチームにお問い合わせください。