Informatica Cloud で Databricks のデータ を連携

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
CData JDBC ドライバーと Informatica Cloud Secure Agent を使用して、Informatica Cloud から Databricks のデータ にリアルタイム接続。

Informatica Cloud は、クラウド上で抽出、変換、ロード(ETL)タスクを実行できるツールです。Cloud Secure Agent と CData JDBC Driver for Databricks を組み合わせることで、Informatica Cloud から直接 Databricks のデータ にリアルタイムでアクセスできます。本記事では、Cloud Secure Agent のダウンロードと登録、JDBC ドライバーを介した Databricks への接続、そして Informatica Cloud のプロセスで使用可能なマッピングの作成方法をご紹介します。

Databricks データ連携について

CData を使用すれば、Databricks のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています:

  • Runtime バージョン 9.1 - 13.X から Pro および Classic Databricks SQL バージョンまで、すべてのバージョンの Databricks にアクセスできます。
  • あらゆるホスティングソリューションとの互換性により、お好みの環境で Databricks を使用し続けることができます。
  • パーソナルアクセストークン、Azure サービスプリンシパル、Azure AD など、さまざまな方法で安全に認証できます。
  • Databricks ファイルシステム、Azure Blob ストレージ、AWS S3 ストレージを使用して Databricks にデータをアップロードできます。

多くのお客様が、さまざまなシステムから Databricks データレイクハウスにデータを移行するために CData のソリューションを使用していますが、ライブ接続ソリューションを使用して、データベースと Databricks 間の接続をフェデレートしているお客様も多数います。これらのお客様は、SQL Server リンクサーバーまたは Polybase を使用して、既存の RDBMS 内から Databricks へのライブアクセスを実現しています。

一般的な Databricks のユースケースと CData のソリューションがデータの問題解決にどのように役立つかについては、ブログをご覧ください:What is Databricks Used For? 6 Use Cases


はじめに


Informatica Cloud Secure Agent

JDBC ドライバー経由で Databricks のデータ に接続するには、Cloud Secure Agent をインストールします。

  1. Informatica Cloud の Administrator ページに移動します
  2. Runtime Environments タブを選択します
  3. 「Download Secure Agent」をクリックします
  4. Install Token をメモしておきます
  5. クライアントマシンでインストーラを実行し、ユーザー名と Install Token を使って Cloud Secure Agent を登録します

NOTE: Cloud Secure Agent のすべてのサービスが起動するまでに、しばらく時間がかかる場合があります。

Databricks JDBC Driver への接続

Cloud Secure Agent のインストールと起動が完了したら、JDBC ドライバーを介して Databricks に接続する準備が整いました。

Secure Agent マシンへの JDBC ドライバーの追加

  1. Secure Agent マシンの以下のディレクトリに移動します:
    %Secure Agent installation directory%/ext/connectors/thirdparty/
  2. 設定するマッピングの種類に応じて、フォルダを作成しドライバーの JAR ファイル(cdata.jdbc.databricks.jar)を追加します。

    マッピングの場合は、以下のフォルダを作成してドライバーの JAR ファイルを追加します:

    informatica.jdbc_v2/common

    アドバンスドモードのマッピングの場合は、以下のフォルダも作成してドライバーの JAR ファイルを追加します:

    informatica.jdbc_v2/spark
  3. Secure Agent を再起動します。

Informatica Cloud での Databricks への接続

ドライバーの JAR ファイルをインストールしたら、Informatica Cloud で Databricks への接続を設定します。Connections タブをクリックし、New Connection をクリックして、以下のプロパティを入力します:
  • Connection Name: 接続に名前を付けます(例:CData Databricks Connection)
  • Type:「JDBC_V2」を選択します
  • Runtime Environment: Secure Agent をインストールしたランタイム環境を選択します
  • JDBC Driver Class Name: JDBC ドライバークラス名を入力します:cdata.jdbc.databricks.DatabricksDriver
  • JDBC Connection URL: Databricks の JDBC URL を設定します。URL は以下のようになります:

    jdbc:databricks:Server=127.0.0.1;HTTPPath=MyHTTPPath;User=MyUser;Token=MyToken;

    Databricks 接続プロパティの取得・設定方法

    Databricks クラスターに接続するには、以下のプロパティを設定します。

    • Database:Databricks データベース名。
    • Server:Databricks クラスターのサーバーのホスト名
    • HTTPPath:Databricks クラスターのHTTP パス。
    • Token:個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
    Databricks インスタンスで必要な値は、クラスターに移動して目的のクラスターを選択し、Advanced Options の下にあるJDBC/ODBC タブを選択することで見つけることができます。

    Databricks への認証

    CData は、次の認証スキームをサポートしています。

    • 個人用アクセストークン
    • Microsoft Entra ID(Azure AD)
    • Azure サービスプリンシパル
    • OAuthU2M
    • OAuthM2M

    個人用アクセストークン

    認証するには、次を設定します。

    • AuthSchemePersonalAccessToken
    • Token:Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。

    その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。

    組み込みの接続文字列デザイナー

    JDBC URL の作成には、Databricks JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。.jar ファイルをダブルクリックするか、コマンドラインから実行してください。

        java -jar cdata.jdbc.databricks.jar
        

    接続プロパティを入力し、接続文字列をクリップボードにコピーします。

Databricks のデータ のマッピングを作成

Databricks への接続を設定したら、Informatica の任意のプロセスで Databricks のデータ にアクセスできます。以下の手順では、Databricks から別のデータターゲットへのマッピングを作成する方法を説明します。

  1. Data Integration ページに移動します
  2. New.. をクリックし、Mappings タブから Mapping を選択します
  3. Source Object をクリックし、Source タブで Connection を選択し、Source Type を設定します
  4. 「Select」をクリックして、マッピングするテーブルを選択します
  5. Fields タブで、マッピングする Databricks テーブルのフィールドを選択します
  6. Target オブジェクトをクリックし、Target ソース、テーブル、フィールドを設定します。Field Mapping タブで、ソースフィールドをターゲットフィールドにマッピングします。

マッピングの設定が完了すると、Informatica Cloud でサポートされている任意の接続先と Databricks のデータ のリアルタイム連携を開始できます。CData JDBC Driver for Databricks の30日間無償トライアルをダウンロードして、Informatica Cloud で Databricks のデータ の活用を今すぐ始めましょう。

はじめる準備はできましたか?

Databricks Driver の無料トライアルをダウンロードしてお試しください:

 ダウンロード

詳細:

Databricks Icon Databricks JDBC Driver お問い合わせ

Databricks 連携のパワフルなJava アプリケーションを素早く作成して配布。