Denodo Platform で Databricks のデータ に接続
Denodo Platform は、エンタープライズデータベースのデータを統合的に扱うことができるデータ仮想化製品です。CData JDBC Driver for Databricks と組み合わせることで、Denodo ユーザーは他のエンタープライズデータソースと並んでライブ Databricks のデータ を扱うことができます。本記事では、Denodo Virtual DataPort Administrator で Databricks 用の仮想データソースを作成する方法を解説します。
CData JDBC Driver は、最適化されたデータ処理機能を内蔵しており、ライブ Databricks のデータ とのやり取りにおいて比類のないパフォーマンスを提供します。Databricks に対して複雑な SQL クエリを発行すると、ドライバーはフィルターや集計などのサポートされている SQL 操作を直接 Databricks にプッシュし、内蔵の SQL エンジンを使用してサポートされていない操作(主に SQL 関数や JOIN 操作)をクライアントサイドで処理します。また、動的メタデータクエリ機能を内蔵しているため、ネイティブデータ型を使用して Databricks のデータ を操作・分析できます。
Databricks データ連携について
CData を使用すれば、Databricks のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています:
- Runtime バージョン 9.1 - 13.X から Pro および Classic Databricks SQL バージョンまで、すべてのバージョンの Databricks にアクセスできます。
- あらゆるホスティングソリューションとの互換性により、お好みの環境で Databricks を使用し続けることができます。
- パーソナルアクセストークン、Azure サービスプリンシパル、Azure AD など、さまざまな方法で安全に認証できます。
- Databricks ファイルシステム、Azure Blob ストレージ、AWS S3 ストレージを使用して Databricks にデータをアップロードできます。
多くのお客様が、さまざまなシステムから Databricks データレイクハウスにデータを移行するために CData のソリューションを使用していますが、ライブ接続ソリューションを使用して、データベースと Databricks 間の接続をフェデレートしているお客様も多数います。これらのお客様は、SQL Server リンクサーバーまたは Polybase を使用して、既存の RDBMS 内から Databricks へのライブアクセスを実現しています。
一般的な Databricks のユースケースと CData のソリューションがデータの問題解決にどのように役立つかについては、ブログをご覧ください:What is Databricks Used For? 6 Use Cases
はじめに
Databricks 仮想ポートの作成
Denodo からライブ Databricks のデータ に接続するには、JDBC Driver の JAR ファイルを Denodo の外部ライブラリディレクトリにコピーし、Virtual DataPort Administrator ツールで新しい JDBC データソースを作成します。
- CData JDBC Driver for Databricks インストーラーをダウンロードし、パッケージを解凍して JAR ファイルを実行してドライバーをインストールします。
- インストール先(通常は C:\Program Files\CData\CData JDBC Driver for Databricks\lib\)から JAR ファイル(およびライセンスファイルが存在する場合はそれも)を Denodo 外部ライブラリディレクトリ(C:\Denodo\Denodo Platform\lib-external\jdbc-drivers\cdata-databricks-19)にコピーします。
- Denodo Virtual DataPort Administrator ツールを開き、Server Explorer タブに移動します。
- "admin" を右クリックし、New -> Data source -> JDBC を選択します。
- JDBC 接続を設定します:
- Name: 任意の名前(例: databricks)
- Database adapter: Generic
- Driver class path: C:\Denodo\Denodo Platform\lib-external\jdbc-drivers\cdata-databricks-19
- Driver class: cdata.jdbc.databricks.DatabricksDriver
Database URI: 必要な接続プロパティを使用して JDBC URL を設定します。例:
jdbc:databricks:Server=127.0.0.1;HTTPPath=MyHTTPPath;User=MyUser;Token=MyToken;
Database URI の作成方法は以下のとおりです:
ビルトイン接続文字列デザイナー
JDBC URL の構築には、Databricks JDBC Driver に組み込まれた接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。
java -jar cdata.jdbc.databricks.jar
接続プロパティを入力し、接続文字列をクリップボードにコピーします。
Databricks 接続プロパティの取得・設定方法
Databricks クラスターに接続するには、以下のプロパティを設定します。
- Database:Databricks データベース名。
- Server:Databricks クラスターのサーバーのホスト名。
- HTTPPath:Databricks クラスターのHTTP パス。
- Token:個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
Databricks への認証
CData は、次の認証スキームをサポートしています。
- 個人用アクセストークン
- Microsoft Entra ID(Azure AD)
- Azure サービスプリンシパル
- OAuthU2M
- OAuthM2M
個人用アクセストークン
認証するには、次を設定します。
- AuthScheme:PersonalAccessToken。
- Token:Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。
- "Test connection" ボタンをクリックして設定を確認し、Save をクリックします。
VirtualPort Administrator ツールで Databricks のデータ を表示
データソースを作成したら、Denodo Platform で使用する Databricks のデータ のベースビューを作成できます。
- 新しく作成した VirtualPort (admin.Databricks) で "Create base view" ボタンをクリックします。
- オブジェクトツリーを展開し、インポートするオブジェクト(テーブル)を選択します。
- "Create selected" ボタンをクリックして、Databricks のデータ のビューを作成します。
オプション: "Create associations from foreign keys" をクリックして、オブジェクト間のリレーションシップを定義できます。 - ビューが作成されたら、Server Explorer で対象テーブル(cdata_databricks_customers)に移動し、選択したテーブルをダブルクリックします。
- 新しいタブで "Execution panel" をクリックしてクエリパネルを開きます。
- "Execute" タブでクエリをカスタマイズするか、デフォルトのクエリを使用します:
SELECT * FROM cdata_databricks_customers CONTEXT ('i18n'='us_est', 'cache_wait_for_load'='true')
- Execute をクリックしてデータを表示します。
ベースビューの作成後は、Denodo Platform の他のデータソースと同様にライブ Databricks のデータ を扱うことができます。たとえば、Denodo Data Catalog で Databricks をクエリできます。
CData JDBC Driver for Databricks の 30日間無料トライアルをダウンロードして、Denodo Platform でライブ Databricks のデータ の活用を始めましょう。ご不明な点がございましたら、サポートチーム までお問い合わせください。