IntelliJ で Spark のデータ に接続

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
IntelliJ のウィザードを使用して Spark のデータ への接続を設定します。

CData JDBC Driver for Spark を使用すると、Spark を JDBC データソースとしてアクセスでき、IDE の迅速な開発ツールとの連携が可能になります。この記事では、データソース設定ウィザードを使用して IntelliJ で Spark のデータ に接続する方法を説明します。

Spark 用の JDBC データソースを作成

以下の手順で、ドライバー JAR を追加し、Spark のデータ への接続に必要な接続プロパティを定義します。

  1. Data Sources ウィンドウで右クリックし、Add Data Source -> DB Data Source をクリックします。
  2. 表示される Data Source Properties ダイアログで、以下のプロパティを設定します。

    • JDBC Driver Files: このメニューの横にあるボタンをクリックし、インストールディレクトリにある JDBC Driver ファイル cdata.jdbc.sparksql.jar を追加します。
    • JDBC Driver Class: このメニューで、リストから cdata.jdbc.sparksql.SparkSQLDriver を選択します。
    • Database URL: JDBC URL プロパティに接続 URL を入力します。URL は jdbc:sparksql: で始まり、セミコロンで区切られた接続プロパティを含みます。

      SparkSQL への接続

      SparkSQL への接続を確立するには以下を指定します。

      • Server:SparkSQL をホストするサーバーのホスト名またはIP アドレスに設定。
      • Port:SparkSQL インスタンスへの接続用のポートに設定。
      • TransportMode:SparkSQL サーバーとの通信に使用するトランスポートモード。有効な入力値は、BINARY およびHTTP です。デフォルトではBINARY が選択されます。
      • AuthScheme:使用される認証スキーム。有効な入力値はPLAIN、LDAP、NOSASL、およびKERBEROS です。デフォルトではPLAIN が選択されます。

      Databricks への接続

      Databricks クラスターに接続するには、以下の説明に従ってプロパティを設定します。Note:必要な値は、「クラスター」に移動して目的のクラスターを選択し、 「Advanced Options」の下にある「JDBC/ODBC」タブを選択することで、Databricks インスタンスで見つけることができます。

      • Server:Databricks クラスターのサーバーのホスト名に設定。
      • Port:443
      • TransportMode:HTTP
      • HTTPPath:Databricks クラスターのHTTP パスに設定。
      • UseSSL:True
      • AuthScheme:PLAIN
      • User:'token' に設定。
      • Password:パーソナルアクセストークンに設定(値は、Databricks インスタンスの「ユーザー設定」ページに移動して「アクセストークン」タブを選択することで取得できます)。

      組み込みの接続文字列デザイナー

      JDBC URL の作成には、Spark JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

      java -jar cdata.jdbc.sparksql.jar
      

      接続プロパティに値を入力して、接続文字列をクリップボードにコピーします。

      一般的な JDBC URL は以下のとおりです。

      jdbc:sparksql:Server=127.0.0.1;

Spark のデータ の編集と保存

スキーマ情報を取得するには、作成したデータソースを右クリックして Refresh Tables をクリックします。テーブルをクエリするには、テーブルを右クリックして Open Tables Editor をクリックします。Table Editor でレコードを編集することもできます。

はじめる準備はできましたか?

Apache Spark Driver の無料トライアルをダウンロードしてお試しください:

 ダウンロード

詳細:

Apache Spark Icon Apache Spark JDBC Driver お問い合わせ

Apache Spark 連携のパワフルなJava アプリケーションを素早く作成して配布。