HULFT Integrate で Hive のデータ に接続

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
HULFT Integrate で Hive に JDBC データソースとして接続

HULFT Integrate は、ドラッグ&ドロップのユーザーインターフェースでコーポレーションフロー、データ変換、処理を簡単に作成できる最新のデータ連携プラットフォームです。CData JDBC Driver for Apache Hive と組み合わせることで、HULFT Integrate からリアルタイムの Hive のデータ を扱うことができます。この記事では、Hive への接続方法と、データを CSV ファイルに出力する手順をご紹介します。

CData JDBC ドライバーは、最適化されたデータ処理機能を備えており、リアルタイムの Hive のデータ との連携において比類のないパフォーマンスを発揮します。Hive に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を直接 Hive にプッシュし、サポートされていない操作(主に SQL 関数や JOIN 操作)は内蔵の SQL エンジンでクライアント側で処理します。また、動的なメタデータクエリ機能により、ネイティブなデータ型を使用して Hive のデータ を操作・分析できます。

Hive へのアクセスを有効化

HULFT Integrate プロジェクトから Hive のデータ へのアクセスを有効にするには、以下の手順で設定します:

  1. CData JDBC Driver の JAR ファイル(およびライセンスファイルがある場合はそれも)、cdata.jdbc.apachehive.jar(および cdata.jdbc.apachehive.lic)を、Integrate Server の jdbc_adapter サブフォルダにコピーします
  2. HULFT Integrate Server を再起動し、HULFT Integrate Studio を起動します

Hive のデータ にアクセスするプロジェクトの作成

JAR ファイルをコピーしたら、Hive のデータ にアクセスするプロジェクトを作成できます。まず、Integrate Studio を開いて新しいプロジェクトを作成しましょう。

  1. プロジェクト名を入力します
  2. 「スクリプトを作成」チェックボックスがオンになっていることを確認します
  3. 「次へ」をクリックします
  4. スクリプト名を入力します(例:ApacheHivetoCSV)

プロジェクトを作成したら、Hive のデータ を CSV ファイルにコピーするためのコンポーネントをスクリプトに追加します。

Execute Select SQL コンポーネントの設定

ツールパレット(Database -> JDBC)から「Execute Select SQL」コンポーネントをスクリプトワークスペースにドラッグします。

  1. 「必須設定」タブの接続先で、「追加」をクリックして Hive 用の新しい接続を作成します。以下のプロパティを設定します:
    • 名前:Hive Connection Settings
    • ドライバークラス名:cdata.jdbc.apachehive.ApacheHiveDriver
    • URL:jdbc:apachehive:Server=127.0.0.1;Port=10000;TransportMode=BINARY;

      組み込みの接続文字列デザイナー

      JDBC URL の構築には、Hive JDBC Driver に組み込まれている接続文字列デザイナーをご利用ください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

      		java -jar cdata.jdbc.apachehive.jar
      		

      接続プロパティを入力し、接続文字列をクリップボードにコピーします。

      Apache Hive への接続を確立するには以下を指定します。

      • Server:HiveServer2 をホストするサーバーのホスト名またはIP アドレスに設定。
      • Port:HiveServer2 インスタンスへの接続用のポートに設定。
      • TransportMode:Hive サーバーとの通信に使用するトランスポートモード。有効な入力値は、BINARY およびHTTP です。デフォルトではBINARY が選択されます。
      • AuthScheme:使用される認証スキーム。有効な入力値はPLAIN、LDAP、NOSASL、およびKERBEROS です。デフォルトではPLAIN が選択されます。
      • CData 製品においてTLS/SSL を有効化するには、UseSSL をTrue に設定します
  2. SQL ステートメントを記述します。例:
    SELECT City, CompanyName FROM Customers
  3. 「抽出テスト」をクリックして、接続とクエリが正しく設定されていることを確認します
  4. 「SQL を実行して出力スキーマを設定」をクリックします
  5. 「完了」をクリックします

Write CSV File コンポーネントの設定

ツールパレット(File -> CSV)から「Write CSV File」コンポーネントをワークスペースにドラッグします。

  1. クエリ結果を書き込むファイルを設定します(例:Customers.csv)
  2. 「入力データ」を「Select SQL」コンポーネントに設定します
  3. SQL クエリで選択した各フィールドのカラムを追加します
  4. 「書き込み設定」タブで、「最初の行にカラム名を挿入する」チェックボックスをオンにします
  5. 「完了」をクリックします

Hive フィールドを CSV カラムにマッピング

「Select」コンポーネントの各カラムを、「CSV」コンポーネントの対応するカラムにマッピングします。

スクリプトの完成

「Start」コンポーネントを「Select」コンポーネントに、「CSV」コンポーネントを「End」コンポーネントにドラッグして接続します。スクリプトをビルドして実行すると、Hive のデータ が CSV ファイルに出力されます。

CData JDBC Driver for Apache Hiveの30日間の無償トライアルをダウンロードして、HULFT Integrate でリアルタイムの Hive のデータ を活用してみてください。ご不明な点があれば、サポートチームまでお気軽にお問い合わせください。

はじめる準備はできましたか?

Apache Hive Driver の無料トライアルをダウンロードしてお試しください:

 ダウンロード

詳細:

Apache Hive Icon Apache Hive JDBC Driver お問い合わせ

Apache Hive 互換ディストリビューション連携のパワフルなJava アプリケーションを素早く作成して配布。