Google Data Fusion で Presto に連携した ETL プロセスを作成

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
CData JDBC Driver を Google Data Fusion にロードし、Presto のデータ にリアルタイムでアクセスできる ETL プロセスを作成します。

Google Data Fusion を使用すると、セルフサービス型のデータ連携を行い、異なるデータソースを統合できます。CData JDBC Driver for Presto をアップロードすることで、Google Data Fusion のパイプライン内から Presto のデータ にリアルタイムでアクセスできるようになります。CData JDBC Driver を使用すると、Presto のデータ を Google Data Fusion でネイティブにサポートされている任意のデータソースにパイプできますが、この記事では、Presto から Google BigQuery へデータをパイプする方法を説明します。

Presto データ連携について

CData を使用すれば、Trino および Presto SQL エンジンのライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています:

  • Trino v345 以降(旧 PrestoSQL)および Presto v0.242 以降(旧 PrestoDB)のデータにアクセスできます。
  • Trino または Presto インスタンスの基盤となるすべてのデータに対して読み取り・書き込みアクセスができます。
  • 最大スループットのための最適化されたクエリ生成。

Presto と Trino により、ユーザーは単一のエンドポイントを通じてさまざまな基盤データソースにアクセスできます。CData の接続と組み合わせることで、ユーザーはインスタンスへの純粋な SQL-92 アクセスを取得し、ビジネスデータをデータウェアハウスに統合したり、Power BI や Tableau などのお気に入りのツールからライブデータに直接簡単にアクセスしたりできます。

多くの場合、CData のライブ接続は、ツールで利用可能なネイティブのインポート機能を上回ります。あるお客様は、レポートに必要なデータセットのサイズが大きいため、Power BI を効果的に使用できませんでした。同社が CData Power BI Connector for Presto を導入したところ、DirectQuery 接続モードを使用してリアルタイムでレポートを生成できるようになりました。


はじめに


CData JDBC Driver for Presto を Google Data Fusion にアップロード

CData JDBC Driver for Presto を Google Data Fusion インスタンスにアップロードして、Presto のデータ にリアルタイムでアクセスしましょう。Google Data Fusion では JDBC ドライバーの命名規則に制限があるため、JAR ファイルを driver-version.jar という形式に合わせてコピーまたはリネームしてください。例:cdatapresto-2020.jar

  1. Google Data Fusion インスタンスを開きます
  2. をクリックしてエンティティを追加し、ドライバーをアップロードします
  3. "Upload driver" タブで、リネームした JAR ファイルをドラッグまたは参照します。
  4. "Driver configuration" タブで以下を設定します:
    • Name: ドライバーの名前(cdata.jdbc.presto)を作成し、メモしておきます
    • Class name: JDBC クラス名を設定します:(cdata.jdbc.presto.PrestoDriver)
  5. "Finish" をクリックします

Google Data Fusion で Presto のデータ に接続

JDBC Driver をアップロードしたら、Google Data Fusion のパイプラインで Presto のデータ にリアルタイムでアクセスできます。

  1. Pipeline Studio に移動して、新しいパイプラインを作成します
  2. "Source" オプションから "Database" をクリックして、JDBC Driver 用のソースを追加します
  3. Database ソースの "Properties" をクリックしてプロパティを編集します

    NOTE:Google Data Fusion で JDBC Driver を使用するには、ライセンス(製品版またはトライアル)とランタイムキー(RTK)が必要です。ライセンス(またはトライアル)の取得については、CData までお問い合わせください。

    • Label を設定します
    • Reference Name を将来の参照用の値に設定します(例:cdata-presto)
    • Plugin Type を "jdbc" に設定します
    • Connection String を Presto の JDBC URL に設定します。例:

      jdbc:presto:RTK=5246...;Server=127.0.0.1;Port=8080;

      Presto への接続には、まずはServer およびPort を接続プロパティとして設定します。それ以外の追加項目は接続方式によって異なります。

      TLS/SSL を有効化するには、UseSSL をTRUE に設定します。

      LDAP で認証

      LDAP で認証するには、次の接続プロパティを設定します:

      • AuthScheme: LDAP に設定。
      • User: LDAP で接続するユーザー名。
      • Password: LDAP で接続するユーザーのパスワード。

      Kerberos 認証

      KERBEROS 認証を使う場合には、以下を設定します:

      • AuthScheme: KERBEROS に設定。
      • KerberosKDC: 接続するユーザーのKerberos Key Distribution Center (KDC) サービス。
      • KerberosRealm: 接続するユーザーのKerberos Realm 。
      • KerberosSPN: Kerberos Domain Controller のService Principal Name。
      • KerberosKeytabFile: Kerberos principals とencrypted keys を含むKeytab file。
      • User: Kerberos のユーザー。
      • Password: Kerberos で認証するユーザーのパスワード。

      ビルトイン接続文字列デザイナー

      JDBC URL の作成には、Presto JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。

            java -jar cdata.jdbc.presto.jar
            

      接続プロパティを入力し、接続文字列をクリップボードにコピーします。

    • Import Query を Presto から取得したいデータを抽出する SQL クエリに設定します。例:
      SELECT * FROM Customer
  4. "Sink" タブから、同期先シンクを追加します(この例では Google BigQuery を使用します)
  5. BigQuery シンクの "Properties" をクリックしてプロパティを編集します
    • Label を設定します
    • Reference Name を presto-bigquery のような値に設定します
    • Project ID を特定の Google BigQuery プロジェクト ID に設定します(またはデフォルトの "auto-detect" のままにします)
    • Dataset を特定の Google BigQuery データセットに設定します
    • Table を Presto のデータ を挿入するテーブル名に設定します

Source と Sink を設定すると、Presto のデータ を Google BigQuery にパイプする準備が整います。パイプラインを保存してデプロイしてください。パイプラインを実行すると、Google Data Fusion が Presto からリアルタイムデータをリクエストし、Google BigQuery にインポートします。

これはシンプルなパイプラインの例ですが、変換、分析、条件などを使用してより複雑な Presto パイプラインを作成できます。CData JDBC Driver for Presto の 30日間の無償トライアルをダウンロードして、今すぐ Google Data Fusion で Presto のデータ をリアルタイムで活用しましょう。

はじめる準備はできましたか?

Presto Driver の無料トライアルをダウンロードしてお試しください:

 ダウンロード

詳細:

Presto Icon Presto JDBC Driver お問い合わせ

Presto に連携するJava アプリケーションを素早く、簡単に開発できる便利なドライバー。