CloverDX（旧CloverETL）で BigQuery のデータ に接続

CData JDBC Driver for BigQuery を使用すると、CloverDX（旧CloverETL）のデータ変換コンポーネントで BigQuery をソースおよびデスティネーションとして扱えます。この記事では、JDBC Driver for BigQuery を使用して、フラットファイルへのシンプルな転送を設定する方法を説明します。

はじめに

---

JDBC データソースとして BigQuery に接続

1. BigQuery のデータ への接続を作成します。新規のCloverDX グラフで、Outline ペインの「Connections」ノードを右クリックし、「Connections」->「Create Connection」をクリックします。Database Connection ウィザードが表示されます。
2. プラスアイコンをクリックし、JAR からドライバーをロードします。インストールディレクトリのlib サブフォルダを参照し、cdata.jdbc.googlebigquery.jar ファイルを選択します。
3. JDBC URL を入力します。

   BigQuery 接続プロパティの取得・設定方法

   Google BigQuery はOAuth 認証標準を使用します。個々のユーザーとしてGoogle API にアクセスするには、組み込みクレデンシャルを使うか、OAuth アプリを作成します。

   OAuth では、Google Apps ドメインのユーザーとしてサービスアカウントを使ってアクセスすることもできます。サービスカウントでの認証では、OAuth JWT を取得するためのアプリケーションを登録する必要があります。

   OAuth 値に加え、DatasetId、ProjectId を設定する必要があります。詳細はヘルプドキュメントの「はじめに」を参照してください。

   組み込みの接続文字列デザイナー

   JDBC URL の構築には、BigQuery JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから実行します。

   java -jar cdata.jdbc.googlebigquery.jar
   

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   

   一般的なJDBC URL は次のようになります：

   jdbc:googlebigquery:DataSetId=MyDataSetId;ProjectId=MyProjectId;

DBInputTable コンポーネントで BigQuery のデータ をクエリ

1. Palette の「Readers」から「DBInputTable」をジョブフローにドラッグし、ダブルクリックして設定エディターを開きます。
2. 「DB connection」プロパティで、ドロップダウンメニューから BigQuery JDBC データソースを選択します。
3. SQL クエリを入力します。例：

   SELECT OrderName, Freight FROM Orders

クエリの出力をUniversalDataWriter に書き込む

1. 「Writers」から「UniversalDataWriter」をジョブフローにドラッグします。
2. UniversalDataWriter をダブルクリックして設定エディターを開き、ファイルURL を追加します。
3. DBInputTable を右クリックし、「Extract Metadata」をクリックします。
4. DBInputTable の出力ポートをUniversalDataWriter に接続します。
5. UniversalDataWriter の「Select Metadata」メニューで、Orders テーブルを選択します。（このメニューはUniversalDataWriter の入力ポートを右クリックしても開けます。）
6. 「Run」をクリックして、ファイルに書き込みます。