SnapLogic を使用して BigQuery を外部サービスと連携

SnapLogic は、ノーコードでデータ連携フローを作成できる iPaaS（Integration Platform as a Service）です。CData JDBC Driver と組み合わせることで、BigQuery を含む250を超える SaaS、ビッグデータ、NoSQL ソースのリアルタイムデータに SnapLogic ワークフローからアクセスできます。

CData JDBC Driver は、最適化されたデータ処理機能を内蔵しており、リアルタイム BigQuery のデータ とのやり取りにおいて比類ないパフォーマンスを発揮します。外部ツールから複雑な SQL クエリが発行されると、ドライバーはフィルタや集計などのサポートされている SQL 操作を BigQuery に直接プッシュし、サポートされていない操作（多くの場合、SQL 関数や JOIN 操作）は内蔵の SQL エンジンを使用してクライアント側で処理します。動的なメタデータクエリ機能により、ネイティブデータ型を使用して BigQuery のデータ を操作できます。

はじめに

---

SnapLogic から BigQuery に接続

SnapLogic から BigQuery のデータ に接続するには、CData BigQuery JDBC Driver をダウンロードしてインストールします。インストールウィザードに従って進めてください。インストールが完了すると、JAR ファイルはインストールディレクトリ（デフォルトでは C:/Program Files/CData/CData JDBC Driver for Google BigQuery/lib）に配置されます。

BigQuery JDBC Driver のアップロード

インストール後、Manager タブから SnapLogic 内の場所（例：projects/Jerod Johnson）に JDBC JAR ファイルをアップロードします。

接続の設定

JDBC Driver をアップロードしたら、BigQuery への接続を作成します。

1. Designer タブに移動します
2. Snaps から「JDBC」を展開し、「Generic JDBC - Select」snap をデザイナーにドラッグします
3. Add Account をクリック（または既存のアカウントを選択）し、「Continue」をクリックします
4. 次のフォームで、JDBC 接続プロパティを設定します：
   • JDBC JARs に、先ほどアップロードした JAR ファイルを追加します
   • JDBC Driver Class を cdata.jdbc.googlebigquery.GoogleBigQueryDriver に設定します

   • JDBC URL を BigQuery JDBC Driver の JDBC 接続文字列に設定します。例：

     jdbc:googlebigquery:DataSetId=MyDataSetId;ProjectId=MyProjectId;RTK=XXXXXX;

     注意：RTK はトライアルキーまたは製品キーです。詳細についてはサポートチームまでお問い合わせください。

     組み込みの接続文字列デザイナー

     JDBC URL の構築には、BigQuery JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。

     java -jar cdata.jdbc.googlebigquery.jar

     接続プロパティを入力し、接続文字列をクリップボードにコピーします。

     BigQuery 接続プロパティの取得・設定方法

     Google BigQuery はOAuth 認証標準を使用します。個々のユーザーとしてGoogle API にアクセスするには、組み込みクレデンシャルを使うか、OAuth アプリを作成します。

     OAuth では、Google Apps ドメインのユーザーとしてサービスアカウントを使ってアクセスすることもできます。サービスカウントでの認証では、OAuth JWT を取得するためのアプリケーションを登録する必要があります。

     OAuth 値に加え、DatasetId、ProjectId を設定する必要があります。詳細はヘルプドキュメントの「はじめに」を参照してください。

     
5. 接続プロパティを入力したら、「Validate」をクリックし、「Apply」をクリックします

BigQuery のデータ の読み取り

接続の検証と適用後に開くフォームで、クエリを設定します。

• Schema name を「GoogleBigQuery」に設定します
• Table name を BigQuery のテーブルに設定します。スキーマ名を使用して、例：「GoogleBigQuery」.「Orders」（ドロップダウンで利用可能なテーブルの一覧を確認できます）
• テーブルから使用する各項目の Output fields を追加します

Generic JDBC - Select snap を保存します。

接続とクエリを設定したら、snap の末尾をクリックしてデータをプレビューします（下図でハイライト表示）。

結果が期待通りであることを確認したら、追加の snap を使用して BigQuery のデータ を別のエンドポイントに送信できます。

BigQuery のデータ を外部サービスにパイプ

この記事では、データを Google スプレッドシートに読み込みます。サポートされている任意の snap を使用するか、別の CData JDBC Driver と Generic JDBC snap を使用して、外部サービスにデータを移動できます。

1. 「Worksheet Writer」snap を「Generic JDBC - Select」snap の末尾にドロップします。
2. Google Sheets に接続するためのアカウントを追加します
3. Worksheet Writer snap を設定して、BigQuery のデータ を Google スプレッドシートに書き込みます

これで、完全に設定されたパイプラインを実行して、BigQuery からデータを抽出し、Google スプレッドシートにプッシュできます。

外部データを BigQuery にパイプ

上記の通り、SnapLogic で BigQuery 用の JDBC Driver を使用して BigQuery にデータを書き込むこともできます。まず、Generic JDBC - Insert または Generic JDBC - Update snap をダッシュボードに追加します。

1. 既存の「Account」（接続）を選択するか、新しいものを作成します
2. クエリを設定します：
   • Schema name を「GoogleBigQuery」に設定します
   • Table name を BigQuery のテーブルに設定します。スキーマ名を使用して、例：「GoogleBigQuery」.「Orders」（ドロップダウンで利用可能なテーブルの一覧を確認できます）
   
3. Generic JDBC - Insert/Update snap を保存します

これで、BigQuery にデータを書き込み、新しいレコードを挿入したり既存のレコードを更新したりする snap が設定されました。

詳細情報と無料トライアル

CData JDBC Driver for Google BigQuery を使用することで、SnapLogic で BigQuery のデータ を外部サービスと連携するパイプラインを作成できます。BigQuery への接続の詳細については、CData JDBC Driver for Google BigQuery ページをご覧ください。CData JDBC Driver for Google BigQuery の30日間無料トライアルをダウンロードして、今すぐお試しください。