Google Data Fusion で IBM Cloud Object Storage に連携した ETL プロセスを作成

Google Data Fusion を使用すると、セルフサービス型のデータ連携を行い、異なるデータソースを統合できます。CData JDBC Driver for IBM Cloud Object Storage をアップロードすることで、Google Data Fusion のパイプライン内から IBM Cloud Object Storage のデータ にリアルタイムでアクセスできるようになります。CData JDBC Driver を使用すると、IBM Cloud Object Storage のデータ を Google Data Fusion でネイティブにサポートされている任意のデータソースにパイプできますが、この記事では、IBM Cloud Object Storage から Google BigQuery へデータをパイプする方法を説明します。

CData JDBC Driver for IBM Cloud Object Storage を Google Data Fusion にアップロード

CData JDBC Driver for IBM Cloud Object Storage を Google Data Fusion インスタンスにアップロードして、IBM Cloud Object Storage のデータ にリアルタイムでアクセスしましょう。Google Data Fusion では JDBC ドライバーの命名規則に制限があるため、JAR ファイルを driver-version.jar という形式に合わせてコピーまたはリネームしてください。例：cdataibmcloudobjectstorage-2020.jar

1. Google Data Fusion インスタンスを開きます
2. をクリックしてエンティティを追加し、ドライバーをアップロードします
3. "Upload driver" タブで、リネームした JAR ファイルをドラッグまたは参照します。
4. "Driver configuration" タブで以下を設定します：
   • Name: ドライバーの名前（cdata.jdbc.ibmcloudobjectstorage）を作成し、メモしておきます
   • Class name: JDBC クラス名を設定します：（cdata.jdbc.ibmcloudobjectstorage.IBMCloudObjectStorageDriver）
   
5. "Finish" をクリックします

Google Data Fusion で IBM Cloud Object Storage のデータ に接続

JDBC Driver をアップロードしたら、Google Data Fusion のパイプラインで IBM Cloud Object Storage のデータ にリアルタイムでアクセスできます。

1. Pipeline Studio に移動して、新しいパイプラインを作成します
2. "Source" オプションから "Database" をクリックして、JDBC Driver 用のソースを追加します
3. Database ソースの "Properties" をクリックしてプロパティを編集します

   NOTE：Google Data Fusion で JDBC Driver を使用するには、ライセンス（製品版またはトライアル）とランタイムキー（RTK）が必要です。ライセンス（またはトライアル）の取得については、CData までお問い合わせください。

   • Label を設定します
   • Reference Name を将来の参照用の値に設定します（例：cdata-ibmcloudobjectstorage）
   • Plugin Type を "jdbc" に設定します
   • Connection String を IBM Cloud Object Storage の JDBC URL に設定します。例：
     
     jdbc:ibmcloudobjectstorage:RTK=5246...;ApiKey=myApiKey;CloudObjectStorageCRN=MyInstanceCRN;Region=myRegion;OAuthClientId=MyOAuthClientId;OAuthClientSecret=myOAuthClientSecret;

     Cloud Object Storage 接続プロパティの取得・設定方法

     Cloud Object Storage に接続する前に、Cloud Object Storage インスタンスを登録してCloud Object Storage API キーとCRN を取得していきます。

     Cloud Object Storage の新規インスタンスの登録

     IBM Cloud アカウントにCloud Object Storage がまだない場合は、以下の手順に従ってアカウントにSQL Query のインスタンスをインストールできます。

     1. IBM Cloud アカウントにログインします。
     2. Cloud Object Storage ページに移動して、インスタンス名を指定して「作成」をクリックします。Cloud Object Storage の新規インスタンスにリダイレクトされます。

     API キー

     API キーは以下の手順で取得できます。

     1. まずは、IBM Cloud アカウントにログインします。
     2. API キーページに移動します。
     3. 中央右隅のIBM Cloud APIキーの作成 をクリックして、新しいAPI キーを作成します。
     4. ポップアップウィンドウが表示されたら、API キーの名前を指定して作成をクリックします。ダッシュボードからはアクセスできなくなるため、API Key を控えておきましょう。

     Cloud Object Storage CRN

     デフォルトでは、CData 製品はCloud Object Storage CRN を自動で取得します。ただし、複数のアカウントがある場合は、CloudObjectStorageCRN を明示的に指定する必要があります。この値は、次の2つの方法で取得できます。

     • Services ビューをクエリする。これにより、IBM Cloud Object Storage インスタンスとそれぞれのCRN がリストされます。
     • IBM Cloud で直接CRN を見つける。これを行うには、IBM Cloud のダッシュボードに移動します。リソースリストで、ストレージからCloud Object Storage リソースを選択してCRN を取得します。

     IBM Cloud Object Storage への接続

     これで準備は完了です。以下の接続プロパティを設定してください。

     • InitiateOAuth：GETANDREFRESH に設定。InitiateOAuth を使うと、OAuth 認証を繰り返す必要がなく、さらに自動でアクセストークンを設定できます。
     • ApiKey：セットアップ中に控えたAPI キーを指定。
     • CloudObjectStorageCRN（オプション）：控えておいたCloud Object Storage のCRN に設定。Cloud Object Storage アカウントが複数ある場合のみ設定する必要があります。

     プロパティを設定したら、これで接続設定は完了です。

     ビルトイン接続文字列デザイナー

     JDBC URL の作成には、IBM Cloud Object Storage JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。

           java -jar cdata.jdbc.ibmcloudobjectstorage.jar
           

     接続プロパティを入力し、接続文字列をクリップボードにコピーします。

     
   • Import Query を IBM Cloud Object Storage から取得したいデータを抽出する SQL クエリに設定します。例：
     SELECT * FROM Objects
   
4. "Sink" タブから、同期先シンクを追加します（この例では Google BigQuery を使用します）
5. BigQuery シンクの "Properties" をクリックしてプロパティを編集します
   • Label を設定します
   • Reference Name を ibmcloudobjectstorage-bigquery のような値に設定します
   • Project ID を特定の Google BigQuery プロジェクト ID に設定します（またはデフォルトの "auto-detect" のままにします）
   • Dataset を特定の Google BigQuery データセットに設定します
   • Table を IBM Cloud Object Storage のデータ を挿入するテーブル名に設定します
   

Source と Sink を設定すると、IBM Cloud Object Storage のデータ を Google BigQuery にパイプする準備が整います。パイプラインを保存してデプロイしてください。パイプラインを実行すると、Google Data Fusion が IBM Cloud Object Storage からリアルタイムデータをリクエストし、Google BigQuery にインポートします。

これはシンプルなパイプラインの例ですが、変換、分析、条件などを使用してより複雑な IBM Cloud Object Storage パイプラインを作成できます。CData JDBC Driver for IBM Cloud Object Storage の 30日間の無償トライアルをダウンロードして、今すぐ Google Data Fusion で IBM Cloud Object Storage のデータ をリアルタイムで活用しましょう。