R から JDBC 経由でGoogle Data Catalogののデータを分析
R と Java がインストールされている環境であれば、純粋な R スクリプトと標準的な SQL を使用してGoogle Data Catalog のデータにアクセスできます。CData JDBC Driver for Google Data Catalog と RJDBC パッケージを使えば、R からリモートのGoogle Data Catalog のデータを操作できます。CData Driver を使用することで、業界で実績のある標準規格に準拠したドライバーを活用し、人気のオープンソース言語 R でデータにアクセスできます。この記事では、ドライバーを使ってGoogle Data Catalogに SQL クエリを実行し、標準的な R 関数を呼び出してGoogle Data Catalog のデータを可視化する方法を説明します。
R のインストール
マルチスレッドとマネージドコードによるドライバーのパフォーマンス向上を最大限に活かすには、マルチスレッド対応の Microsoft R Open を使用するか、BLAS/LAPACK ライブラリとリンクされたオープンソース R を使用します。この記事では Microsoft R Open 3.2.3 を使用しています。このバージョンは、2016年1月1日時点の CRAN リポジトリのスナップショットからパッケージをインストールするように事前設定されており、再現性が確保されています。
RJDBC パッケージの読み込み
ドライバーを使用するには、RJDBC パッケージをダウンロードしてください。 RJDBC パッケージをインストールしたら、以下のコードでパッケージを読み込みます。
library(RJDBC)
Google Data Catalogに JDBC データソースとして接続
Google Data Catalogに JDBC データソースとして接続するには、以下の情報が必要です。
- Driver Class: cdata.jdbc.googledatacatalog.GoogleDataCatalogDriver に設定します。
- Classpath: ドライバー JAR ファイルの場所を設定します。デフォルトでは、インストールフォルダの lib サブフォルダです。
dbConnect や dbSendQuery などの DBI 関数は、R でデータアクセスコードを記述するための統一されたインターフェースを提供します。以下のコードで、CData JDBC Driver for Google Data Catalog に JDBC リクエストを行う DBI ドライバーを初期化します。
driver <- JDBC(driverClass = "cdata.jdbc.googledatacatalog.GoogleDataCatalogDriver", classPath = "MyInstallationDir\lib\cdata.jdbc.googledatacatalog.jar", identifier.quote = "'")
これで DBI 関数を使用してGoogle Data Catalogに接続し、SQL クエリを実行できます。dbConnect 関数で JDBC 接続を初期化します。
Google Data Catalog 接続プロパティの取得・設定方法
認証プロパティを追加する前に、次の接続プロパティを設定してください。
- OrganizationId:接続するGoogle Cloud Platform の組織リソースに関連付けられたID。これはGCP コンソールに移動して確認してください。 「プロジェクト」ドロップダウンメニューを開き、リストから組織へのリンクをクリックします。このページから組織ID を取得できます。
- ProjectId:接続するGCP のプロジェクトリソースに関連付けられたID。GCP コンソールのダッシュボードに移動し、「プロジェクトを選択」のメニューからお好みのプロジェクトを選択して確認してください。プロジェクトID は、「プロジェクト情報」項目に表示されます。
Google Data Catalog への認証
CData 製品は、認証にユーザーアカウント、サービスアカウント、およびGCP インスタンスアカウントの使用をサポートします。
OAuth の設定方法については、ヘルプドキュメントの「OAuth」セクションを参照してください。
組み込みの接続文字列デザイナー
JDBC URL の構築には、Google Data Catalog JDBC Driver に組み込まれている接続文字列デザイナーが便利です。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。
java -jar cdata.jdbc.googledatacatalog.jar
接続プロパティを入力し、接続文字列をクリップボードにコピーします。
以下は、一般的な JDBC 接続文字列を含む dbConnect 呼び出しの例です。
conn <- dbConnect(driver,"jdbc:googledatacatalog:ProjectId=YourProjectId;")
スキーマの検出
このドライバーは、Google Data Catalog API をリレーショナルテーブル、ビュー、ストアドプロシージャとしてモデル化します。以下のコードでテーブルの一覧を取得できます。
dbListTables(conn)
SQL クエリの実行
dbGetQuery 関数を使用して、Google Data Catalog API でサポートされている任意の SQL クエリを実行できます。
schemas <- dbGetQuery(conn,"SELECT Type, DatasetName FROM Schemas WHERE ProjectId = 'bigquery-public-data'")
以下のコマンドで、結果をデータビューアウィンドウに表示できます。
View(schemas)
Google Data Catalog のデータのプロット
これで、CRAN リポジトリで利用可能なデータ可視化パッケージを使ってGoogle Data Catalog のデータを分析できます。組み込みのバープロット関数でシンプルな棒グラフを作成できます。
par(las=2,ps=10,mar=c(5,15,4,2)) barplot(schemas$DatasetName, main="Google Data Catalog Schemas", names.arg = schemas$Type, horiz=TRUE)