Apache Spark でSalesforce Data Cloud のデータをSQL で操作する方法

杉本和也
リードエンジニア

CData JDBC ドライバーを使用して、Apache Spark でSalesforce Data Cloud にデータ連携。

Apache Spark は大規模データ処理のための高速エンジンです。CData JDBC Driver for SalesforceDataCloud と組み合わせると、Spark はリアルタイムでSalesforce Data Cloud のデータに連携して処理ができます。本記事では、Spark シェルに接続してSalesforce Data Cloud をクエリする方法について解説します。

CData JDBC Driver は、最適化されたデータ処理がドライバーに組み込まれているため、リアルタイムSalesforce Data Cloud と対話するための高いパフォーマンスを提供します。Salesforce Data Cloud に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計など、サポートされているSQL操作を直接Salesforce Data Cloud にプッシュし、組込みSQL エンジンを使用してサポートされていない操作（SQL 関数やJOIN 操作）をクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータ型を使用してSalesforce Data Cloud を操作して分析できます。

CData JDBC Driver for SalesforceDataCloud をインストール

まずは、本記事右側のサイドバーからSalesforceDataCloud JDBC Driver の無償トライアルをダウンロード・インストールしてください。30日間無償で、製品版の全機能が使用できます。

Spark Shell を起動してSalesforce Data Cloud のデータに接続

ターミナルを開き、Spark shell でCData JDBC Driver for SalesforceDataCloud JAR file をjars パラメータに設定します:
```
$ spark-shell --jars /CData/CData JDBC Driver for SalesforceDataCloud/lib/cdata.jdbc.salesforcedatacloud.jar
```
Shell でJDBC URL を使ってSalesforce Data Cloud に接続し、SQL Context load() function でテーブルを読み込みます。
それでは、Salesforce Data Cloud への認証方法を設定していきましょう。Salesforce Data Cloud では、OAuth 標準による認証をサポートしています。

OAuth 認証

AuthScheme をOAuth に設定してください。

デスクトップアプリケーション

CData 製品では、デスクトップでの認証を簡略化する埋め込みOAuth アプリケーションを提供しています。

また、Salesforce Data Cloud コンソールで設定および登録するカスタムOAuth アプリケーションを介してデスクトップから認証することも可能です。詳しくは、ヘルプドキュメントのカスタムOAuth アプリの作成をご確認ください。

接続する前に、以下のプロパティを設定してください。
- InitiateOAuth：GETANDREFRESH。InitiateOAuth を使用すれば、繰り返しOAuth の交換を行ったり、手動でOAuthAccessToken を設定する必要がなくなります
- OAuthClientId（カスタムアプリケーションのみ）：カスタムOAuth アプリケーションの登録時に割り当てられたクライアントID
- OAuthClientSecret（カスタムアプリケーションのみ）：カスタムOAuth アプリケーションの登録時に割り当てられたクライアントシークレット
接続すると、CData 製品がデフォルトブラウザでSalesforce Data Cloud のOAuth エンドポイントを開きます。ログインして、アプリケーションにアクセス許可を与えてください。

以下のようにドライバーがOAuth プロセスを完了します。
- コールバックURL からアクセストークンを取得します
- 古いトークンの期限が切れた際は、新しいアクセストークンを取得します
- OAuthSettingsLocation にOAuth 値を保存し、接続間で永続化します
Web アプリケーションやヘッドレスマシンを含むその他のOAuth 認証方法については、ヘルプドキュメントをご確認ください。

組み込みの接続文字列デザイナー

JDBC 接続文字列URL の作成には、Salesforce Data Cloud JDBC Driver にビルトインされたデザイナを使用できます。JAR ファイルをダブルクリックするか、コマンドラインでJAR ファイルを実行するとデザイナが開きます。
```
java -jar cdata.jdbc.salesforcedatacloud.jar
```
接続プロパティを入力し、接続文字列をクリップボードにコピーします。
```
scala> val salesforcedatacloud_df = spark.sqlContext.read.format("jdbc").option("url", "jdbc:salesforcedatacloud:").option("dbtable","Account").option("driver","cdata.jdbc.salesforcedatacloud.SalesforceDataCloudDriver").load()
```
接続が完了し、データがロードされたら、テーブルスキーマが表示されます。
Salesforce Data Cloud をテンポラリーテーブルとして登録します:
```
scala> salesforcedatacloud_df.registerTable("account")
```
データに対して、次のようなカスタムSQL クエリを実行します。
```
scala> salesforcedatacloud_df.sqlContext.sql("SELECT [Account ID], [Account Name] FROM Account WHERE EmployeeCount = 250").collect.foreach(println)
```
コンソールで、次のようなSalesforce Data Cloud のデータを取得できました！これでSalesforce Data Cloud との連携は完了です。