Apache Spark でSAP Ariba Source のデータをSQL で操作する方法

杉本和也
リードエンジニア

CData JDBC ドライバーを使用して、Apache Spark でSAP Ariba Source にデータ連携。

Apache Spark は大規模データ処理のための高速エンジンです。CData JDBC Driver for SAPAribaSource と組み合わせると、Spark はリアルタイムでSAP Ariba Source のデータに連携して処理ができます。本記事では、Spark シェルに接続してSAP Ariba Source をクエリする方法について解説します。

CData JDBC Driver は、最適化されたデータ処理がドライバーに組み込まれているため、リアルタイムSAP Ariba Source と対話するための高いパフォーマンスを提供します。SAP Ariba Source に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計など、サポートされているSQL操作を直接SAP Ariba Source にプッシュし、組込みSQL エンジンを使用してサポートされていない操作（SQL 関数やJOIN 操作）をクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータ型を使用してSAP Ariba Source を操作して分析できます。

CData JDBC Driver for SAPAribaSource をインストール

まずは、本記事右側のサイドバーからSAPAribaSource JDBC Driver の無償トライアルをダウンロード・インストールしてください。30日間無償で、製品版の全機能が使用できます。

Spark Shell を起動してSAP Ariba Source のデータに接続

ターミナルを開き、Spark shell でCData JDBC Driver for SAPAribaSource JAR file をjars パラメータに設定します:
```
$ spark-shell --jars /CData/CData JDBC Driver for SAPAribaSource/lib/cdata.jdbc.saparibasource.jar
```
Shell でJDBC URL を使ってSAP Ariba Source に接続し、SQL Context load() function でテーブルを読み込みます。
それでは、SAP Ariba Source に接続していきましょう。接続するには、以下のプロパティを設定します。
- API：CData 製品にSAP Ariba データを取得させたいAPI を指定してください。ビジネスロールに基づき、Supplier、Sourcing Project Management、またはContract API を選択します（可能な値は、SupplierDataAPIWithPaginationV4、SourcingProjectManagementAPIV2、または ContractAPIV1 です）
- DataCenter：アカウントのデータがホストされているデータセンター
- Realm：アクセスしたいサイト名
- Environment：テスト環境、または本番環境のいずれかを指定してください。（可能な値は、TEST またはPRODUCTION）
Supplier Data API またはContract API に接続する場合は、さらに以下のプロパティも設定してください。
- User：API 呼び出しを行うユーザーのId
- PasswordAdapter：認証するUser に関連付けられたパスワード
Supplier API に接続している場合は、ProjectId をデータを取得したいソーシングプロジェクトのId に設定してください。

OAuth 認証

続いて、接続プロパティを設定した後、認証のためにOAuth 接続を設定する必要があります。
- AuthScheme をOAuthClient に設定します
- サービスにアプリケーションを登録し、APIKey、OAuthClientId、およびOAuthClientSecret を取得する必要があります
OAuth アプリケーションの作成について、詳しくはヘルプドキュメントをご確認ください。

OAuth の自動リフレッシュ

以下のプロパティを設定して、接続してみましょう。
- APIKey：アプリケーション設定のApplication key
- OAuthClientId：アプリケーション設定のOAuth Client Id
- OAuthClientSecret：アプリケーション設定のOAuth Secret
接続すると、CData 製品が自動でOAuth プロセスを完了します。
1. CData 製品がSAP Ariba からアクセストークンを取得し、それを使ってデータをリクエストします
2. CData 製品がアクセストークンの期限が切れると自動的にリフレッシュします
3. OAuth 値はOAuthSettingsLocation で指定された場所に基づいてメモリに保存されます
組み込みの接続文字列デザイナー

JDBC 接続文字列URL の作成には、SAP Ariba Source JDBC Driver にビルトインされたデザイナを使用できます。JAR ファイルをダブルクリックするか、コマンドラインでJAR ファイルを実行するとデザイナが開きます。
```
java -jar cdata.jdbc.saparibasource.jar
```
接続プロパティを入力し、接続文字列をクリップボードにコピーします。
```
scala> val saparibasource_df = spark.sqlContext.read.format("jdbc").option("url", "jdbc:saparibasource:API=SupplierDataAPIWithPagination-V4;APIKey=wWVLn7WTAXrIRMAzZ6VnuEj7Ekot5jnU;Environment=SANDBOX;Realm=testRealm;AuthScheme=OAuthClient;").option("dbtable","Vendors").option("driver","cdata.jdbc.saparibasource.SAPAribaSourceDriver").load()
```
接続が完了し、データがロードされたら、テーブルスキーマが表示されます。
SAP Ariba Source をテンポラリーテーブルとして登録します:
```
scala> saparibasource_df.registerTable("vendors")
```
データに対して、次のようなカスタムSQL クエリを実行します。
```
scala> saparibasource_df.sqlContext.sql("SELECT SMVendorID, Category FROM Vendors WHERE Region = USA").collect.foreach(println)
```
コンソールで、次のようなSAP Ariba Source のデータを取得できました！これでSAP Ariba Source との連携は完了です。