Apache Spark でSharePoint Excel Services のデータをSQL で操作する方法

Apache Spark は大規模データ処理のための高速エンジンです。CData JDBC Driver for ExcelServices と組み合わせると、Spark はリアルタイムでSharePoint Excel Services のデータに連携して処理ができます。本記事では、Spark シェルに接続してSharePoint Excel Services をクエリする方法について解説します。

CData JDBC Driver は、最適化されたデータ処理がドライバーに組み込まれているため、リアルタイムSharePoint Excel Services と対話するための高いパフォーマンスを提供します。SharePoint Excel Services に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計など、サポートされているSQL操作を直接SharePoint Excel Services にプッシュし、組込みSQL エンジンを使用してサポートされていない操作（SQL 関数やJOIN 操作）をクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータ型を使用してSharePoint Excel Services を操作して分析できます。

CData JDBC Driver for ExcelServices をインストール

まずは、本記事右側のサイドバーからExcelServices JDBC Driver の無償トライアルをダウンロード・インストールしてください。30日間無償で、製品版の全機能が使用できます。

Spark Shell を起動してSharePoint Excel Services のデータに接続

1. ターミナルを開き、Spark shell でCData JDBC Driver for ExcelServices JAR file をjars パラメータに設定します:

   $ spark-shell --jars /CData/CData JDBC Driver for ExcelServices/lib/cdata.jdbc.excelservices.jar
   

2. Shell でJDBC URL を使ってSharePoint Excel Services に接続し、SQL Context load() function でテーブルを読み込みます。

   ワークブックへの接続

   どちらのSharePoint エディションをお使いでも、File を Excel ワークブックに設定してください。このパスは以下のプロパティからの相対パスになります。

   • Library：デフォルトではShared Documents ライブラリが使用されます。このプロパティを使って、組織内の別のドキュメントライブラリを指定してみてください。例えば、OneDrive for Business に接続する場合は、このプロパティを"Documents" に設定します。
   • Folder：このプロパティを使って、ライブラリ内のサブフォルダへのパスを指定できます。パスはLibrary で指定されたライブラリ名に関連します。

   テーブルとしてのスプレッドシートデータへの接続

   CData 製品では、基底API で利用可能なオブジェクトに基づいて、使用可能なテーブルを検出していきます。

   API では異なるAPI オブジェクトを表示します。スプレッドシートの構成とSharePoint のバージョンに基づいてAPI を選択しましょう。

   • OData： OData API を使用すると、Excel で［挿入］->［テーブル］をクリックして作成されたExcel テーブルオブジェクト（範囲やスプレッドシートではありません）から定義されたテーブルにアクセスできます。OData API に接続する際、ワークブックにテーブルオブジェクトが定義されていない場合は、CData 製品がテーブルを返さないことがあります。テーブルとしてスプレッドシートまたは範囲に接続するには、UseRESTAPI をtrue に設定してください。
   • REST： REST API を使用すると、Excel テーブルオブジェクト、範囲、およびスプレッドシートから定義されたテーブルへアクセスできます。これがデフォルトの API です。範囲およびスプレッドシートから多数の行をリクエストすることは REST API によって制限されており、CData 製品では返される行数をデフォルトで 100 に制限しています。また CData 製品では、デフォルトで1行目からカラム名を検出します。これを無効にするには、Header を設定してください。

   DefineTables を追加設定すると、Excel の範囲の構文を使用して、範囲に基づいてテーブルを定義できます。大きすぎる範囲は、API によって制限されます。

   SharePoint オンプレミスへの接続

   URL をサーバー名もしくはIP アドレスに設定しましょう。さらに、SharePointVersion と認証値を設定します。

   SharePoint OnPremises を認証するには、AuthScheme を認証タイプに設定し、必要に応じてUser と Password を設定してください。

   Note：SharePoint On-Premises 2010 に接続する場合は、 UseRESTAPI をtrue に設定する必要があります。

   Windows（NTLM）

   最も一般的な認証タイプです。CData 製品では NTLM をデフォルトとして使用するよう事前設定されています。Windows のUser と Password を設定して接続してください。

   その他の認証方法については、ヘルプドキュメントの「はじめに」をご覧ください。

   組み込みの接続文字列デザイナー

   JDBC 接続文字列URL の作成には、SharePoint Excel Services JDBC Driver にビルトインされたデザイナを使用できます。JAR ファイルをダブルクリックするか、コマンドラインでJAR ファイルを実行するとデザイナが開きます。

   java -jar cdata.jdbc.excelservices.jar
   

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   scala> val excelservices_df = spark.sqlContext.read.format("jdbc").option("url", "jdbc:excelservices:URL=https://myorg.sharepoint.com;User=admin@myorg.onmicrosoft.com;Password=password;File=Book1.xlsx;").option("dbtable","Account").option("driver","cdata.jdbc.excelservices.ExcelServicesDriver").load()
   

3. 接続が完了し、データがロードされたら、テーブルスキーマが表示されます。

4. SharePoint Excel Services をテンポラリーテーブルとして登録します:

   scala> excelservices_df.registerTable("account")

5. データに対して、次のようなカスタムSQL クエリを実行します。

   scala> excelservices_df.sqlContext.sql("SELECT Name, AnnualRevenue FROM Account WHERE Industry = Floppy Disks").collect.foreach(println)

   コンソールで、次のようなSharePoint Excel Services のデータを取得できました！これでSharePoint Excel Services との連携は完了です。

   

CData JDBC Driver for ExcelServices をApache Spark で使って、SharePoint Excel Services に対して、複雑かつハイパフォーマンスなクエリを実行できます。30日の無償評価版 をダウンロードしてぜひお試しください。

Apache Spark の設定