Python でMicrosoft Exchange のデータを変換・出力するETL 処理を作る方法
Pythonエコシステムには多くのモジュールがあり、システム構築を素早く効率的に行うことができます。本記事では、CData Python Connector for Exchange とpetl フレームワークを使って、Microsoft Exchange のデータにPython から接続してデータを変換、CSV に出力するETL 変換を実装してみます。
CData Python Connector は効率的なデータ処理によりMicrosoft Exchange のデータ にPython から接続し、高いパフォーマンスを発揮します。Microsoft Exchange にデータをクエリする際、ドライバーはフィルタリング、集計などがサポートされている場合SQL 処理を直接Microsoft Exchange 側に行わせ、サポートされていないSQL 処理については、組み込みのSQL エンジンによりクライアント側で処理を行います(JOIN やSQL 関数など)。
必要なモジュールのインストール
pip で必要なモジュールおよびフレームワークをインストールします:
pip install petl pip install pandas
Python でMicrosoft Exchange のデータをETL 処理するアプリを構築
モジュールとフレームワークをインストールしたら、ETL アプリケーションを組んでいきます。コードのスニペットは以下の通りです。フルコードは記事の末尾に付いています。
CData Connector を含むモジュールをインポートします。
import petl as etl import pandas as pd import cdata.exchange as mod
接続文字列で接続を確立します。connect 関数を使って、CData Microsoft Exchange Connector からMicrosoft Exchange への接続を行います
cnxn = mod.connect("User='myUser@mydomain.onmicrosoft.com';Password='myPassword';Server='https://outlook.office365.com/EWS/Exchange.asmx';Platform='Exchange_Online';")
Microsoft Exchange への接続
Exchange への接続には2つのスキーマがあります。
- Microsoft Graph
- Exchange Web Services(EWS)(非推奨)
Note:Microsoft は、Exchange Online ユーザーに対してMicrosoft Graph への切り替えを推奨しています。
Microsoft Graph とEWS を切り替えるには、Schema をMSGraph またはEWS(非推奨)に設定します。
Microsoft Exchange OnPremises への認証
Microsoft Exchange OnPremises は、Basic(デフォルト)、Digest、Negotiate、NTLM 認証をサポートします。
Basic(デフォルト)
Microsoft Exchange OnPremises では、Basic がデフォルトの認証として設定されます。 Basic 認証を使用するには、以下のプロパティを設定します。- AuthScheme:Basic。
- User:ユーザーのログインID。
- Password:ユーザーのログインパスワード。
他の認証方法については、ヘルプドキュメントの「はじめに」を参照してください。
Microsoft Exchange Online への認証
Microsoft Exchange Online は、複数のOAuth ベースの認証をサポートしています。 Microsoft Graph を介してExchange Online に接続する場合は、Schema をMSGraph に設定します。認証方法の詳細は、ヘルプドキュメントの「はじめに」を参照してください。
Microsoft Exchange をクエリするSQL 文の作成
Microsoft Exchange にはSQL でデータアクセスが可能です。Contacts エンティティからのデータを読み出します。
sql = "SELECT GivenName, Size FROM Contacts WHERE BusinnessAddress_City = 'Raleigh'"
Microsoft Exchange データのETL 処理
DataFrame に格納されたクエリ結果を使って、petl でETL(抽出・変換・ロード)パイプラインを組みます。この例では、Microsoft Exchange のデータ を取得して、Size カラムでデータをソートして、CSV ファイルにデータをロードします。
table1 = etl.fromdb(cnxn,sql) table2 = etl.sort(table1,'Size') etl.tocsv(table2,'contacts_data.csv')
CData Python Connector for Exchange を使えば、データベースを扱う場合と同感覚で、Microsoft Exchange のデータ を扱うことができ、petl のようなETL パッケージから直接データにアクセスが可能になります。
おわりに
Microsoft Exchange Python Connector の30日の無償トライアル をぜひダウンロードして、Microsoft Exchange のデータ への接続をPython アプリやスクリプトから簡単に作成しましょう。
フルソースコード
import petl as etl
import pandas as pd
import cdata.exchange as mod
cnxn = mod.connect("User='myUser@mydomain.onmicrosoft.com';Password='myPassword';Server='https://outlook.office365.com/EWS/Exchange.asmx';Platform='Exchange_Online';")
sql = "SELECT GivenName, Size FROM Contacts WHERE BusinnessAddress_City = 'Raleigh'"
table1 = etl.fromdb(cnxn,sql)
table2 = etl.sort(table1,'Size')
etl.tocsv(table2,'contacts_data.csv')