Python で pandas を使って CSV データを可視化する方法
Python の豊富なエコシステムを活用することで、作業を迅速に開始し、システム間の連携をより効果的に行うことができます。CData Python Connector for CSV、pandas および Matplotlib モジュール、SQLAlchemy ツールキットを組み合わせることで、CSV に接続した Python アプリケーションやスクリプトを構築し、CSV のデータを可視化できます。この記事では、pandas、SQLAlchemy、Matplotlib の組み込み関数を使用して CSV のデータに接続し、クエリを実行して結果を可視化する方法を説明します。
CData Python Connector は、組み込みの最適化されたデータ処理機能により、Python での CSV のデータへのリアルタイムアクセスにおいて比類のないパフォーマンスを提供します。CSV に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を CSV に直接プッシュし、サポートされていない操作(多くの場合、SQL 関数や JOIN 操作)は組み込みの SQL エンジンを使用してクライアント側で処理します。
CSV のデータへの接続
CSV のデータへの接続は、他のリレーショナルデータソースへの接続と同様です。必要な接続プロパティを使用して接続文字列を作成します。この記事では、接続文字列を create_engine 関数のパラメータとして渡します。
CSV 接続プロパティの取得・設定方法
DataSource プロパティにローカルフォルダ名を設定します。
.csv、.tab、.txt ではない拡張子のファイルを扱う場合には、IncludeFiles 使用する拡張子をカンマ区切りで設定します。Microsoft Jet OLE DB 4.0 driver 準拠の場合にはExtended Properties を設定することができます。別の方法として、Schema.ini ファイルにファイル形式を記述することも可能です。
CSV ファイルの削除や更新を行う場合には、UseRowNumbers をTRUE に設定します。RowNumber はテーブルKey として扱われます。
Amazon S3 内のCSV への接続
URI をバケットおよびフォルダに設定します。さらに、次のプロパティを設定して認証します。
- AWSAccessKey:AWS アクセスキー(username)に設定。
- AWSSecretKey:AWS シークレットキーに設定。
Box 内のCSV への接続
URI をCSV ファイルを含むフォルダへのパスに設定します。Box へ認証するには、OAuth 認証標準を使います。 認証方法については、Box への接続 を参照してください。
Dropbox 内のCSV への接続
URI をCSV ファイルを含むフォルダへのパスに設定します。Dropbox へ認証するには、OAuth 認証標準を使います。 認証方法については、Dropbox への接続 を参照してください。ユーザーアカウントまたはサービスアカウントで認証できます。ユーザーアカウントフローでは、以下の接続文字列で示すように、ユーザー資格情報の接続プロパティを設定する必要はありません。
SharePoint Online SOAP 内のCSV への接続
URI をCSV ファイルを含むドキュメントライブラリに設定します。認証するには、User、Password、およびStorageBaseURL を設定します。
SharePoint Online REST 内のCSV への接続
URI をCSV ファイルを含むドキュメントライブラリに設定します。StorageBaseURL は任意です。指定しない場合、ドライバーはルートドライブで動作します。 認証するには、OAuth 認証標準を使用します。
FTP 内のCSV への接続
URI をルートフォルダとして使用されるフォルダへのパスが付いたサーバーのアドレスに設定します。認証するには、User およびPassword を設定します。
Google Drive 内のCSV への接続
デスクトップアプリケーションからのGoogle への認証には、InitiateOAuth をGETANDREFRESH に設定して、接続してください。詳細はドキュメントの「Google Drive への接続」を参照してください。
以下の手順に従って、必要なモジュールをインストールし、Python オブジェクトを介して CSV にアクセスしてみましょう。
必要なモジュールのインストール
pip ユーティリティを使用して、pandas、Matplotlib モジュール、および SQLAlchemy ツールキットをインストールします。
pip install pandas pip install matplotlib pip install sqlalchemy
以下のようにモジュールをインポートしてください。
import pandas import matplotlib.pyplot as plt from sqlalchemy import create_engine
Python で CSV のデータを可視化する
接続文字列を使用して接続できます。create_engine 関数を使用して、CSV のデータを操作するための Engine を作成します。
engine = create_engine("csv:///?DataSource=MyCSVFilesFolder")
CSV への SQL の実行
pandas の read_sql 関数を使用して、SQL ステートメントを実行し、結果セットを DataFrame に格納します。
df = pandas.read_sql("SELECT City, TotalDue FROM Customer WHERE FirstName = 'Bob'", engine)
CSV のデータの可視化
クエリ結果が DataFrame に格納されたら、plot 関数を使用して CSV のデータを表示するグラフを作成します。show メソッドで、グラフを新しいウィンドウに表示します。
df.plot(kind="bar", x="City", y="TotalDue") plt.show()
無料トライアル & 詳細情報
CData Python Connector for CSV の 30日間無料トライアルをダウンロードして、CSV のデータに接続する Python アプリケーションやスクリプトの構築を始めましょう。ご質問がありましたら、サポートチームまでお気軽にお問い合わせください。
完全なソースコード
import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engin
engine = create_engine("csv:///?DataSource=MyCSVFilesFolder")
df = pandas.read_sql("SELECT City, TotalDue FROM Customer WHERE FirstName = 'Bob'", engine)
df.plot(kind="bar", x="City", y="TotalDue")
plt.show()