Python で pandas を使って Google Cloud Storage データを可視化する方法

Python の豊富なエコシステムを活用することで、作業を迅速に開始し、システム間の連携をより効果的に行うことができます。CData Python Connector for Google Cloud Storage、pandas および Matplotlib モジュール、SQLAlchemy ツールキットを組み合わせることで、Google Cloud Storage に接続した Python アプリケーションやスクリプトを構築し、Google Cloud Storage のデータを可視化できます。この記事では、pandas、SQLAlchemy、Matplotlib の組み込み関数を使用して Google Cloud Storage のデータに接続し、クエリを実行して結果を可視化する方法を説明します。

CData Python Connector は、組み込みの最適化されたデータ処理機能により、Python での Google Cloud Storage のデータへのリアルタイムアクセスにおいて比類のないパフォーマンスを提供します。Google Cloud Storage に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を Google Cloud Storage に直接プッシュし、サポートされていない操作（多くの場合、SQL 関数や JOIN 操作）は組み込みの SQL エンジンを使用してクライアント側で処理します。

Google Cloud Storage のデータへの接続

Google Cloud Storage のデータへの接続は、他のリレーショナルデータソースへの接続と同様です。必要な接続プロパティを使用して接続文字列を作成します。この記事では、接続文字列を create_engine 関数のパラメータとして渡します。

ユーザーアカウントでの認証

ユーザー資格情報の接続プロパティを設定することなく接続できます。InitiateOAuth をGETANDREFRESH に設定したら、接続の準備が完了です。

接続すると、Google Cloud Storage OAuth エンドポイントがデフォルトブラウザで開きます。ログインして権限を付与すると、OAuth プロセスが完了します。

サービスアカウントでの認証

サービスアカウントには、ブラウザでユーザー認証を行わないサイレント認証があります。サービスアカウントを使用して、企業全体のアクセススコープを委任することもできます。

このフローでは、OAuth アプリケーションを作成する必要があります。詳しくは、ヘルプドキュメントを参照してください。以下の接続プロパティを設定したら、接続の準備が完了です：

• InitiateOAuth: GETANDREFRESH に設定。
• OAuthJWTCertType: PFXFILE に設定。
• OAuthJWTCert: 生成した.p12 ファイルへのパスに設定。
• OAuthJWTCertPassword: .p12 ファイルのパスワードに設定。
• OAuthJWTCertSubject: 証明書ストアの最初の証明書が選ばれるように"*" に設定。
• OAuthJWTIssuer: 「サービスアカウント」セクションで「サービスアカウントの管理」をクリックし、このフィールドをサービスアカウントID フィールドに表示されているE メールアドレスに設定。
• OAuthJWTSubject: サブジェクトタイプが"enterprise" に設定されている場合はエンタープライズID に設定し、"user" に設定されている場合はアプリユーザーID に設定。
• ProjectId: 接続するプロジェクトのID に設定。

これで、サービスアカウントのOAuth フローが完了します。

以下の手順に従って、必要なモジュールをインストールし、Python オブジェクトを介して Google Cloud Storage にアクセスしてみましょう。

必要なモジュールのインストール

pip ユーティリティを使用して、pandas、Matplotlib モジュール、および SQLAlchemy ツールキットをインストールします。

pip install pandas
pip install matplotlib
pip install sqlalchemy

以下のようにモジュールをインポートしてください。

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engine

Python で Google Cloud Storage のデータを可視化する

接続文字列を使用して接続できます。create_engine 関数を使用して、Google Cloud Storage のデータを操作するための Engine を作成します。

engine = create_engine("googlecloudstorage:///?ProjectId='project1'")

Google Cloud Storage への SQL の実行

pandas の read_sql 関数を使用して、SQL ステートメントを実行し、結果セットを DataFrame に格納します。

df = pandas.read_sql("SELECT Name, OwnerId FROM Buckets WHERE Name = 'TestBucket'", engine)

Google Cloud Storage のデータの可視化

クエリ結果が DataFrame に格納されたら、plot 関数を使用して Google Cloud Storage のデータを表示するグラフを作成します。show メソッドで、グラフを新しいウィンドウに表示します。

df.plot(kind="bar", x="Name", y="OwnerId")
plt.show()

無料トライアル & 詳細情報

CData Python Connector for Google Cloud Storage の 30日間無料トライアルをダウンロードして、Google Cloud Storage のデータに接続する Python アプリケーションやスクリプトの構築を始めましょう。ご質問がありましたら、サポートチームまでお気軽にお問い合わせください。

完全なソースコード

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engin

engine = create_engine("googlecloudstorage:///?ProjectId='project1'")
df = pandas.read_sql("SELECT Name, OwnerId FROM Buckets WHERE Name = 'TestBucket'", engine)

df.plot(kind="bar", x="Name", y="OwnerId")
plt.show()