Python で pandas を使って IBM Cloud Object Storage データを可視化する方法

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
pandas などのモジュールを使って Python で IBM Cloud Object Storage のデータをリアルタイムに分析・可視化する方法を紹介します。

Python の豊富なエコシステムを活用することで、作業を迅速に開始し、システム間の連携をより効果的に行うことができます。CData Python Connector for IBM Cloud Object Storage、pandas および Matplotlib モジュール、SQLAlchemy ツールキットを組み合わせることで、IBM Cloud Object Storage に接続した Python アプリケーションやスクリプトを構築し、IBM Cloud Object Storage のデータを可視化できます。この記事では、pandas、SQLAlchemy、Matplotlib の組み込み関数を使用して IBM Cloud Object Storage のデータに接続し、クエリを実行して結果を可視化する方法を説明します。

CData Python Connector は、組み込みの最適化されたデータ処理機能により、Python での IBM Cloud Object Storage のデータへのリアルタイムアクセスにおいて比類のないパフォーマンスを提供します。IBM Cloud Object Storage に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を IBM Cloud Object Storage に直接プッシュし、サポートされていない操作(多くの場合、SQL 関数や JOIN 操作)は組み込みの SQL エンジンを使用してクライアント側で処理します。

IBM Cloud Object Storage のデータへの接続

IBM Cloud Object Storage のデータへの接続は、他のリレーショナルデータソースへの接続と同様です。必要な接続プロパティを使用して接続文字列を作成します。この記事では、接続文字列を create_engine 関数のパラメータとして渡します。

Cloud Object Storage 接続プロパティの取得・設定方法

Cloud Object Storage に接続する前に、Cloud Object Storage インスタンスを登録してCloud Object Storage API キーとCRN を取得していきます。

Cloud Object Storage の新規インスタンスの登録

IBM Cloud アカウントにCloud Object Storage がまだない場合は、以下の手順に従ってアカウントにSQL Query のインスタンスをインストールできます。

  1. IBM Cloud アカウントにログインします。
  2. Cloud Object Storage ページに移動して、インスタンス名を指定して「作成」をクリックします。Cloud Object Storage の新規インスタンスにリダイレクトされます。

API キー

API キーは以下の手順で取得できます。

  1. まずは、IBM Cloud アカウントにログインします。
  2. API キーページに移動します。
  3. 中央右隅のIBM Cloud APIキーの作成 をクリックして、新しいAPI キーを作成します。
  4. ポップアップウィンドウが表示されたら、API キーの名前を指定して作成をクリックします。ダッシュボードからはアクセスできなくなるため、API Key を控えておきましょう。

Cloud Object Storage CRN

デフォルトでは、CData 製品はCloud Object Storage CRN を自動で取得します。ただし、複数のアカウントがある場合は、CloudObjectStorageCRN を明示的に指定する必要があります。この値は、次の2つの方法で取得できます。

  • Services ビューをクエリする。これにより、IBM Cloud Object Storage インスタンスとそれぞれのCRN がリストされます。
  • IBM Cloud で直接CRN を見つける。これを行うには、IBM Cloud のダッシュボードに移動します。リソースリストで、ストレージからCloud Object Storage リソースを選択してCRN を取得します。

IBM Cloud Object Storage への接続

これで準備は完了です。以下の接続プロパティを設定してください。

  • InitiateOAuthGETANDREFRESH に設定。InitiateOAuth を使うと、OAuth 認証を繰り返す必要がなく、さらに自動でアクセストークンを設定できます。
  • ApiKey:セットアップ中に控えたAPI キーを指定。
  • CloudObjectStorageCRN(オプション):控えておいたCloud Object Storage のCRN に設定。Cloud Object Storage アカウントが複数ある場合のみ設定する必要があります。

プロパティを設定したら、これで接続設定は完了です。

以下の手順に従って、必要なモジュールをインストールし、Python オブジェクトを介して IBM Cloud Object Storage にアクセスしてみましょう。

必要なモジュールのインストール

pip ユーティリティを使用して、pandas、Matplotlib モジュール、および SQLAlchemy ツールキットをインストールします。

pip install pandas
pip install matplotlib
pip install sqlalchemy

以下のようにモジュールをインポートしてください。

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engine

Python で IBM Cloud Object Storage のデータを可視化する

接続文字列を使用して接続できます。create_engine 関数を使用して、IBM Cloud Object Storage のデータを操作するための Engine を作成します。

engine = create_engine("ibmcloudobjectstorage:///?ApiKey=myApiKey&CloudObjectStorageCRN=MyInstanceCRN&Region=myRegion&OAuthClientId=MyOAuthClientId&OAuthClientSecret=myOAuthClientSecret")

IBM Cloud Object Storage への SQL の実行

pandas の read_sql 関数を使用して、SQL ステートメントを実行し、結果セットを DataFrame に格納します。

df = pandas.read_sql("SELECT Key, Etag FROM Objects WHERE Bucket = 'someBucket'", engine)

IBM Cloud Object Storage のデータの可視化

クエリ結果が DataFrame に格納されたら、plot 関数を使用して IBM Cloud Object Storage のデータを表示するグラフを作成します。show メソッドで、グラフを新しいウィンドウに表示します。

df.plot(kind="bar", x="Key", y="Etag")
plt.show()

無料トライアル & 詳細情報

CData Python Connector for IBM Cloud Object Storage の 30日間無料トライアルをダウンロードして、IBM Cloud Object Storage のデータに接続する Python アプリケーションやスクリプトの構築を始めましょう。ご質問がありましたら、サポートチームまでお気軽にお問い合わせください。



完全なソースコード

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engin

engine = create_engine("ibmcloudobjectstorage:///?ApiKey=myApiKey&CloudObjectStorageCRN=MyInstanceCRN&Region=myRegion&OAuthClientId=MyOAuthClientId&OAuthClientSecret=myOAuthClientSecret")
df = pandas.read_sql("SELECT Key, Etag FROM Objects WHERE Bucket = 'someBucket'", engine)

df.plot(kind="bar", x="Key", y="Etag")
plt.show()

はじめる準備はできましたか?

IBM Cloud Object Storage Connector のコミュニティライセンスをダウンロード:

 ダウンロード

詳細:

IBM Cloud Object Storage Icon IBM Cloud Object Storage Python Connector お問い合わせ

IBM Cloud Object Storage データ連携用のPython コネクタライブラリ。IBM Cloud Object Storage データをpandas、SQLAlchemy、Dash、petl などの人気のPython ツールにシームレスに統合。