Python で pandas を使って Presto データを可視化する方法

Jerod Johnson
Jerod Johnson
Senior Technology Evangelist
pandas などのモジュールを使って Python で Presto のデータをリアルタイムに分析・可視化する方法を紹介します。

Python の豊富なエコシステムを活用することで、作業を迅速に開始し、システム間の連携をより効果的に行うことができます。CData Python Connector for Presto、pandas および Matplotlib モジュール、SQLAlchemy ツールキットを組み合わせることで、Presto に接続した Python アプリケーションやスクリプトを構築し、Presto のデータを可視化できます。この記事では、pandas、SQLAlchemy、Matplotlib の組み込み関数を使用して Presto のデータに接続し、クエリを実行して結果を可視化する方法を説明します。

CData Python Connector は、組み込みの最適化されたデータ処理機能により、Python での Presto のデータへのリアルタイムアクセスにおいて比類のないパフォーマンスを提供します。Presto に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を Presto に直接プッシュし、サポートされていない操作(多くの場合、SQL 関数や JOIN 操作)は組み込みの SQL エンジンを使用してクライアント側で処理します。

Presto データ連携について

CData を使用すれば、Trino および Presto SQL エンジンのライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています:

  • Trino v345 以降(旧 PrestoSQL)および Presto v0.242 以降(旧 PrestoDB)のデータにアクセスできます。
  • Trino または Presto インスタンスの基盤となるすべてのデータに対して読み取り・書き込みアクセスができます。
  • 最大スループットのための最適化されたクエリ生成。

Presto と Trino により、ユーザーは単一のエンドポイントを通じてさまざまな基盤データソースにアクセスできます。CData の接続と組み合わせることで、ユーザーはインスタンスへの純粋な SQL-92 アクセスを取得し、ビジネスデータをデータウェアハウスに統合したり、Power BI や Tableau などのお気に入りのツールからライブデータに直接簡単にアクセスしたりできます。

多くの場合、CData のライブ接続は、ツールで利用可能なネイティブのインポート機能を上回ります。あるお客様は、レポートに必要なデータセットのサイズが大きいため、Power BI を効果的に使用できませんでした。同社が CData Power BI Connector for Presto を導入したところ、DirectQuery 接続モードを使用してリアルタイムでレポートを生成できるようになりました。


はじめに


Presto のデータへの接続

Presto のデータへの接続は、他のリレーショナルデータソースへの接続と同様です。必要な接続プロパティを使用して接続文字列を作成します。この記事では、接続文字列を create_engine 関数のパラメータとして渡します。

Presto への接続には、まずはServer およびPort を接続プロパティとして設定します。それ以外の追加項目は接続方式によって異なります。

TLS/SSL を有効化するには、UseSSL をTRUE に設定します。

LDAP で認証

LDAP で認証するには、次の接続プロパティを設定します:

  • AuthScheme: LDAP に設定。
  • User: LDAP で接続するユーザー名。
  • Password: LDAP で接続するユーザーのパスワード。

Kerberos 認証

KERBEROS 認証を使う場合には、以下を設定します:

  • AuthScheme: KERBEROS に設定。
  • KerberosKDC: 接続するユーザーのKerberos Key Distribution Center (KDC) サービス。
  • KerberosRealm: 接続するユーザーのKerberos Realm 。
  • KerberosSPN: Kerberos Domain Controller のService Principal Name。
  • KerberosKeytabFile: Kerberos principals とencrypted keys を含むKeytab file。
  • User: Kerberos のユーザー。
  • Password: Kerberos で認証するユーザーのパスワード。

以下の手順に従って、必要なモジュールをインストールし、Python オブジェクトを介して Presto にアクセスしてみましょう。

必要なモジュールのインストール

pip ユーティリティを使用して、pandas、Matplotlib モジュール、および SQLAlchemy ツールキットをインストールします。

pip install pandas
pip install matplotlib
pip install sqlalchemy

以下のようにモジュールをインポートしてください。

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engine

Python で Presto のデータを可視化する

接続文字列を使用して接続できます。create_engine 関数を使用して、Presto のデータを操作するための Engine を作成します。

engine = create_engine("presto:///?Server=127.0.0.1&Port=8080")

Presto への SQL の実行

pandas の read_sql 関数を使用して、SQL ステートメントを実行し、結果セットを DataFrame に格納します。

df = pandas.read_sql("SELECT FirstName, LastName FROM Customer WHERE Id = '123456789'", engine)

Presto のデータの可視化

クエリ結果が DataFrame に格納されたら、plot 関数を使用して Presto のデータを表示するグラフを作成します。show メソッドで、グラフを新しいウィンドウに表示します。

df.plot(kind="bar", x="FirstName", y="LastName")
plt.show()

無料トライアル & 詳細情報

CData Python Connector for Presto の 30日間無料トライアルをダウンロードして、Presto のデータに接続する Python アプリケーションやスクリプトの構築を始めましょう。ご質問がありましたら、サポートチームまでお気軽にお問い合わせください。



完全なソースコード

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engin

engine = create_engine("presto:///?Server=127.0.0.1&Port=8080")
df = pandas.read_sql("SELECT FirstName, LastName FROM Customer WHERE Id = '123456789'", engine)

df.plot(kind="bar", x="FirstName", y="LastName")
plt.show()

はじめる準備はできましたか?

Presto Connector のコミュニティライセンスをダウンロード:

 ダウンロード

詳細:

Presto Icon Presto Python Connector お問い合わせ

Presto へのデータ連携用のPython Connecotr ライブラリ。 pandas、SQLAlchemy、Dash、petl などの主要なPython ツールにPresto をシームレスに統合。