Amazon Athena のデータ の PostgreSQL インターフェースを作成(MySQL リモーティング経由の JDBC)
PostgreSQL には多くの対応クライアントがあります。標準のドライバーから BI、アナリティクスツールまで、PostgreSQL はデータ接続の人気のインターフェースです。JDBC ドライバーのリモーティング機能を使用することで、任意の標準クライアントから接続できる PostgreSQL エントリポイントを簡単に作成できます。
Amazon Athena のデータ に PostgreSQL データベースとしてアクセスするには、CData JDBC Driver for Amazon Athena のリモーティング機能と、EnterpriseDB の MySQL Foreign Data Wrapper(FDW)を使用します。この記事では、FDW をインストールし、PostgreSQL Server からAmazon Athena のデータにクエリを実行する方法を説明します。
Amazon Athena データ連携について
CData は、Amazon Athena のライブデータにアクセスし、統合するための最も簡単な方法を提供します。お客様は CData の接続機能を以下の目的で使用しています:
- IAM 認証情報、アクセスキー、インスタンスプロファイルなど、さまざまな方法で安全に認証できます。多様なセキュリティニーズに対応し、認証プロセスを簡素化します。
- 詳細なエラーメッセージにより、セットアップを効率化し、問題を迅速に解決できます。
- サーバーサイドでのクエリ実行により、パフォーマンスを向上させ、クライアントリソースへの負荷を最小限に抑えます。
ユーザーは、Tableau、Power BI、Excel などの分析ツールと Athena を統合し、お気に入りのツールから詳細な分析を行うことができます。
CData を使用した Amazon Athena のユニークなユースケースについては、ブログ記事をご覧ください:https://jp.cdata.com/blog/amazon-athena-use-cases
はじめに
Amazon Athena への接続を設定
以下の手順に従って、Amazon Athena への接続に必要な認証情報やその他の接続プロパティをドライバーの MySQL デーモンに設定します。MySQL デーモンは、Amazon Athena のデータ を CDataAmazonAthena という名前の MySQL データベースとして公開します。デーモンの設定ファイル内の databases セクションに接続プロパティを追加します。設定ファイルは、ドライバーのインストールディレクトリの lib サブフォルダにあります。
以下は一般的な接続文字列です:
[databases] amazon athena = "AccessKey='a123';SecretKey='s123';Region='IRELAND';Database='sampledb';S3StagingDirectory='s3://bucket/staging/';"
また、users セクションにユーザーを作成します。
MySQL デーモンのすべての設定オプションについては、ヘルプドキュメントをご参照ください。
リモーティングサービスを開始
以下の手順に従って、CData JDBC Driver for Amazon Athena の MySQL リモーティング機能を有効にします。
ドライバーはテスト用に適したデフォルト設定を作成します。サービスを開始するだけでAmazon Athena のデータに接続できます。
- 以下のコマンドで MySQL リモーティングサービスを開始します:
java -jar cdata.jdbc.amazonathena.jar -f cdata.jdbc.amazonathena.remoting.ini
MySQL Foreign Data Wrapper をビルドしてインストール
Foreign Data Wrapper は、PostgreSQL を再コンパイルせずに、PostgreSQL の拡張機能としてインストールできます。
お使いの OS で pgxn が利用可能な場合は、以下のコマンドでインストールできます:
pgxn install mysql_fdw USE_PGXS=1
利用できない場合は、以下の手順で自分でビルドしてください:
- MySQL C クライアントライブラリをインストールし、EnterpriseDB の MySQL 用 FDW のソースを取得します(例:GitHub から)。
- FDW をビルドします。pg_config と mysql_config の実行ファイルを PATH に追加してください:
env PATH=/usr/local/pgsql/bin:/usr/local/mysql/bin:$PATH make USE_PGXS=1
-
FDW をインストールします:
make USE_PGXS=1 install
インストールを完了するには、libmysqlclient ライブラリを環境にロードする必要があります(例:パスに追加するなど)。
Amazon Athena のデータ を PostgreSQL データベースとしてクエリ
拡張機能をインストールした後、以下の手順に従ってAmazon Athena のデータへのクエリ実行を開始します:
- データベースにログインします。
-
データベースの拡張機能をロードします:
postgres=#CREATE EXTENSION mysql_fdw;
-
Amazon Athena のデータ 用のサーバーオブジェクトを作成します:
postgres=# CREATE SERVER AmazonAthena FOREIGN DATA WRAPPER mysql_fdw OPTIONS (host '127.0.0.1', port '3309');
-
MySQL デーモンに認識されているユーザーのユーザー名とパスワードでユーザーマッピングを作成します:
postgres=# CREATE USER MAPPING for postgres SERVER AmazonAthena OPTIONS (username 'admin', password 'test');
-
ローカルスキーマを作成します:
postgres=# CREATE SCHEMA AmazonAthena_db;
-
デーモン設定ファイルで定義した Amazon Athena データベース内のすべてのテーブルをインポートします:
postgres=# IMPORT FOREIGN SCHEMA "AmazonAthena" FROM SERVER AmazonAthena INTO AmazonAthena_db;
これで Amazon Athena に対して 読み取り/書き込み コマンドを実行できます:
postgres=# SELECT * FROM AmazonAthena_db."customers";