Amazon Athena のデータをPowerShell でMySQL にレプリケーションする方法

CData Cmdlets for AmazonAthena を使えば、PowerShell からAmazon Athena のデータ データにリアルタイムで連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for AmazonAthena およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でAmazon Athena への接続を行います。レプリケーションは4つのステップがあります。

Amazon Athena 接続プロパティの取得・設定方法

それでは、早速Athena に接続していきましょう。

データに接続するには、以下の接続パラメータを指定します。

• DataSource：接続するAmazon Athena データソース。
• Database：接続するAmazon Athena データベース。
• AWSRegion：Amazon Athena データがホストされているリージョン。
• S3StagingDirectory：クエリの結果を保存するS3 フォルダ。

Database またはDataSource が設定されていない場合、CData 製品はAmazon Athena の利用可能なデータソースからすべてのデータベースのリスト化を試みます。そのため、両方のプロパティを設定することでCData 製品のパフォーマンスが向上します。

Amazon Athena の認証設定

CData 製品は幅広い認証オプションに対応しています。詳しくはヘルプドキュメントの「はじめに」を参照してみてください。

AWS キーを取得

IAM ユーザーの認証情報を取得するには、以下のステップお試しください。

1. IAM コンソールにサインインします。
2. ナビゲーションペインでユーザーを選択します。
3. ユーザーのアクセスキーを作成または管理するには、ユーザーを選択してからセキュリティ認証情報タブに移動します。

AWS ルートアカウントの資格情報を取得するには、以下のステップをお試しください。

1. ルートアカウントの認証情報を使用してAWS 管理コンソールにサインインします。
2. アカウント名または番号を選択します。
3. 表示されたメニューでMy Security Credentials を選択します。
4. ルートアカウントのアクセスキーを管理または作成するには、Continue to Security Credentials をクリックし、［Access Keys］セクションを展開します。

その他の認証オプションについては、ヘルプドキュメントの「Amazon Athena への認証」を参照してください。

Amazon Athena のデータの取得

1. モジュールのインストール:

   Install-Module AmazonAthenaCmdlets

2. Amazon Athena への接続:

     $amazonathena = Connect-AmazonAthena  -AccessKey $AccessKey -SecretKey $SecretKey -Region $Region -Database $Database -S3StagingDirectory $S3StagingDirectory
     

3. 取得ターゲットのリソースの取得:

     $data = Select-AmazonAthena -Connection $amazonathena -Table "Customers"
     

   Invoke-AmazonAthena cmdlet を使って、SQL-92 クエリを使用することもできます:

     $data = Invoke-AmazonAthena -Connection $amazonathena -Query 'SELECT * FROM Customers WHERE CustomerId = @CustomerId' -Params @{'@CustomerId'='12345'}
     

4. 戻り値からカラム名のリストを保存します。

     $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name
     

Amazon Athena のデータをMySQL データベースにレプリケーション

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

1. モジュールのインストール:

   Install-Module MySQLCmdlets

2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

     $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
     

3. Amazon Athena、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、Amazon Athena のリソース（Customers）と同じテーブル名を持っている必要があります。

     $data | % {
       $row = $_
       $values = @()
       $columns | % {
         $col = $_
         $values += $row.$($col)
       }
       Add-MySQL -Connection $mysql -Table "Customers" -Columns $columns -Values $values
     }
     

次回以降のレプリケーションをシンプルに実現

• 一度PowerShell でAmazon Athena とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-AmazonAthena -Connection $amazonathena -Table "Customers" | % {
      $row = $_
      $values = @()
      $columns | % {
        $col = $_
        $values += $row.$($col)
      }
      Add-MySQL -Connection $mysql -Table "Customers" -Columns $columns -Values $values
    }
    

• 別のPowerShell モジュールで、Amazon Athena を別のデータベースに複製する場合、Select-AmazonAthena cmdlet のデータから、カラム、接続およびテーブルを除外しておきましょう。これらのデータはデータ移動のときだけ必要となるためです。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}
    

おわりに

これで、Amazon Athena のデータをMySQL に複製できました。分析、BI などでAmazon Athena のデータをMySQL から使うことができるようになります。