Redshift のデータをPowerShell でMySQL にレプリケーションする方法

CData Cmdlets for Redshift を使えば、PowerShell からRedshift のデータ データにリアルタイムで連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for Redshift およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でRedshift への接続を行います。レプリケーションは4つのステップがあります。

Amazon Redshift への接続

それでは、早速Amazon Redshift に接続していきましょう。データに接続するには、以下の接続パラメータを指定します。

• Server：Amazon Redshift データベースをホスティングしているサーバーのホスト名またはIP アドレス
• Database：Amazon Redshift クラスター用に作成したデータベース
• Port（オプション）：Amazon Redshift データベースをホスティングしているサーバーのポート。デフォルトは5439です

これらの値は、以下のステップでAWS マネージメントコンソールから取得できます。

1. Amazon Redshift コンソールを開きます（http://console.aws.amazon.com/redshift）
2. Clusters ページで、クラスター名をクリックしてください
3. Configuration タブの"Cluster Database Properties" セクションからプロパティを取得します。接続プロパティの値は、ODBC URL で設定された値と同じになります

Amazon Redshiftへの認証

CData 製品では幅広い認証オプションに対応しています。標準認証情報からIAM クレデンシャル、ADFS、Ping Federate、Microsoft Entra ID（Azure AD）、Azure AD PKCE まで利用可能です。

標準認証

ログイン資格情報を使用してAmazon Redshift に接続するには、以下のプロパティを設定してみましょう。

• AuthScheme：Basic
• User：認証するユーザーのログイン情報
• Password：認証するユーザーのパスワード

その他の認証方法については、ヘルプドキュメントをご確認ください。

Redshift のデータの取得

1. モジュールのインストール:

   Install-Module RedshiftCmdlets

2. Redshift への接続:

     $redshift = Connect-Redshift  -User $User -Password $Password -Database $Database -Server $Server -Port $Port
     

3. 取得ターゲットのリソースの取得:

     $data = Select-Redshift -Connection $redshift -Table "Orders"
     

   Invoke-Redshift cmdlet を使って、SQL-92 クエリを使用することもできます:

     $data = Invoke-Redshift -Connection $redshift -Query 'SELECT * FROM Orders WHERE ShipCountry = @ShipCountry' -Params @{'@ShipCountry'='USA'}
     

4. 戻り値からカラム名のリストを保存します。

     $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name
     

Redshift のデータをMySQL データベースにレプリケーション

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

1. モジュールのインストール:

   Install-Module MySQLCmdlets

2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

     $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
     

3. Redshift、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、Redshift のリソース（Orders）と同じテーブル名を持っている必要があります。

     $data | % {
       $row = $_
       $values = @()
       $columns | % {
         $col = $_
         $values += $row.$($col)
       }
       Add-MySQL -Connection $mysql -Table "Orders" -Columns $columns -Values $values
     }
     

次回以降のレプリケーションをシンプルに実現

• 一度PowerShell でRedshift とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-Redshift -Connection $redshift -Table "Orders" | % {
      $row = $_
      $values = @()
      $columns | % {
        $col = $_
        $values += $row.$($col)
      }
      Add-MySQL -Connection $mysql -Table "Orders" -Columns $columns -Values $values
    }
    

• 別のPowerShell モジュールで、Redshift を別のデータベースに複製する場合、Select-Redshift cmdlet のデータから、カラム、接続およびテーブルを除外しておきましょう。これらのデータはデータ移動のときだけ必要となるためです。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}
    

おわりに

これで、Redshift のデータをMySQL に複製できました。分析、BI などでRedshift のデータをMySQL から使うことができるようになります。