PowerShell からSnowflake のデータに接続してデータの取得・更新・挿入・削除・CSV エクスポートを実行する方法
CData Cmdlets for Snowflake を使えば、PowerShell からSnowflake に手軽に連携して、データのCRUD やエクスポートを実行できます。
本記事では、Snowflake への接続方法からCSV エクスポート、データの操作までサンプルコード付きで解説していきます。
Snowflake への接続を設定
それでは、まずはSnowflake への接続設定からはじめていきましょう。接続設定にはCData Snowflake Cmdlets が必要となります。右側のサイドバーから製品の全機能が使える30日間の無償トライアルがダウンロードできるので、ぜひご利用ください。
インストールが完了したら、プロファイルに以下の行を追加してください。次のPowerShell セッションでモジュールがロードされます。
Import-Module SnowflakeCmdlets;
Connect-Snowflake コマンドを使ってSnowflake との接続を設定します。各接続プロパティの取得方法は次に説明します。
$conn = Connect-Snowflake -User "$User" -Password "$Password" -Server "$Server" -Database "$Database" -Warehouse "$Warehouse" -Account "$Account"
それでは、Snowflake データベースに接続していきましょう。認証に加えて、以下の接続プロパティを設定します。
- Url:お使いのSnowflake URL を指定します。例:https://orgname-myaccount.snowflakecomputing.com
- Legacy URL を使用する場合:https://myaccount.region.snowflakecomputing.com
- ご自身のURL は以下のステップで確認できます。
- Snowflake UI の左下にあるユーザー名をクリックします
- Account ID にカーソルを合わせます
- Copy Account URL アイコンをクリックして、アカウントURL をコピーします
- Database(オプション):CData 製品によって公開されるテーブルとビューを、特定のSnowflake データベースのものに制限したい場合に設定します
- Schema(オプション):CData 製品によって公開されるテーブルとビューを、特定のSnowflake データベーススキーマのものに制限したい場合に設定します
Snowflakeへの認証
CData 製品では、Snowflake ユーザー認証、フェデレーション認証、およびSSL クライアント認証をサポートしています。認証するには、User とPassword を設定し、AuthScheme プロパティで認証方法を選択してください。
キーペア認証
ユーザーアカウントに定義されたプライベートキーを使用してセキュアなトークンを作成し、キーペア認証で接続することも可能です。この方法で接続するには、AuthScheme をPRIVATEKEY に設定し、以下の値を設定してください。
- User:認証に使用するユーザーアカウント
- PrivateKey:プライベートキーを含む.pem ファイルへのパスなど、ユーザーに使用されるプライベートキー
- PrivateKeyType:プライベートキーを含むキーストアの種類(PEMKEY_FILE、PFXFILE など)
- PrivateKeyPassword:指定されたプライベートキーのパスワード
その他の認証方法については、ヘルプドキュメントの「Snowflakeへの認証」セクションをご確認ください。
これで接続設定は完了です。
Snowflake のデータを取得してCSV にパイプライン
接続が完了したので、Products テーブルデータを取得して結果をCSV ファイルにエクスポートします。
Select-Snowflake -Connection $conn -Table Products | Select -Property * -ExcludeProperty Connection,Table,Columns | Export-Csv -Path c:\myProductsData.csv -NoTypeInformation
このコードでは、Select-Snowflake から取得した結果をSelect-Object に流して、Export-Csv に渡す前にいくつかのプロパティを除外しています。これは、CData Cmdlets が接続情報、テーブル、およびカラム情報を結果セットのそれぞれの行に挿入するためです。それらの情報を表示したくない場合に、Export-Csv コマンドに渡す前に除外を先に行い、そのあとでCSV ファイルにエクスポートします。
それでは、続いてデータの削除や挿入・更新を実行してみます。
データの削除
以下のように、フィルタリングで合致するレコードを削除することができます。
Select-Snowflake -Connection $conn -Table Products -Where "Id = 1" | Remove-Snowflake
データの挿入と更新
データの挿入や更新を使って、加工やクレンジングも行えます。以下の手順では、CSV ファイルのデータを読み込んで挿入対象のオブジェクトに同じレコードが存在するかを確認した上で、存在する場合にはデータを更新、存在しない場合にはデータの挿入を行います。
Import-Csv -Path C:\MyProductsUpdates.csv | %{
$record = Select-Snowflake -Connection $Snowflake -Table Products -Where ("Id = `'"+$_.Id+"`'")
if($record){
Update-Snowflake -Connection $snowflake -Table Products -Columns ("Id","ProductName") -Values ($_.Id, $_.ProductName) -Where ("Id = `'"+$_.Id+"`'")
}else{
Add-Snowflake -Connection $snowflake -Table Products -Columns ("Id","ProductName") -Values ($_.Id, $_.ProductName)
}
}
おわりに
このように、CData Cmdlets を使えばPowerShell でのSnowflake のデータへの連携をシンプルに実現できます。ぜひCData PowerShell Cmdlets の30日間無償トライアルをダウンロードして、シンプルかつパワフルなデータ連携をお試しください。